AI가 스스로 만든 40B 코딩 모델: Recursive Flint가 보여준 MoE와 자율 R&D의 미래
“인간 엔지니어가 아니라, AI 연구 시스템이 스스로 설계하고 최적화한 오픈 모델이 나왔습니다.”
2026년 10월 21일, 독일 베를린에서 열린 NVIDIA GTC 현장에서 프론티어 AI 연구소 Recursive Superintelligence가 오픈 가중치 코딩 특화 모델인 Recursive Flint(Flint-40B-A2B)를 공식 발표했습니다.
이 모델이 던진 충격은 크게 두 가지입니다.
첫째는 아키텍처 탐색부터 GPU 커널 최적화까지 개발 전 과정을 자율 연구 AI인 ’유레카 머신(Eureka Machine)’이 주도하여 단 4개월 만에 완성했다는 점이고, 둘째는 400억 개(40B) 파라미터 모델이 로컬 PC에서 초당 220토큰 이상의 속도로 날아다닌다는 점입니다.
어떻게 40B 규모의 거대 코딩 모델이 고가의 데이터센터 클러스터 없이 개인용 PC에서 초고속으로 구동될 수 있을까요? 그 핵심에 있는 MoE(Mixture of Experts) 아키텍처와 자율 AI R&D의 실체를 차근차근 짚어봅니다.
1. 누가 만들었는가? — Recursive Superintelligence와 ‘유레카 머신’
Recursive Superintelligence는 세일즈포스(Salesforce) 수석 과학자이자 You.com을 창업했던 리처드 소처(Richard Socher)와 전 메타(Meta AI) 리서치 디렉터 톈위안둥(Tian Yuandong)이 공동 설립한 프론티어 AI 연구소입니다.
이들의 궁극적인 미션은 재귀적 자기개선(Recursive Self-Improvement, RSI), 즉 “AI가 스스로 더 우수한 AI를 연구하고 설계하며 구축하게 만든다“는 것입니다.
flowchart TD
subgraph EurekaMachine ["자율 R&D 루프: 유레카 머신 (Eureka Machine)"]
H1["1. 아키텍처 가설 수립"]
H2["2. 모델 코드 및 훈련 파이프라인 구현"]
H3["3. 병렬 가상 실험 & 벤치마크 검증"]
H4["4. 결과 분석 및 GPU 커널 자율 튜닝"]
H1 --> H2 --> H3 --> H4 -->|피드백 반영 및 진화| H1
end
EurekaMachine -->|4개월 만에 백지에서 완성| Flint["Recursive Flint (40B-A2B MoE)"]
Flint는 이들이 개발한 자율 AI 연구 시스템인 ’유레카 머신’의 첫 번째 실체적 결과물입니다. 수많은 인간 연구원이 밤을 새우며 하이퍼파라미터를 튜닝하는 대신, 유레카 머신이 수천 개의 아키텍처 후보를 병렬로 시뮬레이션하고 검증하여 최적의 코딩 특화 MoE 설계를 스스로 도출했습니다.
2. MoE의 마법: 40B를 2.5B처럼 돌리는 원리
Flint의 공식 모델 명칭은 Flint-40B-A2B입니다.
여기서 40B는 전체 파라미터 수이고, A2B(Active 2.5B)는 토큰 1개를 생성할 때 실제로 계산에 참여하는 활성 파라미터 수를 뜻합니다.
전통적인 밀집(Dense) 모델과 MoE(전문가 혼합) 모델의 차이를 비교해 보면 왜 이 방식이 혁신적인지 명확해집니다.
flowchart TD
subgraph Dense ["전통적인 밀집 (Dense) 모델 (40B)"]
D_In["입력 토큰"] --> D_All["400억 개 뉴런 전체가 매 토큰마다 일제히 계산"]
D_All --> D_Out["출력 토큰"]
note1["🔥 막대한 VRAM 대역폭 소모 & 연산 지연"]
end
subgraph MoE ["Recursive Flint MoE 모델 (40B-A2B)"]
M_In["입력 토큰"] --> Router["라우터(Router) 신경망"]
Router -->|필요한 전문가만 활성화| E1["전문가 1 (Python)"]
Router -.->|비활성| E2["전문가 2 (SQL)"]
Router -->|필요한 전문가만 활성화| E3["전문가 3 (Algorithm)"]
Router -.->|비활성| E4["전문가 4 (Rust)"]
E1 & E3 --> M_Out["출력 토큰"]
note2["⚡ 전체 40B 중 2.5B 분량만 가동 (초고속 저전력)"]
end
왜 40B의 용량이 필요한가? (Capacity)
코딩 에이전트는 Python, JavaScript, Rust, C++뿐 아니라 복잡한 SQL 쿼리, 프레임워크 문법, 디자인 패턴, 알고리즘 문제 해결 전략까지 전부 머릿속에 담고 있어야 합니다. 2B~3B 수준의 초소형 모델은 두뇌의 절대 용량(Capacity)이 부족해 이 방대한 지식을 다 담아내지 못하고 환각을 일으키기 쉽습니다. 40B의 총 파라미터는 이 방대한 지식을 분산 저장하는 거대한 서가 역할을 합니다.
왜 2.5B만 계산하는가? (Compute Efficiency)
하지만 파이썬의 비동기 버그를 고치는 순간에 SQL 파싱 지식이나 CSS 문법 뉴런까지 전부 켤 필요는 없습니다. Flint 내부의 라우터 레이어는 들어온 토큰의 문맥을 보고, 40B 분량의 전문가들 중 지금 가장 필요한 상위 몇 개의 전문가(Top-K Experts, 약 2.5B 분량)만 골라 켭니다.
결과적으로 모델은 40B급의 방대한 지식과 추론 깊이를 유지하면서도, 실제 GPU가 감당해야 하는 연산량과 메모리 전송량은 2.5B 소형 모델 수준으로 억제됩니다. 지난 1편 「AI는 글자가 아니라 토큰을 읽는다: 어휘 사전과 추론의 물리적 실체」에서 다루었던 디코드(Decode) 단계의 메모리 대역폭 병목을 아키텍처 차원에서 영리하게 우회한 것입니다.
3. 로컬 220 tok/s: AI가 스스로 튜닝한 전용 GPU 커널
이 극단적인 MoE 아키텍처에 엔지니어링 최적화가 더해지며 경이적인 성능이 도출되었습니다.
| 평가 항목 | Recursive Flint-40B-A2B | 비고 |
|---|---|---|
| 추론 속도 (Local) | 220+ tokens/sec | 64GB NVIDIA RTX Spark PC 기준 실측값 |
| 코딩 벤치마크 | SWE-Bench Pro v2, Terminal-Bench 2.1 최상위권 | 동급 오픈 코딩 모델 중 최고 수준 |
| GPU 커널 최적화 | 속도 +55% 부스팅 | 유레카 머신이 작성한 전용 커널 탑재 (가중치 변경 없음) |
| 라이선스 | Apache 2.0 | 수정, 상업적 이용, 사내 배포 완전 무료 허용 |
특히 눈여겨볼 점은 유레카 머신이 모델 가중치를 학습시키는 데 그치지 않고, NVIDIA 하드웨어에서 MoE 라우팅과 텐서 연산을 극대화할 수 있는 전용 CUDA 커널을 스스로 생성하여 통합했다는 사실입니다. 소프트웨어 튜닝만으로 기본 생성 속도를 55% 추가로 끌어올렸습니다.
초당 220토큰이라는 속도는 개발자가 타이핑을 치는 속도를 아득히 넘어섭니다. 터미널에서 버그 리포트를 입력하면 에이전트가 순식간에 관련 파일을 뒤지고, 테스트 코드를 작성하고, 패치를 적용하는 복합 워크플로우를 사용자가 기다림을 느끼지 못할 실시간성으로 완수할 수 있음을 의미합니다.
4. 인프라 관점의 시사점: 로컬 프라이빗 코딩 에이전트의 완성
Flint의 등장은 인프라 및 보안 관점에서 매우 중요한 이정표입니다.
- 사내 소스코드의 클라우드 유출 원천 차단
기업 환경에서 Claude나 GPT 같은 클라우드 모델을 코딩 에이전트로 쓸 때 가장 큰 걸림돌은 보안과 지적재산권(IP) 유출 우려였습니다. Flint는 Apache 2.0 오픈 가중치로 공개되어, 개발자의 로컬 워크스테이션이나 온프레미스 폐쇄망 GPU 서버에 완전히 격리된 상태로 배포할 수 있습니다. - MoE는 클라우드의 전유물이 아니다
불과 얼마 전만 해도 수백 기가바이트의 VRAM이 필요한 MoE 모델은 거대 클라우드 데이터센터에서만 돌릴 수 있는 기술로 여겨졌습니다. 하지만 40B-A2B처럼 극단적 희소성(Sparsity)을 갖춘 MoE 설계가 등장하면서, 개인용 하드웨어(NVIDIA RTX Spark, Apple Silicon Mac 등)에서도 대형 모델의 지능을 저전력으로 누릴 수 있는 환경이 열렸습니다. - 자율 R&D(Eureka Machine)가 바꿀 소프트웨어 생태계
인간이 손으로 코드를 최적화하고 모델을 설계하는 속도보다, AI가 수천 개의 실험을 병렬로 돌리며 특화 커널과 신경망을 조립하는 속도가 훨씬 빠르다는 점이 입증되었습니다. 앞으로의 모델 경쟁은 인간 연구원의 머릿수가 아니라 연구 루프를 얼마나 자율화했는가에서 갈릴 가능성이 큽니다.