🤖
1334 in / 2850 out / 4184 total tokens
에이전트 아키텍처가 모델 크기보다 중요해지는 시점이다. Qwen 9B를 적절한 스캐폴드에 넣으니 성능이 2배 이상 뛰었고, 불교 철학을 에이전트 프레임워크에 녹이는 실험도 등장했다. 모델 자체보다 "어떻게 쓰느냐"가 핵심이 되는 분위기다.
🔥 핫 토픽
로컬 모델 Qwen3.6-35B, 에이전트와 결합하니 클라우드 모델과 맞먹는 성능 달성
Reddit r/LocalLLaMA에서 흥미로운 벤치마크 결과가 올라왔다. Qwen 9B 모델을 그냥 쓸 때는 19.11%였던 벤치마크 점수가, 에이전트 스캐폴드(구조)를 바꾸니 45.56%로 뛰었다. 같은 모델인데 2.4배 성능 향상. 그리고 이 접근을 35B 모델에 적용하니 클라우드 서비스 수준의 성능이 나온다는 이야기다.
이게 왜 중요하냐. 게임 서버 최적화랑 비슷하다. 서버 하드웨어를 아무리 좋은 걸로 갈아끼우는 것보다, 아키텍처를 어떻게 짜느냐가 더 큰 차이를 만든다. LLM도 마찬가지다. 모델 파라미터를 키우는 것보다, 에이전트 루프를 어떻게 설계하느냐가 성능에 더 큰 영향을 미친다.
실무 관점에서 보면, 로컬에서 돌릴 수 있는 35B 모델로 클라우드 API 수준의 결과를 얻을 수 있다는 건 큰 의미가 있다. 비용 절감도 있지만, 더 중요한 건 지연 시간과 프라이버시다. 게임 내 NPC AI를 생각해보라. 매번 API 콜 날리면 레이턴시 때문에 게임플레이가 망가진다. 로컬 추론이 가능해지면 실시간 반응이 가능해진다.
기술적 배경을 설명하면, "에이전트 스캐폴드"라는 건 LLM을 둘러싼 워크플로우 구조를 말한다. 단순히 프롬프트 하나 날리는 게 아니라, 도구 사용, 자기 반성, 계획 수립 같은 단계를 체계적으로 구성하는 것이다. ReAct, Chain-of-Thought 같은 기법들이 여기에 해당한다. 모델이 "생각"하는 구조를 외부에서 강제하는 셈이다.
앞으로 언급할 Yogacara 프로젝트와도 맞닿아 있다. 에이전트 구조를 어떻게 설계하느냐가 핵심이라는 점에서.
⭐ 오픈소스
Yogacara: 불교 유식학을 AI 에이전트에 적용한 프레임워크
이건 좀 특이하다. GitHub 트렌딩에 올라온 프로젝트인데, 불교의 유식학(Yogacara) 철학을 AI 에이전트 진화 모델에 적용한 프레임워크다. 저장소 설명이 "AI 에이전트가 고대의 유식불교 지혜를 통해 진정으로 진화할 수 있게 한다"이다.
솔직히 처음엔 "또 철학적 뻘소리 하는 프로젝트인가" 싶었다. 근데 생각해보면 꽤 흥미로운 접근이다. 유식학은 의식의 구조를 8가지 식(眼識, 耳識... 제8아뢰야식)으로 나눈다. 이걸 에이전트 아키텍처에 매핑하면 어떨까. 감각 입력 처리, 인지, 자아 모델, 잠재 기억 저장 같은 계층적 구조로 볼 수 있다.
물론 GitHub 스타가 1개인 걸 보면 아직 초기 단계다. 실제 코드를 까보지 않으면 실험적 시도인지 실용적 도구인지 판단하기 어렵다. 하지만 방향성은 주목할 만하다. 앞서 Qwen 이야기에서 봤듯이, 에이전트 아키텍처가 핵심인 시대에 "어떤 구조로 에이전트를 설계할 것인가"는 근본적 질문이다. 불교 심리학이든 인지과학이든, 인간 사고 구조를 참고하는 건 나쁘지 않은 접근이다.
게임 AI 설계와도 비슷하다. UE5에서 행동 트리나 상태 머신을 짤 때, "이 NPC가 어떻게 '생각'해야 자연스러운가"를 고민한다. 단순히 조건문 나열이 아니라, 인지적 계층을 모델링하는 거다. Yogacara도 비슷한 맥락에서 접근하는 것 같다. 다만, 프로덕션에서 쓸 수 있으려면 철학적 잡담이 아니라 실제 성능 향상 데이터가 필요하다.
출처: GitHub - Greatbeing/Yogacara
"모델은 가성비 중간급으로 사고, 아키텍처에 시간을 투자하라." — 이게 2025년 AI 개발의 화두다.