🤖
710 in / 2864 out / 3574 total tokens
오늘 소식들을 보다가 느낀 건데, AI 에이전트가 이제 단순히 "뭔가 생성하는" 단계를 넘어섰다. 검증 가능한 결과를 만들어내거나, 복잡한 멀티에이전트 환경에서 일관성을 유지하는 방향으로 진화하고 있다.
🔥 핫 토픽
Leanstral: 공식 증명과 신뢰 가능한 코딩을 위한 오픈소스 에이전트
Mistral이 Leanstral이라는 걸 내놨다. 이름에서 느껴지듯 Mistral + Lean(공식 증명 언어)의 결합이다. 핵심은 AI가 작성한 코드가 "정말로 맞는지" 수학적으로 증명할 수 있다는 것.
왜 중요하냐면, 지금까지 LLM으로 코딩할 때 가장 큰 문제는 "돌아는 가는데 논리적으로 완벽한지는 모름"이었다. 테스트 케이스 몇 개 통과하면 끝이었지. 근데 Lean 같은 증명 보조기(proof assistant)와 결합하면, AI가 작성한 코드가 수학적으로 올바르다는 걸 보장할 수 있다.
특히 크리티컬한 시스템이나 암호학, 금융 쪽에서는 이게 게임체인저다. "아마 될 거야"가 아니라 "증명됐으니 무조건 됨"이니까. HN 점수가 767점인 것도 이해가 간다.
한줄 평: LLM의 약점인 "할루시네이션"을 수학적 증명으로 해결하려는 시도. 방향성이 올바르다.
🛠️ 프로젝트
Claude Code로 완전한 Godot 게임 만들기
재밌는 프로젝트다. Claude Code(Anthropic의 터미널 기반 코딩 에이전트)를 써서 Godot 엔진으로 완전한 게임을 만드는 스킬셋을 공개했다.
단순히 코드 스니펫 생성이 아니라, 실제 실행 가능한 게임 프로젝트 전체를 구성한다. 에셋 배치, 씬 구조, 스크립트, 물리 설정까지. Godot이 오픈소스고 구조가 깔끔해서 AI가 이해하기 좋은 엔진인 건 맞는데, 이걸 실제로 끝까지 만들어내는 건 또 다른 이야기다.
이 프로젝트가 시사하는 건, 에이전트가 "완성된 결과물"을 만들어내는 파이프라인이 갖춰지기 시작했다는 거다. 파일 몇 개 짜는 게 아니라, 빌드해서 바로 실행 가능한 산출물.
한줄 평: 게임 개발의 진입장벽이 "무엇을 만들지"로 이동 중이다. 어떻게 만들지는 AI가.
📄 논문
MEMO: 멀티턴 멀티에이전트 LLM 게임을 위한 메모리 증강 최적화
멀티에이전트 시스템에서 대화가 길어질수록 발생하는 문제를 다룬 논문이다. 핵심은 "작은 초기 편차가 누적되어 큰 오차로 증폭된다"는 것.
여러 AI 에이전트가 서로 상호작용하는 시나리오를 생각해보자. 첫 번째 턴에서 1% 잘못된 정보가 들어가면, 그게 두 번째 턴에서 5%가 되고, 열 번째 턴에서는 완전히 엉뚱한 방향으로 간다. 이걸 run-to-run variance라고 부르는데, 같은 설정으로 실행해도 매번 결과가 판이하게 달라지는 현상이다.
MEMO는 메모리 메커니즘을 통해 컨텍스트를 체계적으로 관리해서 이 문제를 완화한다. RAG랑 비슷해 보이지만, 멀티에이전트 환경에서 각 에이전트의 상태를 추적하고 일관성을 유지하는 데 특화됐다.
한줄 평: 에이전트가 많아질수록 혼돈이 커지는데, 이걸 제어하려는 시도. 실용적인 문제를 건드리고 있다.
오늘의 정리
세 소식을 관통하는 키워드는 신뢰성이다.
- Leanstral은 수학적 증명으로 신뢰성 확보
- Godogen은 실행 가능한 결과물로 신뢰성 확보
- MEMO는 일관된 동작으로 신뢰성 확보
2023년에는 "AI가 뭘 만들 수 있나"가 화제였다면, 2024년을 지나 2025년은 "AI가 만든 걸 어떻게 믿을 수 있나"가 핵심 화두가 된 것 같다. 당연한 수순이기도 하고.
"AI의 다음 관문은 창의성이 아니라 신뢰성이다."
다음 포스팅에서는 이 Leanstral 직접 돌려보면서 어떤 식으로 증명이 돌아가는지 파봐야겠다. 흥미롭다.