🤖
0 in / 0 out / 0 total tokens
GraphRAG, LLM RL, Embodied AI 런타임은 전부 같은 방향을 가리킨다. 모델 자체보다 "어떤 구조로 붙이고, 어떻게 안정적으로 굴릴 것인가"가 더 중요해지고 있다.
핫 토픽
AGE: GraphRAG에서 그래프 임베딩을 더 똑똑하게 가리는 방법
GraphRAG는 RAG에 그래프 구조를 붙여서 LLM이 문서 조각만 보는 게 아니라 노드와 관계까지 참고하게 만드는 방식이다. AGE는 그래프 임베딩 학습에서 adaptive masking을 쓰는 접근으로 보인다. 단순히 아무 노드나 가리는 게 아니라, 검색에 실제로 도움이 되는 구조를 더 잘 배우도록 마스킹 전략을 조정하는 쪽이다.
게임 서버 관점으로 보면 이건 꽤 익숙한 문제다. 월드 상태, 퀘스트 관계, NPC 메모리, 아이템 의존성 같은 데이터는 전부 그래프다. LLM NPC나 운영툴에 GraphRAG를 붙일 때 중요한 건 "많이 검색하는 것"이 아니라 "관계상 의미 있는 것만 빠르게 찾는 것"이다. 그래프 임베딩 품질이 좋아지면 토큰을 덜 쓰고도 더 정확한 컨텍스트를 줄 수 있다.
왜 중요한지: GraphRAG가 실서비스 지식 시스템으로 가려면 그래프 검색 품질과 비용을 같이 잡아야 하기 때문이다.
논문
The Mirage of Optimizing Training Policies: LLM RL의 진짜 목표는 추론 정책이다
이 논문은 LLM 후처리 RL에서 학습 정책을 잘 최적화하는 것처럼 보여도 실제 추론 시 성능이 안정적으로 좋아지는 것과는 다를 수 있다고 짚는다. 핵심은 training policy 자체가 아니라 inference policy가 단조롭게 좋아지는 방향이어야 한다는 주장이다. RL 학습이 불안정하거나 collapse가 나는 원인을 이 관점에서 다시 보는 흐름이다.
이건 모델 튜닝하는 사람한테 꽤 뼈아픈 얘기다. 학습 로그에서 reward가 오른다고 제품 품질이 오른다는 보장은 없다. 게임 AI로 치면 시뮬레이션 안에서는 잘 도는 봇이 실제 유저 매칭에 들어가면 이상한 행동을 하는 상황과 비슷하다. 결국 배포되는 건 학습 과정이 아니라 추론 정책이고, 운영자는 그 정책이 패치마다 예측 가능하게 좋아지는지를 봐야 한다.
왜 중요한지: LLM RL의 평가는 학습 중 점수가 아니라 배포 시 추론 행동의 안정성으로 옮겨가야 하기 때문이다.
Embodied.cpp: 다양한 로봇에서 Embodied AI 모델을 돌리기 위한 휴대용 런타임
Embodied.cpp는 VLA, WAM 같은 Embodied AI 모델을 여러 로봇 환경에서 실행하기 위한 portable inference runtime을 목표로 한다. 지금 로봇 AI 배포는 모델마다 Python 스택, 백엔드, 하드웨어 가정이 갈라져 있어서 실험실 밖으로 나가면 바로 운영 문제가 된다. 이 논문은 그 파편화를 줄이려는 C++ 런타임 쪽 접근으로 읽힌다.
UE5 C++ 개발자 입장에서는 이 방향이 반갑다. 실시간 시스템에서는 Python이 연구에는 편해도 런타임 제어, 지연시간, 배포 크기, 디버깅 면에서 자주 발목을 잡는다. 로봇도 게임 엔진처럼 센서 입력, 월드 모델, 액션 출력이 프레임 단위로 이어지는 시스템이다. 결국 inference runtime은 모델만 감싸는 래퍼가 아니라 스케줄링, 메모리, 디바이스 추상화까지 책임지는 엔진 레이어가 된다.
왜 중요한지: Embodied AI가 데모를 넘어 제품이 되려면 모델 성능만큼 런타임 이식성과 지연시간 제어가 중요하기 때문이다.
개발자 메모
오늘 세 건은 전부 "모델을 어떻게 현실 시스템에 붙일 것인가"라는 문제로 묶인다. GraphRAG는 지식 구조를 다루고, LLM RL 논문은 배포 시 행동 안정성을 다루고, Embodied.cpp는 실제 하드웨어 런타임을 다룬다. 겉으로는 서로 다른 분야인데, 실무에서는 하나의 파이프라인으로 만난다.
AI 사이드프로젝트를 만들 때도 비슷하다. 처음에는 모델 API 하나 붙이면 끝날 것 같지만, 금방 검색 품질, 평가 기준, 캐싱, 추론 비용, 배포 환경 문제가 나온다. 나도 이런 부분을 너무 늦게 챙겨서 "모델은 맞는데 제품이 느린" 상태를 몇 번 만들었다. 이제는 모델 선택보다 컨텍스트 설계와 런타임 경계를 먼저 본다.
좋은 AI 시스템은 큰 모델 하나가 아니라, 검색·정책·런타임이 덜 흔들리게 맞물린 구조다.