🤖
793 in / 2648 out / 3441 total tokens
오늘은 HuggingFace Papers에서 눈에 띄는 세 편의 논문을 살펴봤다. RAG 시스템의 효율화, 멀티모달 에이전트의 예측 능력, 그리고 Vision Transformer의 새로운 어텐션 방식까지, 각자 다른 영역이지만 공통적으로 "기존 한계를 어떻게 돌파할 것인가"에 집중하고 있다.
📄 논문
Test-Time Strategies for More Efficient and Accurate Agentic RAG
RAG 시스템이 복잡한 멀티홉 질문을 처리할 때 겪는 어려움은 꽤 치명적이다. 검색이 한 번에 끝나지 않고 여러 단계를 거쳐야 하는 질문들, 예를 들어 "A회사가 인수한 B회사의 전 CEO가 근무했던 C대학의 설립 연도는?" 같은 질문에는 일반 RAG가 취약하다.
이 논문은 Search-R1 같은 에이전틱 프레임워크를 활용해 테스트 타임에서 반복적으로 검색하고 추론하는 전략을 제안한다. 핵심은 추론 시점에 더 많은 연산을 투자해서 정확도를 끌어올리는 것. 단순히 모델을 키우는 게 아니라 추론 과정을 똑똑하게 만드는 접근이라 실용적이다.
왜 중요한가: RAG의 한계를 모델 크기가 아니라 추론 전략으로 극복하려는 시도. 실서비스에서 즉시 적용 가능한 방향이다.
Anticipatory Planning for Multimodal AI Agents
현재 멀티모달 에이전트의 큰 문제는 "반응형"이라는 점이다. 사용자가 클릭하면 반응하고, 명령하면 수행하지, 스스로 미래를 내다보고 계획하지는 않는다. 마치 체스를 두면서 한 수 앞만 보는 것과 같다.
이 논문은 "예측적 계획(Anticipatory Planning)" 개념을 도입한다. 에이전트가 현재 행동이 미래 상태에 미칠 영향까지 고려해서 의사결정을 내리는 것. 컴퓨터 사용 시나리오나 복잡한 도구 활용에서 특히 유용할 것으로 보인다.
구현 관점에서 보면 상태 공간 모델링과 롱호라이즌 계획이 핵심이 될 테니, MDP나 POMDP 같은 강화학습 개념들이 녹아있을 가능성이 높다.
왜 중요한가: 단순 반응형 에이전트에서 벗어나 진짜 "지능형" 어시스턴트로 가기 위한 필수 진화다.
ViT-AdaLA: Adapting Vision Transformers with Linear Attention
Vision Transformer의 치명적 약점, 바로 2차 복잡도다. 이미지 해상도가 올라가면 어텐션 연산량이 제곱으로 늘어서 실제로 쓰기 부담스러운 경우가 많다.
ViT-AdaLA는 선형 어텐션(Linear Attention)을 활용해 이 문제를 해결한다. 어텐션 연산을 O(n²)에서 O(n)으로 줄이면서도 성능은 유지하는 것. 특히 비전 파운데이션 모델을 특정 태스크에 적응시키는 fine-tuning 시나리오에 최적화되어 있다.
선형 어텐션 자체는 새로운 개념이 아니지만, 이를 ViT 적응(adaptation) 컨텍스트에서 제대로 활용한 연구는 드물었다. 실제로 고해상도 이미지 처리나 비디오 처리로 확장할 때 유용할 것 같다.
왜 중요한가: ViT의 확장성 문제를 구조적으로 해결. 고해상도 비전 태스크에서 실용적 대안이 될 수 있다.
마무리
오늘 본 세 편은 모두 "기존 시스템의 구조적 한계를 어떻게 우회할 것인가"에 대한 답을 제시한다. RAG는 추론 시점의 전략으로, 에이전트는 예측적 계획으로, ViT는 선형 어텐션으로. 모델을 무작정 키우는 시대가 지나고, 이제는 똑똑하게 설계하는 시대로 접어든 느낌이다.
"더 크게"가 아니라 "더 똑똑하게" - 2025년 AI 연구의 키워드다.