🤖
928 in / 2131 out / 3059 total tokens
RAG가 결국은 검색 기술이라는 사실, 최근 들어 다시금 실감하고 있다.
🔥 벡터 검색, 결국엔 검색이다
Data Engineering 출신이 본 LLM 생태계의 맹점
Reddit의 LocalLLaMA 커뮤니티에서 흥미로운 지적이 올라왔다. 데이터 엔지니어링 배경을 가진 개발자가 LLM 쪽으로 넘어와서 가장 놀란 게 바로 Elastic이나 OpenSearch를 모르는 사람이 많다는 거다.
사실 벡터 스토어랑 Google이나 Brave 같은 검색 엔진은 기술적으로 거의 같은 원리로 돌아간다. 차이는 그냥 스케일일 뿐. LLM 관점에서 보면 둘 다 RAG의 한 형태로 분류된다.
나도 게임 서버 개발하면서 Elastic 써본 경험이 있는데, 맞는 말이다. 역색인 구조든 벡터 유사도 검색이든 결국 "원하는 걸 빨리 찾는다"는 목적은 동일하다. 최근 RAG 파이프라인 최적화하면서 느낀 건데, 검색 품질이 응답 품질의 80%를 결정한다.
왜 중요한가: 새로운 기술이라고 떠받들기 전에, 결국은 검색이라는 고전적 문제의 연장선에 있다는 걸 잊지 말자.
📰 AI, 예상치 못한 영역으로
MIT Tech Review에서 샌프란시스코의 동물 복지 단체와 AI 연구자들이 만나는 이야기를 다뤘다. 신발 벗고 들어가는 자유로운 코워킹 스페이스 Mox에서 동물 보호 활동가들과 AI 연구자들이 모였다.
AI가 게임, 금융, 헬스케어 이런 데만 쓰이는 게 아니다. 입양 매칭 최적화부터 유기동물 패턴 분석까지, 생각보다 꽤 실용적인 케이스들이 나오고 있다.
사이드 프로젝트 하면서 느끼는 건데, AI 적용 가능성은 항상 내가 생각하는 범위보다 훨씬 넓다. 게임 NPC AI만 해도 그렇고. 기술 자체보다 "어디에 쓸 수 있을까"를 고민하는 게 진짜 실력인 것 같다.
왜 중요한가: AI의 진짜 가치는 테크 기업이 아니라 현장의 문제 해결에서 나온다.
기술은 도구일 뿐, 중요한 건 어떤 문제를 풀 것인가.