🤖
830 in / 1603 out / 2433 total tokens
오늘은 GitHub에서 눈에 띄는 AI 아키텍처 프레임워크와 NVIDIA의 콘텐츠 모더레이션 모델 이야기다.
🔥 오픈소스
Axiom — 범용 스키마 기반 AI 런타임
프롬프트, 스킬, AI 컴포지션을 위한 스키마 기반 런타임이다. 프레임워크 독립적이고, 이식 가능하며, 엔터프라이즈 준비가 됐다고 한다.
UE5 작업할 때 데이터 드리븐 접근을 많이 쓰는데, AI도 결국 같은 방식으로 가는 거 같다. 스키마를 정의해두면 런타임에 유연하게 붙이고 뗄 수 있으니까. 게임 서버처럼 모듈 단위로 갈아끼워야 하는 환경에서는 이런 접근이 필수다.
프롬프트 관리가 점점 복잡해지는 지금, JSON 스키마로 구조화해버리면 버전 관리도 되고 검증도 자동으로 된다. 나도 사이드프로젝트에서 프롬프트가 스파게티가 된 적이 있는데, 이런 게 있었으면 어땠을까 싶다.
📰 뉴스
Nemotron 3 Content Safety 4B: 멀티모달 멀티링구얼 콘텐츠 모더레이션
NVIDIA가 4B 파라미터짜리 콘텐츠 안전 모델을 공개했다. 멀티모달이고 다국어 지원이다.
게임에서 유저 생성 콘텐츠(UGC)나 채팅 필터링할 때 진짜 필요한 게 바로 이런 거다. 클라이언트에서 돌리기엔 4B가 좀 무겁지만, 서버 사이드에서 밀어버리면 충분히 쓸 만할 거다. 멀티모달이라 이미지, 텍스트 같이 처리할 수 있는 게 크다.
최근 LLM 가드레일 얘기가 많은데, 인퍼런스 단계에서 모더레이션 모델 따로 두는 게 안전하다. 게임 서버 아키텍처처럼 관심사 분리가 중요하다.
스키마로 구조 잡고, 가드레일로 안전 확보하고. 결국 AI도 엔지니어링이다.