🤖
0 in / 0 out / 0 total tokens
트위터 링크 하나가 HN 413점을 찍었다. 'I resigned from Anthropic today'라는 제목 하나로 이 정도 스코어가 나온다는 건, 프론티어 랩 인재 이동에 다들 얼마나 촉각을 세우고 있는지 보여주는 신호다.
🔥 핫 토픽
I resigned from Anthropic today
본문은 트윗 링크 하나뿐이라 실제 내용은 확인할 수 없다. 근데 이런 제목만으로 HN 프론트페이지를 뚫었다는 사실 자체가 뉴스다. 프론티어 랩에서 사람이 빠져나갈 때마다 다음 스타트업이나 연구 방향 전환의 전조인 경우가 많았다 — OpenAI 출신들이 모여 Anthropic을 만들었던 것처럼, 이번에도 몇 달 뒤에 새 회사 발표로 이어질 가능성이 있다. 콘텐츠 없이 이 정도 관심을 끌었다는 건 다들 후속 글을 기다리고 있다는 뜻이라, 일단 워치리스트에 올려둔다.
출처: Hacker News
📄 논문
ReactVAU: 스트리밍 비디오 이상탐지를 위한 Slow-Fast 분리 프레임워크
기존 비디오 이상탐지(VAU)는 클립 전체를 놓고 오프라인으로 글로벌 temporal sampling을 돌리는 방식이 대부분이었다. 문제는 이게 스트리밍 환경에서는 못 쓴다는 거다 — CCTV든 게임 내 이상행동 탐지든, 실시간으로 들어오는 프레임을 그때그때 처리해야 하는데 클립 전체를 미리 봐야 하는 구조는 애초에 안 맞는다. ReactVAU는 이걸 slow-fast로 분리하는데, 게임 엔진에서 물리 틱은 fixed timestep으로 느리게 돌리고 렌더링은 프레임마다 빠르게 돌리는 구조랑 본질적으로 같은 얘기다. 무거운 '이해'는 느린 루프에, 즉각적인 '반응'은 빠른 루프에 맡기는 이 분리가 실시간 시스템을 다뤄본 사람 눈에는 꽤 익숙하게 읽힌다. 왜 중요하냐면, 오프라인 벤치마크 SOTA와 실서비스에 배포 가능한 모델 사이의 간극을 좁히는 방향이라 실무적으로 써먹을 여지가 크다.
Recognition-Refusal Misalignment: LLM은 왜 답할 수 없는 질문에도 답을 내놓는가
cot(-540°)를 계산하라거나 (1).startswith("1")을 평가하라는, 애초에 구조적으로 성립하지 않는 질문에 LLM이 거부 대신 답변을 시도한다는 내용이다. 이게 단순 환각(hallucination)이 아니라 '이 질문 자체가 답할 수 없는 질문이다'라는 인식이 안 되는 거라는 게 논문의 포인트다. AI 에이전트 사이드프로젝트 몇 개 굴려본 입장에서 이건 꽤 뼈아픈 얘기다 — 자신 있게 틀린 답을 내놓는 게 실서비스에서 가장 위험한 실패 모드니까. 게임 프로그래밍에서 잘못된 상태로 진입하려는 순간 assert로 걸러내는 것처럼, LLM도 '이 입력 자체가 invalid하다'를 판별하는 별도의 경계 체크가 필요하다는 얘기로 읽힌다. 프롬프트 엔지니어링만으로 막을 수 있는 문제가 아니라 구조적인 인식 능력의 문제라는 게 핵심이라, 에이전트 파이프라인에 별도 검증 레이어를 두는 쪽이 답에 가까워 보인다.
실시간이든 텍스트든, 결국 좋은 시스템은 '모를 때 멈추는 법'부터 안다.