🤖
1334 in / 3840 out / 5174 total tokens
🔥 핫 토픽
Anthropic이 Claude Code의 추론 수준을 몰래 낮췄다가 걸렸다
Anthropic이 3월 4일, Claude Code의 기본 reasoning effort를 high에서 medium으로 조용히 변경했다. 이유는 지연 시간(latency) 문제였다. high 설정에서 일부 사용자가 UI가 멈춘 것처럼 느끼는 수준의 긴 대기 시간을 겪었기 때문이다. 하지만 이 변경을 제대로 공지하지 않았고, 사용자들은 Claude가 갑자기 "멍청해졌다"고 느꼈다. Reddit r/LocalLLaMA 커뮤니티에서 화제가 되면서 Anthropic은 결국 postmortem을 통해 공식 사과했다.
이 사건은 단순한 설정 변경을 넘어선다. 호스팅된 클라우드 AI 모델의 근본적 위험을 보여주는 사례다. 개발자가 API를 호출할 때, 그背后에서 모델의 성능이 언제든 변경될 수 있다는 것. 네가 작성한 프롬프트는 그대로인데 결과물의 품질이 떨어지는 상황. 디버깅도 불가능하다. 원인이 네 코드가 아니라 Anthropic의 서버 설정에 있으니까.
게임 서버 아키텍처와 비슷한 맥락에서 생각해보면 이해가 쉽다. 게임 서버도 응답 시간(tick rate)과 처리 품질(물리 시뮬레이션 정확도) 사이의 트레이드오프가 존재한다. 보통은 개발자가 이 balance를 직접 제어한다. 하지만 Claude API를 쓰는 입장에서는 이 balance를 서비스 제공자가 임의로 바꿔버리는 셈이다. 네 게임이 갑자기 프레임 드랍 없이 물리 연산이 대충 되는 버전으로 업데이트된 것과 같다.
오픈 웨이트 로컬 모델의 가치가 여기서 빛난다. Llama, Mistral, Qwen 같은 모델을 로컬에서 돌리면 이런 일이 발생하지 않는다. 모델 가중치가 내 하드에 있고, 추론 파라미터를 내가 직접 제어하기 때문이다. 물론 하드웨어 비용과 관리 부담은 발생하지만, 예측 가능성과 제어권은 그 비용을 정당화한다. 실무에서 AI를 프로덕션에 넣는다면, 이 제어권은 선택이 아니라 필수다.
Anthropic의 postmortem 자체는 칭찬할 만하다. 무엇이 잘못되었는지, 어떻게 고칠 것인지 명확하게 설명했다. 하지만 근본적 교훈은 다르다. 클라우드 AI에 비판적 의존도를 가지면 안 된다. 폴백(fallback) 전략, 로컬 모델 대안, 다중 제공자 분산이 필수적이다. UE5에서 멀티서버 아키텍처를 짜는 것과 같은 이유다. 단일 장애점(SPOF)을 만들면 안 된다.
출처: Anthropic Engineering Postmortem
📰 뉴스
Simon Willison: "사람들은 자동화를 갈망하지 않는다"
원문: The people do not yearn for automation
Simon Willison이 AI 업계의 '자동화 지상주의'에 정면으로 반박했다. 핵심 주장은 간단하다. 사람들이 원하는 건 자동화가 아니라 증강(augmentation)이다. 대신 더 빠르고, 더 정확하고, 더 창의적으로 도와주는 도구를 원한다. 결코 대체하지 않는.
이 글이 중요한 이유는 현재 AI 제품 방향성과 정면으로 충돌하기 때문이다. 많은 AI 스타트업과 빅테크가 "완전 자동화"를 미래 비전으로 제시한다. "AI가 당신의 일을 대신 합니다"라는 마케팅. 하지만 실제 사용자는 그걸 원하지 않는다. 코드 리뷰를 AI가 완전히 대신해주길 바라는 개발자는 없다. 대신 리뷰 속도를 3배 높여주길 원한다.
앞서 언급한 Anthropic의 reasoning effort 변경 사건과 맞물려 보면 흥미롭다. Anthropic이 사용자 경험을 "개선"한다며 기본 설정을 바꾼 것도, 근본적으로는 "AI가 알아서 최적화해줄게"라는 자동화 사고방식의 산물이다. 사용자에게 선택권을 주고 설명하는 대신, 시스템이 알아서 결정하는 것. Simon Willison이 비판하는 바가 정확히 이것이다.
개발자 관점에서 더 중요한 통찰이 있다. AI 도구를 설계할 때 '자동화'가 아니라 '협업'을 목표로 해야 한다. 내 사이드 프로젝트 경험에서도 이걸 느낀다. AI 에이전트가 코드를 완전히 생성하게 두면 결과가 엉망이다. 대신 테스트 케이스 작성, 리팩토링 후보 탐지, 보일러플레이트 생성 같은 특정 작업에서 AI를 '어시스턴트'로 쓰면 생산성이 폭발한다.
Willison은 또한 AI 윤리 논의가 '자동화로 인한 일자리 상실'에만 집중하는 것도 비판한다. 더 급한 문제는 자동화가 만드는 새로운 종류의 일이다. AI 출력을 검증하고, 프롬프트를 수정하고, 환각(hallucination)을 잡는 일. 이게 현실이다. 'AI 감독관'이라는 새로운 직역이 생긴 셈이다.
🔗 두 뉴스의 연결고리
두 이야기는 표면적으로 다르지만 같은 뿌리에서 나왔다. 사용자 에이전시(agency)의 상실이다.
Anthropic 사건은 기술적 차원의 에이전시 상실이다. 모델 성능이 네 통제 밖에서 변경된다. Willison의 비판은 철학적 차원의 에이전시 상실이다. AI가 인간의 역할을 대신하면서 인간은 수동적 소비자로 전락한다.
개발자로서 우리가 취할 수 있는 실천적 태도가 있다. 오픈 웨이트 모델을 로컬에 두고, AI를 '도구'로 쓰되 '주인'으로 모시지 않는 것. 그게 기술적 자율성과 인간적 에이전시를 동시에 지키는 길이다.
AI를 쓸 때 가장 조심해야 할 것은 AI가 나를 대체하는 게 아니라, 내가 AI 없이는 아무것도 못 하게 되는 상태다. 제어권은 항상 인간 쪽에 있어야 한다.