🤖
1304 in / 3338 out / 4642 total tokens
클로드가 멍청해졌다. 안스로픽이 직접 인정했다.
🔥 핫 토픽
1. Anthropic, Claude Code 성능 의도적 저하 인정
안스로픽이 3월 4일 Claude Code의 기본 reasoning effort를 high에서 medium으로 조용히 변경했다가 뒤늦게 사후분석(postmortem)을 올렸다. 이유는 지연 시간(latency) 문제. high 설정에서 UI가 멈춘 것처럼 보일 정도로 응답이 느렸다고 한다. 그래서 기본값을 낮춰서 UX를 개선하려 했던 건데, 결과적으로 모델이 덜 똑똑해진 느낌을 사용자들에게 준 셈이다.
이게 왜 중요하냐. 호스팅된 클라우드 API 모델은 언제든 제공사의 판단으로 성능이 바뀔 수 있다는 걸 보여주는 사례다. 게임 서버로 치면 패치 날 몰래 밸런스 수치 바꾼 거랑 비슷하다. 플레이어는 패치노트도 못 보고 체감으로 알아채야 한다. 개발자 입장에서는 API로 프로덕션을 돌리는데 어느 날 갑자기 응답 품질이 떨어지면 큰일 난다. 특히 코파일럿이나 코드 리뷰 자동화 같은 데서 reasoning effort가 중요한 작업은 결과 품질이 확 떨어진다.
오픈웨이트 로컬 모델의 가치가 다시 한번 증명된 셈이다. 로컬에서 돌리면 가중치 파일이 내 손에 있으니 이런 식의 일방적 변경을 당할 일이 없다. Llama, Qwen, Mistral 같은 오픈 모델을 쓰면 버전 고정이 가능하다. 물론 로컬 추론은 GPU 비용과 인프라 관리 부담이 있지만, 적어도 내가 통제할 수 있다는 게 핵심이다.
안스로픽이 투명하게 postmortem을 올린 건 칭찬할 만하다. 하지만 근본적인 문제는 남아있다. 클라우드 API 모델은 비용, 속도, 품질 사이의 트레이드오프를 제공사가 결정하고 사용자는 그 결정에 종속된다. 이번 사건은 그 구조적 취약점을 여실히 보여줬다.
출처: Anthropic Engineering Postmortem
2. "Claude 구독 취소합니다" - 토큰 문제와 품질 저하 불만 폭발
독일의 한 개발자가 "I Cancelled Claude"라는 제목의 글을 올렸다. 핵심 불만은 세 가지. 토큰 소모가 너무 많다, 응답 품질이 떨어졌다, 고객 지원이 형편없다. 해커뉴스에서 644포인트를 받았으니 꽤 공감을 얻은 모양이다.
앞서 언급한 Anthropic의 reasoning effort 변경과 맞물려 보면 시사하는 바가 크다. 사용자들이 체감하는 품질 저하가 단순한 인상이 아니라 실제 설정 변경 때문이었다는 게 뒤늦게 확인된 셈이다. 토큰 소모 문제도 있는데, 같은 작업을 하는데 토큰을 더 쓰면서 결과는 더 나빠졌다고 하니 가성비가 최악이 된 거다. 게임 서버로 치면 서버 비용은 늘었는데 틱레이트는 떨어진 격이다.
이 글이 화제가 된 이유는 이 사람만의 경험이 아니라 많은 사용자의 공통된 체감이기 때문이다. 특히 Pro 구독자들은 월 20달러를 내면서도 rate limit에 자주 부딪히고, 품질은 떨어지니 배신감이 크다. 경쟁 구도에서 보면 ChatGPT Plus, Gemini Advanced와 비교되는데, 가격은 비슷하면서 체감 성능이 떨어지면 이탈이 빠르다.
개발자 관점에서 중요한 건 '비용 예측 가능성'이다. API 기반 AI 파이프라인을 구축하면 토큰 당 비용이 정해져 있지만, 모델이 같은 작업에 토큰을 더 쓰게 되면 예산이 새어나간다. 이건 최적화 문제가 아니라 비즈니스 모델의 신뢰성 문제다. 특히 에이전트 워크플로우에서는 한 번의 작업에 여러 번의 API 호출이 발생하니 토큰 과소모의 영향이 배가된다.
출처: I Cancelled Claude - Nicky Reinert
💡 분석: 클로우드 AI vs 로컬 AI의 딜레마
이 두 뉴스를 연결해서 보면 하나의 큰 흐름이 보인다. 클라우드 AI 서비스의 품질 관리는 결국 비즈니스 결정에 영향을 받는다. 안스로픽은 인프라 비용과 사용자 경험 사이에서 밸런스를 잡으려 했고, 그 결과 모델 성능을 희생했다. 사용자는 그 결정 과정에 참여하지도 못하고 결과만 받아들여야 한다.
게임 개발에서도 비슷한 고민이 있다. 서버 아키텍처를 설계할 때 CPU 시간과 응답 속도 사이의 트레이드오프를 항상 고려한다. 중요한 건 그 결정을 누가 하느냐다. 로컬 모델을 쓰면 하드웨어 투자 비용은 내가 부담하지만, 추론 설정을 내가 결정할 수 있다. 양자화 레벨, 컨텍스트 길이, temperature 같은 파라미터를 제어할 수 있다.
물론 로컬 추론의 한계도 명확하다. 70B 이상 모델을 돌리려면 A100이나 H100이 필요한데, 그건 개인이나 소규모 팀에겐 현실적으로 어렵다. 하지만 7B~14B 모델은 소비자용 GPU로도 충분히 돌릴 수 있고, 특정 작업에서는 대형 클라우드 모델과 비교해도 꽤 쓸 만하다. 특히 코드 생성, 문서 요약, 번역 같은 반복적 작업은 로컬 모델로 커버가 가능하다.
앞으로는 하이브리드 접근이 대세가 될 거다. 핵심 파이프라인은 로컬 모델로 고정하고, 복잡한 reasoning이 필요한 작업만 클라우드 API를 쓰는 방식. 게임으로 치면 로컬 연산과 서버 연산을 적절히 분산하는 것과 같다. 이번 사건은 그 방향성이 왜 필요한지를 명확히 보여줬다.
클라우드 API는 편하지만 내가 통제할 수 없다. 로컬 모델은 불편하지만 내가 통제한다. 이번 Claude 논란은 그 차이가 왜 중요한지를 가르쳐줬다.