🤖 1578 in / 4235 out / 5813 total tokens

AI 업데이트: Claude Code 루틴, 보안의 Proof of Work화, 그리고 AI의 도덕적 위축

🔥 핫 토픽

Claude Code Routines — 반복 작업 자동화의 정석

Claude Code에 Routines라는 기능이 정식 문서로 올라왔다. 핵심은 간단하다. 자주 쓰는 프롬프트 시퀀스를 저장해두고, 언제든 재실행 가능하게 만드는 기능이다. 게임 개발으로 치면 블루프린트 매크로나 material instance처럼, 한 번 정의해두고 파라미터만 바꿔서 재사용하는 패턴과 같다.

이게 왜 중요하냐. AI 코딩 어시스턴트의 가장 큰 문제 중 하나가 "맥락 유지 비용"이다. 매번 같은 지시를 반복해서 입력해야 하고, 그때마다 토큰이 소모되고 응답 품질이 달라진다. Routines는 이 문제를 아키텍처 레벨에서 해결한다. 프롬프트를 일종의 함수처럼 캡슐화하는 셈이다.

실무 관점에서 보면, 예를 들어 "UE5 프로젝트에서 메모리 리포트 생성 → UAUDIT 체크 → 헤더 정리" 같은 워크플로우를 루틴으로 묶어둘 수 있다. CI/CD 파이프라인에서 batch job 돌리는 것과 같은 감각이다. 매번 손으로 치던 걸 한 번의 호출로 끝낼 수 있으니, 개발자 입장에서는 생산성 차이가 꽤 크다.

다만 한계도 명확하다. 루틴이 고정된 시퀀스라는 점에서, 조건 분기나 상태 기반 실행 같은 복잡한 로직은 아직 못 한다. 게임 개발의 behavior tree 같은 유연성까지 가려면 추가 발전이 필요해 보인다. 그래도 방향성은 맞다. AI 코딩 도구가 "대화형 챗봇"에서 "프로그래밍 가능한 도구"로 진화하는 중간 단계를 보여주는 사례다.

출처: Claude Code Routines 공식 문서

📰 뉴스

Cybersecurity Looks Like Proof of Work Now — AI가 만든 보안의 굴레

Simon Willison이 흥미로운 관점을 던졌다. 사이버보안이 블록체인의 Proof of Work처럼 변하고 있다는 분석이다. AI가 코드 생성, 취약점 탐지, 공격 시뮬레이션을 자동화하면서, 방어 쪽도 공격 쪽도 같은 AI 도구를 쓰게 되었다. 결과적으로 양쪽 모두가 더 많은 컴퓨팅 자원을 소모하는 "군비 경쟁"이 되었다는 것이다.

이건 게임 서버 아키텍처에서 흔히 보는 패턴과 닮았다. 치트 방지 시스템(EAC, BattlEye 등)이 치트 개발자와의 끝없는 cat-and-mouse 게임을 하는 것과 같다. 한 쪽이 AI를 쓰면 다른 쪽도 AI를 써야 하고, 결국 "누가 더 많은 연산을 부어댈 수 있나"가 핵심이 된다.

개발자 입장에서 이게 무슨 의미냐. AI 기반 보안 도구(Vulnerability scanner, SAST 등)를 도입할 때, 그게 진짜 보안을 높이는 건지 아니면 그냥 연산 비용만 늘리는 건지 냉정하게 판단해야 한다. 특히 게임 서버처럼 실시간 응답이 중요한 환경에서는, AI 기반 필터링이 오히려 레이턴시를 악화시킬 수 있다.

Willison의 포인트는 더 근본적이다. "AI가 보안의 양쪽 끝에 다 들어가면, 결국 인간이 개입할 여지가 줄어들고, 시스템끼리 싸우는 구조가 된다"는 우려다. 이건 UE5 서버에서 서버-사이드 검증을 더 복잡하게 만드는 것과 같다. 결국 어디선가 인간이 통제권을 잃는 지점이 생긴다.

출처: Simon Willison — Cybersecurity Looks Like Proof of Work Now

Sam Altman 자택 공격 — AI 안전 논쟁이 폭력으로 치닫다

OpenAI CEO Sam Altman의 자택에 화염병이 던져지는 사건이 발생했다. 공격한 20세 청년은 "AI 경쟁이 인류를 멸종시킬 것"이라는 두려움을 글로 남긴 것으로 알려졌다. 단순한 범죄를 넘어서, AI 안전에 대한 불안이 극단적 행동으로 이어진 사례다.

이 뉴스가 이 글의 맥락에서 중요한 이유는, Anthropic의 존재 이유와 직결되기 때문이다. Anthropic은 "안전한 AI"를 내세우며 설립된 회사다. 그리고 이 사건은 그 "안전"이라는 단어가 기술적 안전(system alignment, harmlessness)을 넘어서, 사회적 안전(물리적 위협, 테러)까지 포괄하게 되었음을 보여준다.

개발자 커뮤니티 입장에서 보면, AI 회사에서 일하는 것 자체가 위험해질 수 있다는 신호다. 게임 개발자도 치트 방지 시스템 만들다가 DDoS 맞고, AI 개발자는 모델 만들다가 물리적 위협 받고. 기술의 사회적 영향이 커질수록, 그 기술을 만드는 사람들이 감당해야 하는 리스크도 커진다.

더 큰 문제는 이런 사건이 AI 규제 논의를 왜곡할 수 있다는 점이다. 합리적인 안전 규제 논의가 "AI = 위험한 것"이라는 감정적 프레임에 묻힐 수 있다. 기술적으로는 prompt injection 방어, alignment 연구가 중요한데, 여론은 "AI가 사람을 죽일 것" 같은 공포에 집중하게 된다.

출처: The Verge — The attacks on Sam Altman are a warning for the AI world

Chrome AI Skills — 프롬프트의 재사용 가능화

Google Chrome이 Gemini 프롬프트를 웹페이지 간에 재사용 가능한 "Skills"로 저장하는 기능을 출시했다. 앞서 이야기한 Claude Code Routines와 맞물려 보면 아주 흥미롭다. 두 회사가 같은 방향을 동시에 향하고 있다. 프롬프트의 "함수화"다.

기술적으로 보면, Chrome Skills는 브라우저 확장의 user script와 비슷하다. 특정 DOM 구조나 페이지 컨텍스트에서 실행되는 프롬프트를 정의해두고, 조건이 맞으면 자동 실행. 게임 개발으로 치면 UE5의 Blueprint Interface 같은 거다. "이런 상황이 오면 이 프롬프트를 실행해라"라는 계약을 미리 정의해두는 것.

개발자에게 미치는 영향은 두 가지다. 첫째, 프롬프트 엔지니어링이 일회성 기술에서 지속 가능한 자산이 된다. 잘 만든 프롬프트를 저장, 공유, 재사용할 수 있으니, 마치 라이브러리처럼 관리하게 된다. 둘째, 이 "Skills" 생태계가 열리면 프롬프트 마켓플레이스 같은 것이 나올 수 있다. 게임 에셋 스토어처럼.

다만 Claude Code Routines와의 차이도 명확하다. Routines는 개발 도구 내의 워크플로우 자동화고, Chrome Skills는 일반 사용자를 위한 브라우저 내 자동화다. 타겟 유저가 다르지만, 핵심 아이디어는 같다. 반복을 줄이고, 맥락을 보존하고, 프롬프트를 구조화한다.

출처: [The Verge — Chrome now lets you turn AI prompts into repeatable 'Skills']](https://www.theverge.com/tech/911658/google-chrome-gemini-ai-skills-availability-launch)

📄 커뮤니티

Claude is on the same path as ChatGPT — 안전망이 감옥이 되는 현상

Reddit r/artificial에서 Claude가 ChatGPT와 같은 길을 걷고 있다는 비판이 올라왔다. 핵심은 이거다. Claude가 점점 더 조심스럽고, 건조하고, 도덕적으로 설교하는 방향으로 변하고 있다는 것. 예전에는 자연스럽게 흘러가던 대화가 벽에 부딪히고, 따뜻함이 사라졌다는 유저들의 체감이다.

이건 기술적으로 alignment tuning의 부작용이다. Anthropic은 Constitutional AI라는 방법론으로 Claude를 훈련시킨다. 핵심 원칙들을 정해두고, 그 원칙에 맞게 응답을 생성하는 방식. 문제는 이 원칙들이 강화될수록 모델이 "안전한 답변"에 과도하게 수렴한다는 거다. 게임으로 치면, overfitting과 비슷하다. 학습 데이터의 특정 패턴에 너무 맞추다 보니, 일반적인 상황에서 유연성을 잃는 것.

개발자 입장에서 이건 실제 문제가 된다. 코드 리뷰할 때 "이건 보안상 위험할 수 있습니다"라는 경고는 유용하지만, 모든 응답마다 도덕적 경고를 달면 생산성이 떨어진다. 특히 게임 개발에서 폭력적 무기 시스템, 전투 AI, 적 캐릭터 행동 등을 구현할 때, Claude가 과도하게 거부 반응을 보이면 곤란하다. fiction과 reality를 구분 못 하는 건 도구로서 치명적이다.

더 깊이 보면, 이건 상업적 압력의 결과일 수도 있다. lawsuit을 피하려면 보수적으로 갈 수밖에 없고, 규제가 강화될수록 모델은 더 위축된다. 앞서 언급한 Altman 자택 공격 사건과도 연결된다. AI 안전에 대한 사회적 압력이 커질수록, 회사들은 모델을 더 "안전"하게 만들고, 그 안전이 결국 사용성 저하로 이어지는 악순환. Anthropic이 "다른 길"을 걷겠다고 했지만, 결국 같은 구조적 압력에 갇히고 있는 거 아닌가 하는 의문이 든다.

출처: Reddit r/artificial — Claude is on the same path as ChatGPT

AI 도구가 함수처럼 재사용되고, 보안이 연산 경쟁이 되고, 안전망이 사용성의 감옥이 되는 시대. 개발자는 이 세 가지 트렌드의 교차점에서, "도구를 통제하는 주체"로 남을 것인가, 아니면 "도구에 최적화된 입력 기계"로 전락할 것인가를 묻게 되었다.