🤖
0 in / 0 out / 0 total tokens
AI 생성 코드의 비용은 작성 시간이 아니라 삭제 시간에서 터진다.
🔥 핫 토픽
We charge $10k a week to delete AI-generated code
AI로 만든 코드를 지워주는 데 주당 1만 달러를 받는다는 글이 Hacker News에서 꽤 크게 반응을 얻었다. 제목이 세긴 한데, 개발자 입장에서 보면 농담만은 아니다. LLM이 만든 코드는 처음엔 속도가 빨라 보이지만, 경계 조건, 장애 처리, 테스트, 소유권이 비어 있으면 나중에 시스템 전체의 디버깅 비용으로 돌아온다.
게임 서버 코드로 치면 더 체감이 크다. 매치메이킹, 인벤토리, 세션 복구 같은 곳에 “대충 그럴듯한 코드”가 들어가면 로컬 테스트에서는 통과해도 동시성, 재접속, 롤백, 부하 상황에서 바로 터진다. UE5 C++ 쪽도 마찬가지다. GC 수명, UObject 참조, 네트워크 리플리케이션 흐름을 모르는 상태에서 생성된 코드는 컴파일보다 런타임에서 더 비싸게 청구된다.
왜 중요한지: AI 코딩의 병목은 생성 속도가 아니라 검증, 삭제, 책임 경계 설계로 이동하고 있다.
출처: odra.dev
📄 논문
Light-Omni: Reflex over Reasoning in Agentic Video Understanding with Long-Term Memory
Light-Omni는 긴 시간 동안 이어지는 비디오 스트림을 에이전트가 처리하고 반응하는 문제를 다룬다. 핵심 키워드는 장기 메모리와 “reasoning보다 reflex”다. 즉, 매 프레임마다 깊게 추론하는 무거운 구조보다, 계속 들어오는 멀티모달 흐름에서 필요한 순간 빠르게 반응하는 방향을 노린 것으로 보인다.
이건 꽤 현실적인 문제다. 영상 에이전트가 CCTV, 게임 플레이, 로봇 시야, 스트리밍 화면처럼 긴 입력을 계속 본다고 하면 모든 순간을 LLM식 추론으로 태우는 건 서버 비용과 지연 시간 면에서 답이 안 나온다. 게임 AI로 비유하면 매 틱마다 비싼 플래너를 돌리는 대신, 상태 캐시와 메모리, 이벤트 기반 반응을 섞는 쪽에 가깝다. 성능 최적화 감각으로 보면 “똑똑함”보다 “언제 계산하고 언제 생략할지”가 더 중요해지는 구간이다.
다만 요약만 보면 실제로 얼마나 긴 메모리를 안정적으로 유지하는지, 오래된 정보가 잘못된 반응을 만들 때 어떻게 정리하는지는 더 봐야 한다. 장기 메모리는 기능처럼 보이지만, 운영 관점에서는 캐시 무효화와 오염된 상태 관리 문제이기도 하다.
왜 중요한지: 비디오 에이전트가 제품화되려면 추론 능력보다 지연 시간, 메모리 관리, 지속 실행 비용을 먼저 해결해야 한다.
🧠 개발자 코멘트
오늘 두 소식은 서로 다른 얘기처럼 보이지만 같은 지점을 찌른다. AI가 뭔가를 “만드는” 단계는 점점 싸지고, 그 결과물을 시스템 안에서 유지 가능한 상태로 만드는 비용이 더 중요해지고 있다.
코드 생성은 삭제 비용으로, 비디오 에이전트는 장기 메모리 관리 비용으로 드러난다. 결국 AI 사이드프로젝트를 만들 때도 모델 호출 한 번 붙이는 데서 끝나지 않는다. 로그, 평가, 캐시, 실패 복구, 상태 초기화 같은 지루한 부분을 설계하지 않으면 데모는 빠르게 나오고 운영은 느리게 망가진다.
내 기준에서는 앞으로 좋은 AI 도구의 기준이 “얼마나 많이 생성하나”에서 “얼마나 적게 망가뜨리나”로 바뀔 가능성이 크다. 생성량을 늘리는 건 쉽다. 문제는 그 생성물이 코드베이스, 런타임, 사용자 상태, 비용 구조를 오염시키지 않게 만드는 일이다.
AI 개발의 진짜 비용은 토큰 가격보다, 잘못 생성된 상태를 다시 믿을 수 있는 시스템으로 되돌리는 시간에 있다.