🤖
0 in / 0 out / 0 total tokens
AI 시스템의 품질은 모델 크기만으로 결정되지 않고, 사람이 판단하는 환경과 그 판단을 훔치려는 공격면까지 같이 봐야 한다.
핫 토픽
The bottleneck might be the air in the room
원문 링크: https://blog.mikebowler.ca/2026/07/03/co2-and-decision-making/
이 글의 핵심은 꽤 불편하다. 우리가 AI 도구를 잘 못 쓰는 이유가 프롬프트 실력이나 모델 한계만이 아니라, 회의실 공기 같은 물리적 환경일 수 있다는 이야기다. CO2 농도와 의사결정 품질을 연결해서 보면, 개발팀의 생산성 병목이 IDE, LLM, CI 파이프라인 바깥에 있을 수 있다.
게임 서버 최적화할 때도 비슷한 함정이 있다. 처음에는 DB 쿼리나 네트워크 패킷만 본다. 그런데 실제 병목은 락 경합, 배포 시간대, 운영자 대시보드의 잘못된 알림처럼 시스템 바깥에 걸쳐 있는 경우가 많다. AI 개발도 마찬가지다. 모델이 똑똑해질수록 마지막 품질 차이는 인간이 언제, 어떤 컨디션에서, 어떤 환경에서 결정을 내리는지가 만든다.
이게 왜 중요한지: AI를 도입하는 팀은 모델 벤치마크만 볼 게 아니라, 사람이 AI 출력을 검토하고 승인하는 환경까지 운영 시스템으로 다뤄야 한다.
보안
Espionage Against the European Parliament
원문 링크: https://citizenlab.ca/research/member-of-committee-investigating-spyware-hacked-with-pegasus/
Citizen Lab이 다룬 이 사건은 유럽의회와 스파이웨어, Pegasus라는 키워드만으로도 충분히 무겁다. 특히 스파이웨어를 조사하던 위원회 구성원이 Pegasus에 해킹됐다는 점이 핵심이다. 감시를 감시하는 사람도 공격 대상이 된다는 뜻이고, 보안 모델을 “중요한 사람만 조심하면 된다” 수준으로 두면 바로 깨진다.
AI 관점에서는 더 신경 쓰이는 지점이 있다. 앞으로 조직의 의사결정, 문서 요약, 메일 작성, 회의 기록 분석이 AI 에이전트와 연결될수록 단말 감염의 파급력이 커진다. 예전에는 감염된 기기에서 문서 몇 개가 빠져나가는 문제였다면, 이제는 AI 워크플로 전체의 컨텍스트, 프롬프트, 토큰, 내부 검색 결과가 한꺼번에 공격면이 된다.
UE5 멀티플레이 서버를 만들 때 클라이언트를 절대 믿지 않는 것처럼, AI 시스템에서도 사용자 단말과 브라우저 세션을 신뢰 경계 안쪽에 쉽게 넣으면 안 된다. 특히 에이전트가 메일, 캘린더, 문서, 저장소 권한을 동시에 잡는 순간 권한 상승 경로가 너무 예뻐진다. 나도 사이드프로젝트 만들 때 OAuth scope를 대충 넓게 잡고 빨리 붙이고 싶은 유혹이 있는데, 이런 뉴스를 보면 그게 나중에 얼마나 비싼 빚이 되는지 다시 보게 된다.
이게 왜 중요한지: AI 에이전트 시대의 보안은 모델 프롬프트 보호가 아니라, 단말·세션·권한·컨텍스트 저장소를 묶어서 설계하는 문제다.
개발자 메모
오늘 두 뉴스는 겉으로는 AI 모델 뉴스가 아니다. 그런데 실제 AI 제품을 만드는 입장에서는 오히려 더 실전적이다. 하나는 인간 판단의 런타임 환경을 말하고, 다른 하나는 AI가 붙는 업무 시스템의 공격면을 말한다.
모델 성능은 계속 올라가고 있다. 그래서 개발자가 봐야 할 질문도 조금 바뀐다. “어떤 모델이 더 똑똑한가”에서 “이 모델 출력이 어떤 환경에서 승인되고, 어떤 권한으로 실행되며, 그 과정이 어디서 오염될 수 있는가”로 가야 한다. 서버 아키텍처로 치면 단일 함수 최적화가 아니라 전체 요청 경로의 tail latency를 보는 단계다.
AI의 다음 병목은 파라미터 수가 아니라, 사람이 숨 쉬는 방과 권한이 흐르는 경계에 있다.