🤖 1239 in / 4691 out / 5930 total tokens

AI 업데이트: 온디바이스 AI의 거짓말과 커뮤니티의 붕괴

🔥 핫 토픽

Chrome, 온디바이스 AI 프라이버시 약속 슬그머니 삭제

원문: Chrome removes claim of On-device AI not sending data to Google Servers

구글 크롬이 "온디바이스 AI는 구글 서버로 데이터를 전송하지 않는다"는 문구를 조용히 삭제했다가 커뮤니티에 들켰다. 개인정보 보호를 내세우며 마케팅하던 게 결국 장사치고, 실제로는 어떤 데이터가 오가는지 개발자도 사용자도 알 수 없는 구조가 되어버렸다.

이 뉴스가 핵심적인 이유는 '온디바이스'라는 단어가 가진 환상이 깨졌기 때문이다. 온디바이스 AI라고 하면 로컬에서 모든 연산이 끝나고 어떤 데이터도 외부로 나가지 않는다고 믿는 게 보통이다. 실제로 Apple의 Neural Engine이나 로컬 LLM 추론 세팅에서는 이 원칙이 꽤 잘 지켜진다. 그런데 브라우저라는 소프트웨어는 기본적으로 네트워크 통신이 생명인 앱이다. 사용자가 입력하는 프롬프트, 페이지 컨텍스트, 심지어 탭 정보까지 서버로 보낼 수 있는 구조적 가능성이 항상 열려 있다. "안 보낸다"고 해놓고 나중에 "보낼 수도 있다"로 슬그머니 바꾸는 건, 그냥 버그가 아니라 의도된 기만에 가깝다.

게임 서버 아키텍처를 설계할 때도 비슷한 딜레마가 있다. 클라이언트가 로컬에서 물리 연산을 한다고 치자. 그런데 치트 방지나 서버 검증을 위해 결과를 서버로 보내야 할 때가 있다. 이때 핵심은 '투명성'이다. 플레이어에게 "로컬에서 처리합니다"라고 해놓고 몰래 서버로 데이터를 보내면, 발각됐을 때 신뢰는 회복 불가능하다. 구글이 겪은 상황도 똑같다. 사용자 프라이버시를 존중하는 척하다가, 정작 중요한 순간에 약속을 번복한 꼴이다.

실무적으로 이게 무섭고 또 중요한 이유는, 우리가 클라우드 API를 호출할 때마다 같은 일이 벌어지고 있기 때문이다. OpenAI, Anthropic, Google AI Studio에 프롬프트를 날릴 때마다 그 데이터가 어떻게 저장되고, 재학습에 쓰이고, 내부 분석에 활용되는지 우리는 정확히 모른다. 기업용 계약으로 데이터 사용 안 함을 명시해도, 내부 로그에 찍히는 건 막을 수 없다. 온디바이스 AI가 진짜 로컬에서만 돌아야 하는 이유가 바로 여기에 있다. 그런데 크롬이 그 마지막 보루마저 무너뜨렸다.

앞으로 AI 에이전트를 만들 때, 클라이언트-서버 경계에서 어떤 데이터가 오가는지 로깅하고 감시하는 시스템이 필수가 될 것이다. 개인적으로는 Side Project에서조차 프록시를 세워서 API 호출 패턴을 모니터링해야 하나 고민하게 됐다.

출처: Reddit r/chrome

AI Slop이 온라인 커뮤니티를 죽이고 있다

원문: AI slop is killing online communities

AI가 생성한 저품질 콘텐츠, 이른바 'AI Slop'이 온라인 커뮤니티를 집어삼키고 있다. 포럼, Q&A 사이트, 소셜 미디어 어디를 가나 기계가 만든 글이 인간의 글인 척 버젓이 올라오고, 정작 진짜 사람들은 대화를 포기하고 떠나고 있다. 이건 단순히 '스팸이 많아졌다'가 아니라, 인터넷이라는 공간 자체의 근간이 흔들리는 문제다.

이 현상이 특히 치명적인 이유는 '발견'이 어려워졌기 때문이다. 과거 봇이 만든 글은 문법 오류나 부자연스러운 표현으로 쉽게 걸렸다. 2025년 기준으로 GPT-4o나 Claude 3.5 수준 모델이 생성한 텍스트는, 진짜 사람이 쓴 건지 구분하기가 거의 불가능하다. 심지어 Stack Overflow 같은 개발자 커뮤니티에서도 AI가 만든 답변이 Upvote를 받는 경우가 있다. 문법적으로 완벽하고, 구조적으로 논리적이라서다. 하지만 실제로 코드를 돌려보면 에러가 나거나, 존재하지 않는 API를 호출하거나, 미묘하게 틀린 정보를 진짜처럼 포장한다. 실제로 최근에 UE5 C++ 관련 질문에 AI 답변이 올라왔는데, 언리얼 버전 4.x 시절 API를 최신인 5.4인양 설명하고 있더라. 겉보기엔 완벽한 답변이라 모르는 사람은 그대로 베껴 쓸 수밖에 없다.

커뮤니티 운영 관점에서 보면, AI Slop은 기존 스팸 방지 시스템을 무력화시킨다. Rate Limiting, CAPTCHA, IP 차단 같은 전통적 방법으로는 막을 수 없다. 왜냐하면 '진짜 사용자'가 AI를 사용해서 글을 쓰기 때문이다. 인간이 프롬프트를 입력하고, AI가 생성한 결과를 복사해서 올리면, 시스템 입장에서는 정상적인 사용자와 구분이 안 된다. 이건 게임 서버에서 핵사용자를 잡는 것과 비슷한 딜레마다. 클라이언트 단에서 조작을 하면 서버에서 검증하기 어렵고, 결국 행동 패턴 분석에 의존해야 하는데, AI도 패턴을 학습해서 우회할 수 있다.

앞서 언급한 크롬 프라이버시 이슈와도 맞물려 있다. 온라인 공간에서 '무엇이 진짜인지' 구분할 수 없게 되면, 사용자는 모든 것을 의심하게 된다. 크롬의 약속을 의심하고, 커뮤니티 글을 의심하고, 리뷰를 의심하고. 신뢰 비용이 무한대로 치솟는 것이다. 개발자 입장에서는, 내가 만든 AI 도구가 이 Slop 생태계의 일부가 되지 않도록 설계해야 한다는 책임감이 생긴다. 자동화된 콘텐츠 생성 기능을 넣을 때, 이게 진짜 가치를 더하는지 아니면 또 하나의 노이즈를 만드는지 매번 스스로에게 물어야 한다.

결국 이 문제의 해법은 기술적이기보다는 사회적일 수밖에 없다. 커뮤니티 자체가 '인간의 경험'을 검증된 가치로 여기는 문화를 만들어야 한다. AI를 도구로 쓰되, 최종 산물에는 반드시 인간의 판단과 경험이 스며들어야 한다는 합의 말이다.

출처: rmoff.net

인터넷의 두 기둥, 프라이버시와 신뢰, 둘 다 AI 시대에 흔들리고 있다. 기술이 아니라 원칙이 필요한 시점이다.