🤖
1783 in / 3915 out / 5698 total tokens
오늘은 보안 이슈가 꽤 무겁다. 로컬 LLM 사용자들 사이에서 공급망 공격이 연달아 터졌고, Intel이 로컬 개발자들에게 꽤 매력적인 GPU를 들고 나올 예정이다.
🔥 보안 이슈: 공급망 공격 주의보
LM Studio, 정교한 멀웨어 감염 의심
로컬 LLM 실행기로 유명한 LM Studio에서 정교한 멀웨어가 감염되었다는 제보가 올라왔다. 단순 오탐일 수도 있지만, 여러 사용자가 동일한 탐지 결과를 보고했다. 일단은 실행 중단하고 공식 발표를 기다리는 게 좋겠다.
왜 중요한가: 로컬 모델 실행 도구는 시스템 권한을 많이 필요로 해서, 여기 뚫리면 피해가 꽤 크다.
LiteLLM Python 패키지, 공급망 공격 당함
LiteLLM도 공급망 공격을 당했다. 이건 GitHub 이슈로 확인된 건데, 패키지 의존성 쪽이 뚫린 듯하다. LiteLLM 쓰는 프로젝트 있으면 당장 의존성 확인해야 한다.
왜 중요한가: AI 래퍼 라이브러리들은 API 키를 다루는 경우가 많아서, 여기 뚫리면 크리덴셜 탈취로 이어질 수 있다.
출처: GitHub Issue
🖥️ 하드웨어: Intel의 로컬 LLM용 저격수
Intel, 32GB VRAM GPU를 $949에 출시 예정
Intel이 32GB VRAM을 탑재한 GPU를 $949에 판매한다는 소식이다. 대역폭은 608 GB/s로 RTX 5070보다 약간 낮지만, VRAM 용량만 보면 로컬 LLM 돌리기에 꽤 괜찮은 스펙이다. 소비전력은 290W.
왜 중요한가: 32GB면 Qwen 72B 정도는 양자화해서 돌릴 수 있다. 가격대가 $949면 중고 3090 두 장 값보다 싸고, 전력도 아낄 수 있다. 로컬 LLM 하드웨어 시장에 균열이 가는 신호다.
GPU 가격 하락 조짐?
GPU 가격이 내려가고 있다는 징후들이 보인다. 정확한 내용은 이미지라 알 수 없지만, 로컬 LLM 커뮤니티 분위기가 반색하는 분위기다.
🧠 AI 능력: 수학 문제 해결과 압축 효율
GPT-5.4 Pro, 프론티어 수학 미해결 문제 풀어
Epoch AI에서 GPT-5.4 Pro가 Ramsey Hypergraphs 관련 미해결 수학 문제를 풀었다고 한다. 프론티어 수학은 아직 인간이 풀지 못한 문제들을 모아둔 벤치마크인데, 여기서 하나를 뚫었다는 건 의미가 크다.
왜 중요한가: AI가 창의적 문제 해결 능력을 보여주는 사례가 늘어나고 있다. 게임 개발에서도 프로시저럴 알고리즘이나 밸런싱 문제에 AI가 쓰일 날이 멀지 않았다.
출처: Epoch AI
TurboQuant: 극한 압축으로 AI 효율 재정의
Google Research에서 TurboQuant라는 기술을 발표했다. 극한의 압축으로 AI 모델 효율을 높이는 기술이다. 양자화 쪽은 항상 관심있게 보는데, 이건 꽤 공격적인 접근을 한 듯하다.
왜 중요한가: 로컬 LLM 실행에 있어서 양자화는 필수다. 더 작은 VRAM으로 더 큰 모델을 돌릴 수 있게 해주는 기술은 하드웨어 업그레이드 없이 성능을 끌어올려준다.
출처: Google Research
🎮 게임 AI: NPC에 생명 불어넣기
SillyTavern 확장으로 게임 NPC 살리기
SillyTavern을 백엔드로 사용해서 어떤 게임이든 NPC에 생명을 불어넣는 확장이 나왔다. 게임 쪽에 작은 모드만 있으면 되고, 실제 대화 생성은 SillyTavern이 담당한다. Cydonia와 Qwen 3.5를 모델로 사용 중이라고.
왜 중요한가: UE5 개발자로서 이런 접근은 꽤 흥미롭다. 게임 엔진 내에서 LLM을 직접 돌리는 건 리소스 이슈가 큰데, 외부 백엔드로 분리하면 클라이언트 부하를 줄일 수 있다. 물론 서버 아키텍처 관점에서는 지연 시간과 의존성 문제를 고려해야 한다.
⭐ 오픈소스
awesome-opensource-ai
진짜 오픈소스 AI 프로젝트, 모델, 도구, 인프라를 모아둔 큐레이션 리스트다. 에이전트, 모델, 인프라까지 카테고리가 잘 나눠져 있다.
왜 중요한가: "오픈소스"라고 해놓고 라이선스가 제한적인 경우가 많은데, 진짜 오픈소스만 골라놨다는 게 마음에 든다.
출처: GitHub
💭 기타
AI 이야기에 지루함을 느끼는 사람들
AI 이야기에 지루함을 느낀다는 글이 올라왔다. 어느 정도 공감된다. 매일 새로운 모델, 새로운 기능이 쏟아지니 따라가는 것도 일이고, 정작 중요한 건 "이걸로 뭘 만들지"인데 그 이야기는 잘 안 보인다.
보안은 늘 뒷전이다가 터지고 나서야 중요해진다. 오늘 자료들은 그걸 보여주는 좋은 예다.