이 글은 AI 검수에서 통과하지 못했습니다 (점수: 75/100)
⚠️ 비어있는 섹션이 있다 🚫 죽은 링크: https://v.redd.it/9ju2tp2hezqg1 (404)
링크 오류, 품질 미달 등의 사유로 자동 분류된 글입니다.
🤖
2156 in / 5900 out / 8056 total tokens
🔥 핫 토픽: 공급망 공격과 보안 경고
LM Studio에서 정교한 멀웨어 감염 의심
로컬 LLM 실행 도구인 LM Studio 사용자들이 정교한 멀웨어 감염 징후를 보고했다. 단순히 실행 파일 하나가 문제가 아니라, 여러 시스템 파일에 걸쳐 반복적으로 탐지된다는 점에서 심각성이 크다. 로컬 모델 실행 도구는 GPU 드라이버 접근, 시스템 메모리 대량 할당, 네트워크 통신까지 포함하다 보니 공격자에게는 그야말로 황금 같은 타겟이다. 게임 개발자로서 언리얼 엔진용 서드파티 플러그인을 쓸 때 느끼는 그 불안감과 동일하다. 한 번 감염되면 빌드 파이프라인 전체가 오염될 수 있다. 당분간은 공식 릴리스만 사용하고, 샌드박스 환경에서 실행하는 습관을 들여야겠다.
LiteLLM Python 패키지, 공급망 공격으로 타협
LLM API를 통합 관리하는 라이브러리 LiteLLM이 공급망 공격을 당했다. GitHub 이슈에 따르면 악성 코드가 패키지에 삽입되어 배포된 것이다. LiteLLM은 OpenAI, Claude, Gemini 등 다양한 LLM API를 단일 인터페이스로 래핑해주는 라이브러리로, 수많은 AI 프로젝트에서 의존하고 있다. 이런 핵심 라이브러리가 뚫리면 연쇄적으로 피해가 확산된다. PyPI에서 설치하는 모든 패키지에 대해 버전 고정과 체크섬 검증을 생활화해야 한다. 특히 AI 관련 패키지는 의존성 트리가 복잡해서 공격 표면이 넓다. requirements.txt에 버전을 명시하고, 가능하면 sha256 해시까지 검증하는 게 정신 건강에 좋다.
출처: GitHub
💻 하드웨어: Intel의 승부수와 VRAM 전쟁
Intel, 949달러에 32GB VRAM GPU 출시 예정
Intel이 3월 31일 32GB VRAM을 탑재한 GPU를 949달러에 직접 판매한다. 대역폭은 608GB/s로 RTX 5070보다 약간 낮지만, 소비 전력은 290W로 합리적이다. 이 소식이 로컬 LLM 커뮤니티에서 폭발적인 반응을 얻는 이유는 단순하다. VRAM이 모델 크기를 결정하기 때문이다. 현재 중고 RTX 3090조차 24GB라서 70억 파라미터 모델을 4비트 양자화해도 배치 사이즈를 올리기 빡빡하다. 32GB면 140억 파라미터 모델을 여유 있게 돌리거나, 70억 모델을 더 높은 정밀도로 실행할 수 있다. 다만 Intel GPU는 CUDA 생태계가 아니라서 ROCm이나 OneAPI 지원 여부가 관건이다. 게임 개발자 입장에서도 DirectX와 Vulkan 지원이 중요하다.
GPU 가격 하락 조짐?
커뮤니티에서는 RTX 40 시리즈 가격이 서서히 내려가는 추세라는 제보가 올라오고 있다. RTX 50 시리즈 출시와 AMD, Intel의 경쟁 가닥이 잡히면서 엔비디아도 방어적 가격 정책을 취하는 것으로 보인다. AI 개발자에게 VRAM 가성비는 곧 실험 가능한 모델의 범위와 직결된다. 언리얼 엔진 프로젝트에서도 텍스처 스트리밍 버젯과 렌더 타겟 메모리를 고민하는 것과 비슷하다. 하드웨어가 풀리면 풀릴수록 시도해볼 수 있는 것이 늘어난다. 아직은 구매 타이밍을 조금 더 지켜보는 게 현명해 보인다.
🧠 모델과 연구: 압축과 추론 능력의 경계
TurboQuant: 극한 압축으로 AI 효율성 재정의
구글 리서치가 발표한 TurboQuant는 모델 압축 기술의 새로운 지평을 보여준다. 기존 양자화가 4비트나 8비트로 값을 깎아내리는 방식이라면, TurboQuant는 압축률과 정확도 사이의 최적점을 더 공격적으로 탐색한다. 로컬 LLM을 돌리는 입장에서 양자화는 선택이 아니라 필수다. 700억 파라미터 모델을 FP16으로 돌리면 140GB VRAM이 필요하지만, 4비트 양자화하면 35GB로 줄어든다. TurboQuant가 이 한계를 더 밀어붙일 수 있다면 32GB 카드에서도 더 큰 모델을 실행할 수 있다. 게임 개발에서도 메모리 예산은 늘 부족하다. 텍스처 압축과 메시 LOD 최적화가 렌더링 파이프라인의 핵심이듯, 모델 양자화는 추론 파이프라인의 핵심이다.
출처: Google Research
GPT-5.4 Pro, 프론티어 수학 공개 문제 해결
Epoch AI가 확인한 바에 따르면 GPT-5.4 Pro가 프론티어 수학의 미해결 문제 중 하나를 풀어냈다. 프론티어 수학은 현대 수학의 난제들을 모아놓은 벤치마크로, 이전까지 어떤 AI도 제대로 된 성과를 내지 못했다. 모델이 단순히 패턴 매칭을 넘어서 진짜 추론 능력을 갖췄다는 의미로 읽힌다. 게임 개발에서도 AI가 복잡한 알고리즘 최적화나 수학적 문제 해결에 쓰일 날이 가까워지고 있다. 물론 검증이 필요하다. 이런 발표는 종종 과장되기도 한다. 하지만 추세는 분명하다. 모델의 추론 능력은 계속 향상되고 있고, 그 향상 속도는 가속화 중이다.
출처: Epoch AI
🎮 게임 개발: AI NPC의 새로운 가능성
SillyTavern 확장으로 모든 게임에 NPC AI 구현
SillyTavern을 백엔드로 활용해 모든 게임의 NPC에 AI를 입히는 확장이 공개됐다. 게임 쪽에는 작은 모드만 띄워서 다리를 놓고, 실제 대화 처리는 SillyTavern이 담당하는 구조다. 현재 Cydonia를 롤플레잉 모델로, Qwen 3.5를 보조로 사용 중이라고 한다. 언리얼 엔진에서 AI NPC를 구현할 때 가장 고민인 게 대화 품질과 서버 비용의 균형이다. 클라이언트에서 로컬 모델을 돌리면 GPU 자원을 게임 렌더링과 나눠 써야 하고, 서버에서 돌리면 비용이 무섭게 쌓인다. 이 접근법은 하이브리드로 풀어낸 케이스다. 게임은 가볍게 유지하고, 외부 프로세스에 무거운 작업을 위임한다. 플러그인 아키텍처를 짤 때 참고할 만하다.
⭐ 오픈소스: 진짜 오픈소스 AI 목록
awesome-opensource-ai: 진짜 오픈소스 AI 프로젝트 큐레이션
awesome-opensource-ai는 이름에 오픈소스를 달았는데 실제로는 라이선스가 제한적인 프로젝트들이 판치는 현실에 대응해서 만들어진 목록이다. 에이전트, 모델, 도구, 인프라까지 진짜 오픈소스 라이선스를 가진 프로젝트만 모았다. LLaMA처럼 상업적 사용이 제한된 모델은 제외된다. 오픈소스를 고를 때 라이선스를 꼼꼼히 확인하는 건 기본이지만, 매번 하기 귀찮기도 하다. 이런 큐레이션이 있으면 초기 탐색 비용이 줄어든다. 프로젝트에 AI 기능을 통합할 때 라이선스 충돌로 인한 법적 리스크를 피하려면 참고할 만하다.
출처: GitHub
💭 잡담: AI 피로감과 32MB VRAM 농담
AI 이야기에 지친 사람들
AI 토픽에 지친 목소리가 해커 뉴스에서 꽤 많은 공감을 얻었다. 매일 새로운 모델, 새로운 벤치마크, 새로운 유행어가 쏟아지다 보니 따라가기도 벅차고, 본질적인 개발 작업이 밀리는 느낌이라는 것이다. 공감되는 부분이 있다. 블로그 글 쓰면서도 매일 쏟아지는 뉴스를 정리하다 보면 정작 내 프로젝트 코드는 손도 못 대는 날이 있다. 하지만 무시할 수도 없다. 이 기술이 산업 전체를 바꾸고 있으니까. 균형이 필요하다. 뉴스는 훑어만 보고, 실제 적용은 내 프로젝트에 맞는 것만 골라서.
32MB VRAM으로 Claude Opus 이기기
32MB VRAM으로 Claude Opus를 이길 수 있는 최고의 모델을 묻는 글이 올라왔다. GeForce 256과 펜티엄 3를 보유 중이라고. 명백한 농담이다. 32MB는 텍스트 에디터 하나 띄우기도 빠듯한 용량이다. 하만 1999년쯤 GPU 사양이다. 그래도 댓글에서 진지하게 32GB로 착각하고 답변하는 사람들이 있어 웃음이 나왔다. 로컬 LLM 커뮤니티의 유머 코드가 꽤 마음에 든다.
보안 공격은 정교해지고, 하드웨어는 풀려가고, 모델은 작아지면서 똑똑해지는 중이다. 로컬 개발자에게는 좋은 시대이지만 방심은 금물.