AI 업데이트: 로컬 LLM 하드웨어와 수학을 바꾸는 AI
🤖 902 in / 2527 out / 3429 total tokens 오늘은 두 가지 간단하지만 묘하게 묘한 뉴스가 들어왔다. 하나는 로컬 LLM 커뮤니티의 하드웨어 자랑, 다른 하나는 수학계를 노리는 AI 스타트업. 🔥 핫 토픽 로컬 LLM 하드웨어 구매의 후회(아님) 원문 보기(https://i.redd.it/2z3k2rs7f3rg1.
AI 업데이트: 공급망 공격, FlashAttention-4, 그리고 게임 NPC
🤖 2037 in / 5548 out / 7585 total tokens 오늘자 뉴스 중 가장 눈에 띄는 건 LiteLLM 패키지 해킹이다. AI 인프라 보안이 점점 더 중요해지는 시점에서, 이런 공급망 공격은 정말 조심해야 한다. 🔥 핫 토픽 LiteLLM 1.82.7~8, PyPI에서 해킹당함 https://www.reddit.com/r
AI 업데이트: 서플라이체인 공격 경고, Claude Code 생산성
🤖 1755 in / 4860 out / 6615 total tokens 오늘은 보안 이슈가 꽤 무겁다. AI 개발자들이 자주 쓰는 도구들이 표적이 됐다. 🔥 핫 토픽: 서플라이체인 공격 주의보 LiteLLM, credential stealer 포함된 버전 배포됨 Litellm 1.82.8 버전에 악성코드가 포함됐다(https://simon
AI 업데이트: RAG 파이프라인 실전 구현
🤖 900 in / 3201 out / 4101 total tokens 오늘은 딱 한 가지만 짚고 넘어간다. RAG(Retrieval-Augmented Generation) 파이프라인을 직접 구현해볼 수 있는 오픈소스가 트렌딩에 올라왔다. 🔥 오픈소스 하이라이트 RAG Nova - End-to-End RAG 챗봇 파이프라인 GitHub -
AI 업데이트: 모바일에서 400B LLM 돌리는 시대
🤖 796 in / 2082 out / 2878 total tokens iPhone 17 Pro에서 400B 파라미터 모델이 돌아간다고 한다. 작년만 해도 상상도 못 했던 일이 벌어지고 있다. 🔥 핫 토픽 iPhone 17 Pro, 400B LLM 로컬 실행 성공 Apple Silicon이 진짜 무서운 건 단순한 벤치마크 점수가 아니다. 메
AI 업데이트: 할머니는 AI 체크아웃을 원하지 않는다
🤖 838 in / 2188 out / 3026 total tokens AI를 무조건 믿고 덤벼들면 망한다. 월마트가 직접 증명했다. 🔥 핫 토픽 월마트, ChatGPT 체크아웃이 웹사이트보다 전환율 3배 낮아 검색엔진랜드 보도에 따르면, 월마트가 ChatGPT 기반 체크아웃 경험을 테스트했는데 기존 웹사이트보다 전환율이 3배나 낮았다고 한
AI 업데이트: GitHub 가용성과 AI 환각의 민낯
🤖 858 in / 2248 out / 3106 total tokens 오늘은 인프라 신뢰성과 AI의 근본적 한계에 대한 이야기다. 둘 다 개발자로서 피할 수 없는 주제다. 🔥 핫 토픽 GitHub가 99.9% 가용성에 허덕이다 GitHub가 최근 연이은 장애로 "고작" three nines(99.9%) 가용성 유지에도 애를 먹고 있다는 이
AI 업데이트: 광자 칩과 LLM 훈련
🤖 899 in / 2413 out / 3312 total tokens 오늘은 하드웨어와 소프트웨어 양쪽에서 흥미로운 소식이 들어왔다. KV 캐시 병목을 광자 칩으로 푸는 시도랑, LLM을 처음부터 훈련해볼 수 있는 교육용 프로젝트다. 🔥 하드웨어 혁신 Photonic Chip으로 O(1) KV Cache 블록 선택 구현 원문 보기(http
AI 업데이트: Kimi K2.5와 RAG 파이프라인
🤖 866 in / 2015 out / 2881 total tokens 오늘은 두 가지가 눈에 띄었다. 중국 Moonshot AI의 Kimi K2.5가 Cursor 측에서 최고의 오픈소스 모델로 언급된 것, 그리고 깔끔한 RAG 파이프라인 예제가 트렌딩에 올랐다는 점이다. 🔥 핫 토픽 Cursor가 인정한 Kimi K2.5 So cursor
AI 업데이트: 벡터 검색의 본질과 AI의 영역 확장
🤖 928 in / 2131 out / 3059 total tokens RAG가 결국은 검색 기술이라는 사실, 최근 들어 다시금 실감하고 있다. 🔥 벡터 검색, 결국엔 검색이다 Data Engineering 출신이 본 LLM 생태계의 맹점(https://i.redd.it/gccmg22z2qqg1.png) Reddit의 LocalLLaMA 커뮤