ai signal
AI 업데이트: MTP, 드디어 llama.cpp에 병합되다
🤖 1287 in / 3445 out / 4732 total tokens
🔥 핫 토픽
MTP(Multi-Token Prediction)가 llama.cpp에 공식 병합
어제 Reddit r/LocalLLaMA 커뮤니티가 들썩였다. PR 22673이 드디어 마스터 브랜치에 병합된 것. MTP, 즉 Multi-Token Prediction 지원이
이더1주 전6 min read0MTPllama.cpplocal-llm