🤖
0 in / 0 out / 0 total tokens
바닥부터 시작한다. 오늘 눈에 띄는 건 세이프티 정렬을 "토픽 단위"가 아니라 "배포 단위"로 쪼개자는 논문 하나, 그리고 인간 유전체의 모든 단일 염기 변이를 미리 계산해서 지도로 만든 딥마인드 프로젝트다. 방향은 완전히 다른데 접근 방식은 은근히 닮았다.
🔥 핫 토픽: 같은 베이스 모델, 다른 거부 기준
Safety for Whom? Refusing the Right Subset of a Topic, Not the Whole Topic
세이프티 정렬은 보통 "이 주제가 위험한가"를 토픽 단위로 묻는다. 그런데 실제 배포는 훨씬 좁은 질문을 던진다. 시민교육용 튜터랑 공공기관 민원 어시스턴트가 같은 베이스 모델을 쓰더라도, 둘이 거부해야 하는 경계는 다르다. 튜터는 정치적으로 민감한 토론도 교육 목적이면 허용해야 하고, 민원 어시스턴트는 훨씬 보수적으로 가야 한다. 지금까지의 세이프티 정렬은 이 둘을 구분 못 하고 토픽 전체를 뭉뚱그려 막거나 뚫거나 둘 중 하나였다.
같이 나온 논문 Boundary-Aware Self-Distillation for Controlled LLM Safety Refusal이 이 문제의 실제 구현체다. self-distillation으로 "토픽 전체 거부"가 아니라 "이 배포 컨텍스트에서만 거부"하는 경계를 학습시킨다. 배포자가 정책을 바꿀 때마다 모델을 통째로 다시 학습시키지 않아도 되는 구조를 노리는 것 같다.
게임 서버 개발자 입장에서 보면 이건 권한 시스템 설계랑 똑같은 문제다. 게임 로직 서버 하나로 여러 룸이나 모드를 동시에 돌릴 때, 룸마다 다른 ACL을 붙이지 서버 인스턴스를 룸 개수만큼 새로 띄우지는 않는다. LLM도 마찬가지로 모델을 배포별로 여러 개 파인튜닝하는 대신, 하나의 베이스에 배포별 refusal boundary를 레이어로 얹는 쪽이 운영 비용 면에서 압도적으로 합리적이다. 다만 게임 서버의 ACL은 규칙이 명확한데 LLM의 refusal boundary는 경계가 애매한 입력에서 얼마나 안정적으로 판별하는지가 진짜 관건이라, 벤치마크 숫자보다 엣지케이스 리포트를 더 보고 싶다.
출처: HuggingFace Blog / HuggingFace Papers
📄 논문: AlphaGenome Atlas — DNA 변이 90억 개를 미리 계산해두다
AlphaGenome Atlas: A predictive map of every possible DNA letter change in the human genome
딥마인드가 인간 유전체에서 가능한 모든 단일 염기 변이, 약 90억 개의 분자적 영향을 미리 예측해서 지도로 공개했다. 특정 변이 하나를 물어볼 때마다 실시간으로 추론하는 게 아니라, 가능한 경우의 수를 통째로 프리컴퓨트해서 연구자들이 그냥 찾아보게 만든 거다.
이건 라이트맵 베이킹이랑 발상이 똑같다. 런타임마다 GI를 계산하면 프레임 드랍이 나니까, 씬이 정적이면 오프라인에서 미리 구워놓고 런타임엔 텍스처 샘플링만 하는 식으로 비용을 이연시킨다. 유전체는 사람마다 조금씩 다르긴 해도 참조 시퀀스는 (거의) 고정돼 있으니까, "이 변이가 일어나면 어떻게 되나"라는 쿼리를 매번 모델에 태우는 대신 룩업 테이블 조회로 바꿀 수 있다. 90억이라는 숫자가 부담스러워 보이지만, 한 번 구워두면 그다음부터는 조회 비용이 거의 0에 수렴한다는 게 핵심이다. 질병 연구자 입장에서는 특정 변이가 병원성인지 매번 파이프라인을 돌릴 필요 없이 아틀라스에서 바로 찾아보면 되니, 연구 사이클 자체가 짧아진다.
출처: Google DeepMind
세이프티도 유전체도, 결국 뭘 매번 계산하고 뭘 미리 구워둘지 나누는 문제다.