서베이
대규모 언어 모델을 위한 온-폴리시 자기 증류: 서베이
자기 증류(on-policy self-distillation)에 관한 478편의 논문을 조사한 서베이로, 언어 모델이 특권적 맥락(privileged context)이 주어진 상태에서 자기 자신으로부터 학습하는 방식을 다룬다. 이 서베이는 교사가 무엇을 보는지, 신호 형성(signal shaping), 교사 역학(teacher dynamics), 강화학습과의 결합, OPSD가 언제 도움이 되는지와 특권적 정보가 무엇을 더하는지에 관한 논쟁, 그리고 에이전트에서 확산 모델에 이르는 응용을 포괄한다.