综述
大型语言模型的同策略自蒸馏:综述
一篇覆盖 478 篇论文的同策略自蒸馏(OPSD)综述:语言模型在特权上下文的帮助下充当自己的教师。全文梳理了教师看到什么、信号塑形、教师动态、与强化学习的结合,OPSD 何时有效、特权信息究竟增添了什么等争论,以及从智能体到扩散模型的应用。
共 2 篇报告
综述
一篇覆盖 478 篇论文的同策略自蒸馏(OPSD)综述:语言模型在特权上下文的帮助下充当自己的教师。全文梳理了教师看到什么、信号塑形、教师动态、与强化学习的结合,OPSD 何时有效、特权信息究竟增添了什么等争论,以及从智能体到扩散模型的应用。
综述
测试时训练让模型在部署后仍能继续学习,方法是针对测试输入、上下文、问题或数据流优化一个显式目标。这篇涵盖605篇论文的综述按“在测试时学习什么”以及“从何种信号学习”来组织该领域——自监督TTT、TTT层与测试时记忆、LLM测试时训练、测试时RL,以及智能体与机器人——以统一的记号体系加以阐述,并权衡了五个尚待解决的争议。