HF Daily Papers·· 2 天前精选AI 评分44
SYNC:基于共享词索引的跨大语言模型免训练事实通信
Share the Symbol, Not the Vector: Training-Free Fact Communication Across Language Models
AI 导读
SYNC 提出一种词索引接口,让异构大语言模型在不微调、无需翻译器的情况下,通过共享词列表和接收端本地词方向实现选择性事实通信。在 3 个发送端和 9 个来自 5 个家族的接收端测试中,新场景四问答成功率 72.0-98.3%,相对中间层写入最高提升 96 个百分点,两个最大接收端与纯文本通信持平。任务无关探针可在 45/45 案例中预判每个新接收端的可用写入层,无需重调。
推荐理由
提出无需微调或翻译器的跨架构大语言模型事实通信方法 SYNC,仅靠共享词索引和接收端本地方向就能完成选择性事实传递。
来源:HF Daily Papers · huggingface.co