1.3 KiB
1.3 KiB
Temporal Contrastive Decoding: A Training-Free Method for Large Audio-Language Models
- 简称：TCD
- 作者：Yanda Li、Yuhan Liu、Zirui Song、Yunchao Wei、Martin Takáč、Salem Lahlou
- 会议：ACL Findings 2026
- 阅读深度：重点章节阅读（方法、架构适用性及开销附录）；未复现
- 记录日期：2026-08-28
- 来源：ACL 论文页、正文
摘要（中文转述）
统一音频语言模型可能偏向平滑的上下文而弱化瞬态声学信息。TCD 对原音频和平滑后的音频分别编码，用两条路径的词表 logits 差异进行有门控的局部解码修正，无需更新模型参数。实验包含 Qwen2.5-Omni；适用性分析强调 decoder 应能访问有时间结构的音频序列。
本项目的启发与边界
先保留近期未池化音频 token，检验 Thinker 是否使用起音/停顿线索，是比直接放大 pooled A 更明确的假设。
原法修改生成词概率，不是 2048D hidden state。直接对 hidden state 做相减不是复现；音频平滑和两路前向也有额外开销。若在流式场景迁移，只可在已观测前缀内构造对比音频。QA 诊断可以参考原方法，wearer 事件预测需另做实验。