Record speaker-aware AV research and literature

This commit is contained in:
Xin Wang
2026-08-30 15:36:28 +08:00
parent 4abbde4f52
commit 348c5c3343
29 changed files with 907 additions and 6 deletions

View File

@@ -3,7 +3,7 @@
- 作者:Liangyang Ouyang 等
- 会议:CVPR 2026;预印本初发于 2025 年
- 阅读深度:重点章节阅读(问题分析、方法及输入要求)
- 记录日期:2026-08-27
- 记录日期:2026-08-27;方法与代码状态复核:2026-08-28
- 官方来源:[CVF 论文页](https://openaccess.thecvf.com/content/CVPR2026/html/Ouyang_Multi-speaker_Attention_Alignment_for_Multimodal_Social_Interaction_CVPR_2026_paper.html)、[arXiv 正文](https://arxiv.org/pdf/2511.17952)
## 摘要(中文转述)
@@ -17,3 +17,9 @@
## 本项目的待验证迁移
用当前可见 track 的区域特征构成参与者集合,训练音频条件下的融合和逐人活动辅助任务。身份标签可作训练监督;推理若使用真值框或真值说话人归属,必须单列为 oracle 条件,不能与仅原始 AV 的结果混报。还需保留佩戴者和画外/未定位说话人的表示。
## 2026-08-28 补读
方法 §4.1–4.2 按话语 token 到人物区域的注意力选择 head,再对同人话语—视觉关系加偏置。因而“在 Thinker 内加人物 attention bias”本身已有直接相关先例;本项目须验证无真值话语身份输入的 AV 关联、严格输入截止时间以及 wearer 事件收益。
[官方仓库](https://github.com/ut-vision/SocialInteraction) 本次核查仅将论文发布勾选完成,zero-shot 与 LoRA 实现仍列为待发布;未运行其代码。新版迁移设想见[实验计划](../docs/speaker_aware_thinker_plan_2026-08-28.md),其中读出分支干预是我们的假设,不是原论文已实现的 Qwen2.5-Omni 在线方案。