跳转至

澜舟科技发布可信 AI 技术体系,以智能体和数字员工重构企业服务新范式

公众号: 机器之心 发布日期: 04月16日 抓取日期: 2026-04-17 URL: https://www.jiqizhixin.com/articles/a643a035-c260-411c-bb99-db5a8fea0c74


Title: TPAMI 2026 | 北大彭宇新团队提出CPL++框架,实现视觉定位模型的「自知之明」和「自我纠错」 | 机器之心

URL Source: https://www.jiqizhixin.com/articles/a643a035-c260-411c-bb99-db5a8fea0c74

Markdown Content:

TPAMI 2026 | 北大彭宇新团队提出CPL++框架,实现视觉定位模型的「自知之明」和「自我纠错」 | 机器之心

机器之心

Image 1: 机器之心

Image 2: 未登录

登录

Image 3: empty_user 去登录

Image 4文章库Image 5PRO会员通讯Image 6SOTA!模型Image 7AI ShortlistImage 8: new-iconImage 9AI 好好用

Image 10: 机器之心

文章库PRO通讯会员SOTA!模型AI ShortlistImage 11: new-icon

AI 好好用

Image 12登录

Image 13: home

Image 14: logo文章库

Image 15: icon

Image 16: no-user登录

TPAMI 2026 | 北大彭宇新团队提出CPL++框架,实现视觉定位模型的「自知之明」和「自我纠错」

0%

Image 17: icon展开列表

打造全球领先“具身智能超级供应链”,京东发布行业首个具身数据全链路基础设施

04月16日

京东具身智能生态发布会

Image 18: img

当AI迈入Harness时代:以MiniMax为样本看智能体云端新基建

04月16日

MaxHermes

Image 19: img

数据限制具身?觅蜂杀进场破局:高质量数据水电一样即取即用

04月16日

觅蜂科技(Maniformer)

Image 20: img

TPAMI 2026 | 北大彭宇新团队提出CPL++框架,实现视觉定位模型的「自知之明」和「自我纠错」

04月16日

CPL++

Image 21: img

澜舟科技发布可信 AI 技术体系,以智能体和数字员工重构企业服务新范式

04月16日

可信 AI

Image 22: img

ICLR 2026巴西见!上海AI实验室北极星X星启交流会,等你来聊

04月16日

上海人工智能实验室

Image 23: img

脸谱心智陆弘远团队ACL 2026新作:别再给模型叠加「高级词」了!模型更爱听「大白话」

04月16日

ACL 2026

Image 24: img

腾讯发布并开源混元3D世界模型 2.0,一句话造出3D世界,兼容游戏引擎!

04月16日

HY-World 2.0

Image 25: img

ACM CAIS 2026 Workshop征稿|首届Agent Skills研讨会:智能体技能的设计、评估与优化

04月16日

Agent Skills研讨会

Image 26: img

打通分子宏微观鸿沟,40+任务超越SOTA,上智院开源Suiren-1.0模型

04月16日

AI for Science

Image 27: img

万帧实时!流式3D重建天花板,被国产开源模型打破了

04月16日

流式 3D 重建基础模型

Image 28: img

本周六,围观学习ICLR 2026论文分享会,最后报名了

04月16日

ICLR 2026论文分享会

Image 29: img

太反差了!那边Claude强制「刷脸」认证,这边国内Coding Plan被外国人疯抢

04月16日

GLM Coding Plan

Image 30: img

训练提速4.6倍!FP4+BF16双轨并行,NVIDIA×港大×MIT联手重新定义扩散模型训练速度上限

04月16日

Sol-RL

Image 31: img

它石智航Pre-A轮融资4.55亿美金破中国具身智能纪录,高瓴红杉美团联合领投

04月16日

它石智航

Image 32: img

继HappyHorse后,阿里又有一款模型登顶权威评测榜单

04月16日

ABot-PhysWorld

Image 33: img

2026具身智能数据赛道,卷出了一匹「黑马」

04月15日

觅蜂科技(Maniformer)

Image 34: img

从「片段生成」到「长视频漫游」:OmniRoam探索轨迹可控的长视频生成新范式

04月15日

视频生成

Image 35: img

阿里ATH发布AI开发工具Meoo,可一键开发一键部署

04月15日

Meoo(秒悟)

Image 36: img

构建跨越时空的微观实验室:KIMMDY 仿真器实现秒级生物化学反应的动态模拟

04月15日

AI for Science

Image 37: img

Image 38: avatar

机器之心 原创

5小时前

TPAMI 2026 | 北大彭宇新团队提出CPL++框架,实现视觉定位模型的「自知之明」和「自我纠错」

Image 39: 图片

本文是北京大学彭宇新教授团队在视觉定位方向的最新研究成果,相关论文已被顶级国际期刊 IEEE TPAMI 接收。为视觉定位模型赋予「自知之明」能力 —— 通过自监督的关联校正与验证模块,在训练过程中动态识别、衰减并纠正错误的监督信号。大量实验证明,让模型学会「自我纠错」,是突破弱监督视觉定位瓶颈的有效途径。

Image 40: 图片 * 论文标题:Confidence-aware Pseudo-label Self-Correction for Weakly Supervised Visual Grounding

  • 论文链接:https://ieeexplore.ieee.org/document/11433810/

  • 开源代码:https://github.com/oceanflowlab/CPL

  • 实验室网址:http://mipl.pku.edu.cn

背景与动机

视觉定位(Visual Grounding)旨在根据自然语言查询准确定位图像中的目标区域。然而,全监督方法严重依赖密集的「图像 - 文本 - 物体框」细粒度标注,这在处理大规模复杂场景时面临巨大的标注成本挑战。因此,仅利用「图像 - 文本」进行训练的弱监督视觉定位受到了广泛关注。

现有弱监督方法通常将该任务视为一个目标检索过程,依赖跨模态匹配分数或重构损失来挑选候选区域。但语言描述的高层抽象概念与图像区域的像素级特征之间存在着巨大的「异构鸿沟」,这使得跨模态匹配往往极不可靠。模型在训练中一旦学到了这些错误的「伪关联」,就会陷入错误传播和累积的死循环。此前的无监督方法尝试用模板生成伪查询,但生成的句子生硬且缺乏多样性,同样忽略了错误关联对模型的严重影响。

针对这一难题,北京大学彭宇新教授团队提出了置信度感知的伪标签学习框架(CPL)及其进阶版 CPL++,通过引入大模型生成多样化描述,并结合「自监督关联验证」机制,让模型在训练过程中学会动态发现并纠正自己的错误,实现弱监督视觉定位性能的提升。

技术方案

本文提出的 CPL 框架不仅能过滤错误的区域 - 文本关联,更能利用模型自身在训练中不断增强的定位能力,动态地「纠正」这些错误标签。其核心亮点包含以下几个方面:

Image 41: 图片 图 1. 置信度感知的伪标签学习框架 CPL

1. 高质量伪查询生成与单模态匹配

由于跨模态匹配的困难,本文转换思路,利用单模态内的匹配构造伪标签。如上图所示,CPL 框架提出了三条互补的生成管线(启发式增强 Heuristic+、以对象为中心描述 Object-Centric、以关系为中心描述 Relation-Aware),为图像中的每个候选区域生成描述性强、真实且多样化的伪查询文本。随后,模型在文本特征空间内计算真实查询与伪查询之间的单模态相似度,挑选最匹配的区域作为初始伪标签,从而避开了跨模态对齐带来的挑战。

2. 静态跨模态验证模块

为了减少虚假关联对模型训练的影响,CPL 框架引入了一个静态跨模态验证模块。该模块利用冻结的预训练视觉 - 语言大模型,在训练前对「区域 - 查询」对进行评估,输出一个静态置信度得分Image 42: 图片。基于此得分,CPL 通过阈值过滤掉不可靠的关联,有效抑制了错误样本在训练中的负面影响。

虽然 CPL 取得了显著效果,但其验证模块是孤立于定位模型之外的「静态」评估,不仅无法在训练中动态发挥作用,更缺乏对错误关联的「纠正」机制。为此,研究团队进一步扩展得到 CPL++ 框架,在以下核心方面进行了自监督升级。

Image 43: 图片 图 2. 置信度感知的伪标签学习框架的进阶版本 CPL++

3. 自监督关联校正与动态伪标签优化

为了纠正错误的「区域 - 查询」关联,CPL++ 进一步引入了自监督关联校正模块。首先,模型不仅仅依赖检测器的置信度,而是结合了查询文本中的类别、属性和空间关系,构建了一个高质量的语义感知候选池。其综合评分函数定义为:

Image 44: 图片 该评估函数综合性地结合了查询文本和候选区域在类别、属性、空间关系上的匹配程度,并结合检测器的置信度,对「区域 - 查询」伪标签提供了全面、可靠的评估手段,用于发现可能错误的「区域 - 查询」关联,过滤得到高质量的伪查询候选池,用于训练模型。

训练过程中,CPL++ 框架动态利用模型的输出对伪标签进行优化。如果模型自身的预测框 Image 45: 图片 与候选池中最优区域Image 46: 图片的重合度(IoU)低于阈值Image 47: 图片,模型会认为当前关联有误,并动态地将其进行加权融合,生成更精确的新伪标签:

Image 48: 图片 4. 自监督关联验证

除了纠错,CPL++ 将原本孤立的静态验证升级为动态机制。研究发现,随着训练的深入,模型对错误样本(噪声)会产生较大的训练损失。因此,CPL++ 引入了动态选择性定位损失,利用模型当前轮次Image 49: 图片样本 Image 50: 图片的训练损失Image 51: 图片来动态调整样本权重:

Image 52: 图片 这种自监督验证机制巧妙融合了强大的静态预训练模型的先验知识与不断动态进化的定位模型的能力,降低了误差传播的风险。

实验结果

本文在弱监督视觉定位领域的五大数据集(RefCOCO、RefCOCO+、RefCOCOg、ReferItGame、Flickr30K Entities)上进行了全面评估。

CPL 基础框架在这五个数据集的测试集上超越现有的弱监督与无监督方法。具备自纠错能力的 CPL++ 框架在 CPL 的基础上进一步实现了 2.78%、5.81%、1.08%、2.03% 和 2.55% 的绝对性能提升。CPL++ 框架将弱监督方法与全监督方法之间的性能差距缩小,展现了伪标签自校正机制的巨大潜力。

Image 53: 图片 表 1:RefCOCO、RefCOCO+、RefCOCOg 数据集结果

Image 54: 图片 表 2:ReferItGame、Flickr30K Entities 数据集结果

为了进一步直观展示模型生成伪标签的实际效果,图 3 中给出了伪标签的可视化结果,可以看出,CPL 能够为图像候选区域生成描述准确、句式丰富且包含复杂交互关系的高质量伪查询,提供了高度互补的多样化监督信息。此外,图 4 展示了自监督关联校正模块的动态纠错全过程:从图 4(a)中最初建立的初步伪查询关联,到图 4(b)中经过单模态匹配后可能产生的偏差关联,最终在校正模块的干预下,图 4(c)中模型的预测框被成功纠正并精准锁定到了与图 4(d)中的真实文本完全对应的正确目标区域上。这些案例证明了 CPL++ 框架在动态识别并修正错误监督信号方面的强大能力。

Image 55: 图片 图 3:CPL 框架伪标签可视化

Image 56: 图片 图 4:CPL++ 框架自监督关联校正可视化

总结

本文提出了一种弱监督视觉定位框架 CPL++ 。该框架不仅通过单模态匹配建立了更可靠的初始区域 - 文本关联,更重要的是,它为模型赋予了「自知之明」能力 —— 通过自监督的关联校正与验证模块,在训练过程中动态识别、衰减并纠正错误的监督信号。大量实验证明,让模型学会「自我纠错」,是突破弱监督视觉定位瓶颈的有效途径。