摘要：他与大家分享的主题是:“OpenCBM - 如何允许用户用任意指定概念理解模型决策？”，届时他将介绍一种为概念瓶颈模型配备开放概念的新能力——“OpenCBM”。
本期为TechBeat人工智能社区第672期线上Talk。
北京时间3 月27日(周四)20:00，香港科技大学博士生谭安东的Talk将准时在TechBeat人工智能社区开播！
他与大家分享的主题是: “OpenCBM - 如何允许用户用任意指定概念理解模型决策？”，届时他将介绍一种为概念瓶颈模型配备开放概念的新能力——“OpenCBM”。
Talk·信息
▼
主题：OpenCBM - 如何允许用户用任意指定概念理解模型决策？
嘉宾：香港科技大学 · 博士生 - 谭安东
时间：北京时间 3月27日(周四)20:00
地点：TechBeat人工智能社区
一键预约TALK！
Talk·介绍
▼
神经网络近年来在性能上取得了显著进展，但在可解释性上仍面临挑战。为解决该问题，概念瓶颈模型通过首先根据输入图像预测一组可解释的概念，然后根据给定的概念来做出决策以提供可解释性。然而，现有的概念瓶颈模型是用一组固定的概念训练的（概念来自于数据集标注或语言模型的生成结果）。这种封闭世界的假设是不切实际的，因为用户可能会在模型部署后想知道任意指定概念在决策中的作用。我们提出“OpenCBM”，为概念瓶颈模型配备开放概念的能力。该模型允许用户删除、添加或替换任何想要的概念来理解模型的决策结果。
Talk大纲
1. 相关工作和动机：现有概念瓶颈网络不允许用户任意修改用于解释的概念集
2. 方法：通过让模型对齐CLIP图像隐空间间接对齐CLIP文本隐空间
3. 实验：主要在鸟类细粒度分类上展示了定性和定量的结果
Talk·预习资料
▼
论文链接：
论文链接：
论文链接：
论文链接：
Talk·提问交流
▼
在Talk界面下的【交流区】参与互动！留下你的打call🤟和问题🙋，和更多小伙伴们共同讨论，被讲者直接翻牌解答！
你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！
Talk·嘉宾介绍
▼
谭安东
香港科技大学 · 博士生
谭安东，香港科技大学计算机科学与工程系在读博士生，导师为陈浩老师，研究方向为视觉和大语言模型的可解释性，以第一作者在计算机顶级会议 (如ICML, ECCV, AAAI) 发表多篇论文，长期担任CVPR/ICCV/ECCV/ACM MM审稿人。
个人主页:
https://www.techbeat.net/grzytrkj?id=44168
-The End-
如果你也想成为讲者
▼
自荐 / 推荐
单人Talk | 团队专场 | 录播or直播 | 闭门交流
多种方式任你选择！
推荐讲者成功也有奖励哦~
关于TechBeat人工智能社区
▼
TechBeat(www.techbeat.net)隶属于将门创投，是一个荟聚全球华人AI精英的成长社区。
我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。
期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！
更多详细介绍>>TechBeat，一个荟聚全球华人AI精英的学习成长社区
来源：小王科技讲堂