“弗兰肯斯坦”形状揭示AI如何通过不同的视角看待这个世界

深卷积神经网络(DCNNs)没有看到对象的人类——利用构形的形状知觉——这可能是危险的在实际人工智能应用程序,说詹姆斯教授老今天,约克大学刊登的一篇研究论文的作者之一。

发表在《细胞出版社期刊iScience,深度学习模型未能捕获人类形状知觉的构形的性质是一个年长的协作研究,拥有纽约研究椅子在人类和计算机视觉,纽约中心的主任AI与社会,和助理心理学教授尼古拉斯·贝克在芝加哥洛约拉大学前VISTA博士后研究员。

研究采用新颖的视觉刺激称为“化生“探讨人类的大脑如何和DCNNs过程整体构形的对象属性。

“化生只是对象已分开,一起放回错了,”老人说。“因此,他们都正确的地方特色,但在错误的地方。”

调查人员发现,虽然人类的视觉系统由化生困惑,DCNNs不是——揭示对构形的对象属性的漠不关心。

“我们的研究结果解释了为什么深AI模型失败在一定条件下和指出需要考虑任务超越了对象识别为了理解大脑中的视觉处理,”老人说。“这些深模型时,往往采取“快捷方式”解决复杂的识别任务。虽然这些快捷键可能工作在许多情况下,他们是危险的在一些实际的人工智能应用程序我们也正在与我们的行业和政府合作伙伴,”老人指出。

交通视频安全系统:一个这样的应用程序”的对象在一个繁忙的交通场景——汽车,自行车和行人,彼此妨碍,到达一个司机的眼睛的混杂断开连接的片段,”老人解释道。“大脑需要正确地组织这些片段识别正确的类别和位置的对象。人工智能交通安全系统监控,只能感知片段单独在此任务将会失败,可能易受伤害的道路使用者误解风险。”

据研究人员介绍,修改培训和架构旨在使网络更类人脑没有导致构形的处理,和所有的网络能够准确地预测trial-by-trial人类对象的判断。“我们推测,与人类构形的敏感性,网络必须被训练来解决广泛的对象以外的任务类别识别,”笔记长者。

参考:贝克N,长者JH。深度学习模型未能捕获人类形状知觉的构形的性质。iScience。2022;25 (9)。doi:10.1016 / j.isci.2022.104913

本文从以下转载材料。注:材料可能是长度和内容的编辑。为进一步的信息,请联系引用源。