在黑盒:人工智能模型过程的演讲就像大脑

伯克利的加利福利亚大学的新研究表明,人工智能(AI)系统可以处理信号的方式非常类似于大脑如何解释演讲,科学家称发现可能有助于解释黑盒的AI系统是如何运作的。

使用一个电极放在系统参与者的正面,科学家的伯克利分校演讲和计算实验室测量脑电波当参与者听——“呸一个音节。“然后他们相比,大脑活动产生的信号一个人工智能系统训练来学习英语。

说:“形状非常相似廉价香烟Begus,加州大学伯克利分校的语言学教授助理,第一作者这项研究最近发表在《科学报告。“告诉你类似的事情得到编码处理是相似的。”

并排比较图的两个信号显示相似惊人。

“没有调整数据,”Begus补充道。“这是生的。”

AI系统最近先进突飞猛进。自从去年ChatGPT传遍世界,这些工具被预测颠覆社会和改变数百万人的工作方式。但尽管有这些令人印象深刻的进步,科学家们有一个有限的理解如何操作的输入和输出之间创建的工具。

一个问题和答案在ChatGPT基准来衡量一个人工智能系统的情报和偏见。但是这些步骤之间的东西黑盒。了解如何以及为什么这些系统提供的信息——他们如何学习变得至关重要,因为他们在日常生活中变得根深蒂固领域跨越卫生保健教育。

Begus和他的合作者,约翰霍普金斯大学的艾伦·周和t·克里斯蒂娜赵华盛顿大学的一批科学家们正在努力打开那个盒子。

为此,在语言学Begus转向他的训练。

Begus说,当我们听口语词汇进入我们的耳朵和声音转化为电信号。这些信号然后穿过脑干和大脑的外层部分。电极的实验中,研究人员追踪这条道路在应对3000重复一个声音,发现演讲的脑电波密切关注实际的语言的声音。

研究人员传播相同的记录“呸”的声音通过一个无监督神经网络-一个人工智能系统能够解释的声音。使用一种技术在伯克利的演讲和计算开发实验室,他们测量海浪同时发生并记录他们。

先前的研究需要额外的步骤比较波从大脑和机器。研究波在他们的原始形式将帮助研究人员了解并改进这些系统如何学习和人类认知越来越来镜子,Begus说。

“我真的有兴趣作为一个科学家在这些模型的可解释性,“Begus说。“他们是如此强大。每个人都在谈论他们。和每个人都使用它们。但少得多做尝试理解他们。”

Begus认为输入和输出之间发生了什么没有保持一个黑盒子。了解这些信号相比,人类的大脑活动是一个重要的基准的构建日益强大的系统。所以是知道发生了什么。

例如,有这样的理解可以帮助把护栏日益强大的人工智能模型。它还可以提高我们的理解错误和偏见是如何出炉的学习过程。

Begus说,他和他的同事们合作与其他研究人员利用大脑成像技术测量这些信号如何比较。他们也研究其他语言,如汉语、解码大脑中的不同,可能表明什么知识。

许多模型都是训练有素的视觉线索,如颜色或书面文本——这两个成千上万的细粒度级别的变化。语言,然而,开门更坚实的理解,Begus说。

例如,英语只有几十个声音。

“如果你想理解这些模型,你必须从简单的事情开始。和语言更容易理解,”Begus说。“我非常希望演讲是将帮助我们理解这些模型是如何学习的。”

在认知科学的主要目标之一是构建数学模型类似人类尽可能。新记录的相似之处的脑电波和AI波是一个基准研究人员正在接近会议这一目标。

“我并不是说我们需要建立类似人类,”Begus说。“我并不是说我们不。但是了解不同的体系结构是相似或不同的人类是很重要的。”

参考周:BegušG, A,赵TC。在卷积编码的演讲层和脑干基于语言的经验。Sci代表。2023;13 (1):6480。doi:10.1038 / s41598 - 023 - 33384 - 9

本文从以下转载材料。注:材料可能是长度和内容的编辑。为进一步的信息,请联系引用源。