AI工具可以帮助酷在线辩论

紧张时帮助识别在线辩论是缓慢向不可救药的崩溃,康奈尔大学的研究人员研制出了一种人工智能工具,可以在实时跟踪这些谈话,发现当紧张局势不断升级,推动用户使用煽动性的语言。

在最近发表的两篇论文详细研究人工智能的有效性在缓和在线讨论,研究表明有前途的迹象表明,会话预测方法在自然语言处理领域的可能帮助版主和用户主动减少硫酸盐和维护健康、富有成效的讨论论坛。

“善意的辩手只是人类。在激烈的辩论,一个话题你关心很多,很容易感情用事,只有认识到这一点,”Jonathan Chang说,计算机科学领域的博士生,作者的“线程与警告:主动帮助用户评估和降低张力在线讨论”,这几乎是在ACM计算机支持的合作与社会计算会议(CSCW)在11月10日。这个想法是不告诉用户该说些什么,Chang说,但是鼓励用户像面对面交流。

工具,名叫ConvoWizard,是由浏览器扩展神经网络。基于网络训练大量的语言数据从subreddit改变我的观点,一个论坛,重视诚信对潜在的加热对象相关的政治辩论,经济和文化。

当用户启用ConvoWizard参与改变我的视图,工具可以告诉他们当他们的谈话开始变得紧张。它也可以通知用户,在实时写他们的回答,他们的评论是否可能会加剧紧张。研究表明AI-powered反馈可以有效地指导用户对语言,提升建设性的辩论中,研究人员说。

“ConvoWizard基本上是问,如果这评论发布,这会增加或减少估计张力在谈话吗?如果评论增加张力,ConvoWizard将给予警告,”张说。文本框会变红。“给予反馈的工具脚趾这条线没有犹豫的告诉他们这样做的危险的境地。”

为了测试ConvoWizard,康奈尔大学的研究人员与改变视图subreddit,约50名参与论坛版主和成员把要使用的工具。结果是积极的:68%的人认为该工具的风险估计一样好或者比自己的直觉,和超过一半的参与者报道,ConvoWizard警告阻止他们发表评论之后他们会感到后悔。

常也指出,在使用ConvoWizard之前,参与者被要求如果他们张贴他们后悔的东西。答应了一半以上。

“这些发现证实,是的,即使是善意的用户可以属于这类型的行为和感觉不好,”他说。

“这是令人兴奋的去思考如何AI-powered ConvoWizard之类的工具可以使一个全新的模式鼓励高质量的在线讨论,通过直接授权参与这些讨论使用自己的直觉,而不是审查或约束他们,”克里斯蒂安·Danescu-Niculescu-Mizil说,康奈尔大学信息科学的副教授安美国鲍尔斯学院的计算和信息科学和研究的合著者。

康奈尔大学在一个单独的纸还在CSCW、”主动节制在线讨论:现有的实践和潜在的算法支持,”研究人员——包括Chang——探索人工智能工具由类似的对话可能版主之间的集成和使用预测技术。研究旨在找到更好的方法去解决硫酸在实时和减少工作负载志愿者论坛版主。论文作者夏洛特施拉格的22张Danescu-Niculescu-Mizil和凯伦·利维副教授信息科学,和准会员康奈尔法学院的教师。

“有非常小的工作如何帮助版主主动的一面,“Chang说。“我们发现有潜力的算法工具来帮助减轻希腊的债务负担感觉版主,帮助他们识别领域内审查对话和干预的地方。”

展望未来,Chang说,研究小组将探索如何像ConvoWizard模型推广到其他在线社区。bet188真人

如何conversation-forecasting算法规模是另一个重要的问题,研究人员说。常指着发现ConvoWizard研究显示,64%的参与者改变我的观点感到工具,如果广泛采用,提高整体质量的讨论。“我们感兴趣的是发现如果一个更大的块一个在线社区使用这一技术,”他说。“的长期影响是什么?”

引用:

Chang JP,施拉格C, Danescu-Niculescu-Mizil C .线程与警告:主动帮助用户评估和降低张力在线讨论。Proc ACM Hum-Comput互动。2022;6 (CSCW2): 545:1-545:37。doi:10.1145 / 3555603

施拉格C, Chang JP, Danescu-Niculescu-Mizil C,利维k .主动节制的在线讨论:现有的实践和潜在的算法支持。Proc ACM Hum-Comput互动。2022;6 (CSCW2): 370:1-370:27。doi:10.1145 / 3555095

本文从以下转载材料。注:材料可能是长度和内容的编辑。为进一步的信息,请联系引用源。