人工智能可能是防止假新闻传播的关键

时间:2022-05-03 10:32:52来源:
导读 专家说,人工智能 (AI) 正在帮助遏制虚假信息在网上的迅速传播。研究人员开发了一种人工智能系统,旨在发现和标记假新闻。该模型搜索虚假...

专家说,人工智能 (AI) 正在帮助遏制虚假信息在网上的迅速传播。

研究人员开发了一种人工智能系统,旨在发现和标记假新闻。该模型搜索虚假新闻的公共数据集,提醒用户,并将他们重定向到经过验证的信息源。它是越来越多用于打击虚假新闻的人工智能方法的一部分。

南加州大学计算机工程教授Wael AbdAlmageed开发了用于检测视觉图像的 AI 算法 ,“互联网,尤其是社交网络的信息量非常庞大,无法手动处理,尤其是在高精度下。”错误信息,在电子邮件采访中告诉 Lifewire。

“实时监控和标记错误信息很重要,因为一旦错误信息开始传播,就很难让人们相信这些信息是错误的,尤其是当错误信息证实了我们的偏见时,”他补充说。

保持真实

澳大利亚麦考瑞大学的一个团队开发的人工智能技术可以帮助减少假新闻的传播。该模型可以集成到应用程序或网络软件中,并提供指向符合每个用户兴趣的相关“真实”信息的链接。

“当你在线阅读或观看新闻时,通常会使用推荐模型为你推荐有关类似事件或主题的新闻报道,”麦考瑞大学从事这项研究的数据科学家Shoujin Wang在新闻稿中说。

王说,同一事件的准确新闻和假新闻通常使用不同的内容样式,使计算机模型混淆,将它们视为不同事件的新闻。

麦考瑞大学的模型将每条新闻的信息“解开”为两部分:显示新闻是否为假的标志和显示新闻故事主题或事件的事件特定信息。然后,该模型寻找用户如何在不同新闻片段之间切换的模式,以预测用户接下来可能有兴趣阅读的新闻事件。

研究团队在 GitHub 上发布的一个名为FakeNewsNet的公共假新闻数据集上对模型进行了训练,该数据集存储来自 PolitiFact 和 GossipCop 的假新闻以及新闻内容、社会背景和用户阅读历史等数据。

假新闻的增长

研究表明,假新闻是一个日益严重的问题。NewsGuard发现社交媒体增长的很大一部分来自不可靠的网站。2020 年,前 100 名新闻来源中 17% 的参与度来自红色评级(通常不可靠)的网站,而 2019 年这一比例约为 8%。

圣克拉拉大学 Markkula 应用伦理中心新闻和媒体伦理主任 Subramaniam Vincent在电子邮件采访中告诉 Lifewire,人工智能可以帮助对抗虚假信息。

文森特解释说,该技术可用于“监控与仇恨言论相关的精心策划的共享或已经被揭穿的声明或被事实核查人员或已知的宣传国家实体或新兴团体揭穿的账户行为,”文森特解释说。“人工智能还可以与设计一起使用,以标记特定类型的内容,以便在共享之前增加摩擦。”

AbdAlmageed 表示,社交网络需要将假新闻检测算法作为其推荐算法的一部分。他说,目标是“如果他们不想完全防止分享假新闻,就将假新闻标记为假新闻或不准确”。

就是说,虽然人工智能可能对打击假新闻有用,但这种方法也有其缺点,文森特说。问题是人工智能系统无法理解人类语言和写作的含义,所以它们总是落后于曲线。

文森特说:“人工智能对某些形式的公开仇恨言论和虚假信息越准确,人类文化就越会转向更新的代码和地下意义的传播来组织。”

虚假信息监控公司 Blackbird.AI 的首席执行官Wasim Khaled在给 Lifewire 的一封电子邮件中表示,在线虚假信息是一种不断演变的威胁。新的人工智能系统需要能够预测假新闻接下来会出现在哪里。

“在大多数情况下,你无法构建一个人工智能产品并称其完成,”Khaled 说。“行为模式会随着时间而变化,重要的是你的 AI 模型跟上这些变化。”

标签:
最新文章