首页 人工智能 > 内容

为什么孩子需要特殊的保护以免受AI的影响

时间:2020-09-18 14:56:11 来源:

算法可以改变儿童的生活路线。孩子们正在与Alexas互动,后者可以记录他们的语音数据并影响他们的语音和社会发展。他们在TikTok和YouTube上通过推荐系统推送给他们的视频,最终形成了他们的世界观。

算法也越来越多地用于确定他们的学历,是否接受医疗保健,甚至确定其父母是否适合照顾他们。有时这可能会造成毁灭性的影响:例如,去年夏天,成千上万的学生在算法(代替大流行取消的标准化测试)中错误地预测了他们的学习成绩后,失去了大学录取资格。

换句话说,在使用和被人工智能使用时,儿童通常处于最前沿,这可能会使他们受到伤害。联合国儿童基金会联合国儿童基金会数字连接政策专家史蒂夫·沃斯卢(Steve Vosloo)表示:“由于它们在智力,情感和身体上的发展,因此非常有形。”沃斯卢(Vosloo)领导了联合国儿童基金会(UNicef)起草的一套新指南,旨在帮助政府和公司制定考虑儿童需求的AI政策。9月16日发布的这9项新准则是与全球决策者,儿童发展研究人员,人工智能从业人员和儿童进行的几次磋商的最终结果。他们还考虑到了1989年批准的一项人权条约《联合国儿童权利公约》。

这些指导原则并不是要成为另一套AI原则,其中许多原则已经说了同样的话。今年1月,哈佛大学伯克曼·克莱因中心对指导国家和公司AI战略的36份最著名文件的审查发现了八个共同主题,其中包括隐私,安全,公平和可解释性。

相反,联合国儿童基金会的指导原则旨在补充这些现有主题,并使其适合儿童。例如,人工智能系统不仅应该是可解释的,还应该对孩子是可以解释的。他们还应考虑儿童的独特发展需求。Vosloo说:“儿童拥有成年人的其他权利。”据估计,他们至少也占在线用户的三分之一。他指出:“我们这里不是在谈论少数群体。”

除了减轻AI危害外,该原则的目标还在于鼓励开发可以改善儿童成长和福祉的AI系统。例如,如果设计得当,基于AI的学习工具将被证明可以提高儿童的批判性思维和解决问题的能力,并且对于学习障碍的孩子可能会有用。情绪化的AI助手虽然相对新生,但可以提供心理健康支持,并且已被证明可以改善自闭症儿童的社交技能。谨慎使用面部识别功能可以帮助识别被绑架或被拐卖的孩子。

还应该对儿童进行有关AI的教育,并鼓励他们参与AI的发展。Vosloo说,这不仅仅是保护他们。这是关于赋予他们权力并赋予他们创造未来的动力。

标签: AI