AI系统正在以闪电般的速度制作和部署

时间:2020-06-13 09:14:59来源:
导读但是我们是否知道这些AI系统将以有益的方式发挥作用?也许在众多的AI系统中,有些将会或可能变得不受欢迎,以非有益的方式工作,进行有害行

但是我们是否知道这些AI系统将以有益的方式发挥作用?

也许在众多的AI系统中,有些将会或可能变得不受欢迎,以非有益的方式工作,进行有害行为,从而以某种方式对人类造成不可挽回的伤害,伤害甚至可能导致死亡。

是的,在旨在帮助人类的系统中,很可能存在有毒的AI系统。

实际上,我们真的不知道它是否应该是少数应受谴责的,或者是否可能是走这条恶毒路线的优势。

人工智能系统附带的一个关键转折是,它们通常被设计成在使用时进行学习,因此,很有可能原始意图会被摆放并超越污秽区域,随着时间的推移这样做,并最终超出任何预设护栏和转向邪恶行径(对于我对此类AI可能性的分析,包括医疗设备,自动驾驶汽车等,请在此处查看此链接)。

支持AI的人不能假设AI一定会永远被推向善良。

还有就是高贵的愿望实现AI为好,和同样是可怕的软肋的AI坏。

要澄清的是,即使AI开发人员心中有一些美德,也要意识到他们的创建可以通过机器学习(ML)和深度学习(DL)进行即时调整时,自行转变为坏处,或者可以包含无意间植入的错误或遗漏,这些错误或遗漏会在以后在使用过程中无意间产生不良行为(请参阅此处的更多链接)。

有人应该为此做些事情,您可能正在思考,同样令人担忧地扭曲了双手。

一种这样的提议解决方案是日益关注可证明有益的AI。

这是背景。

如果可以用数学方法对AI系统进行建模,则执行数学上证明逻辑上可行的数学证明可能是可行的。

这样一来,任何打算将AI系统推向世界的人都可以通过这种可证明性方法来运行AI,然后确信他们的AI显然会出现在AI For Good阵营中,而那些愿意使用AI或被证明是有益的,这将使依赖AI的人感到宽慰。

瞧,我们将A的经典概念转化为B,并且将B转化为C,这是一个强有力的逻辑结论,即A转化为C,这是一种可以应用到AI的紧密交织的数学逻辑。

对于那些展望未来并看到人工智能的潜力可能超越人类的人,也许成为可怕的科学怪人的未来派版本(请参阅我在此链接上对科学怪人和AI的讨论),这种想法是通过它采用一种可证明性的机制来确保它是有益的,从而提供了极大的缓解和兴奋。

我们所有人都应该为能够证明可证明AI系统有益的目标而高兴。

好吧,除了那些在人工智能方面犯规的人之外,他们的目的是利用人工智能来欺骗行为,并有目的地寻求为坏人做事。他们可能会避开任何此类证据,而是假装其AI的目标是善良,以此来干扰其真实目标(与此同时,有些人可能会直截了当并自豪地宣称他们正在为破坏性的愿望而制造AI,所谓的邪恶博士天才)。

标签:AI系统
最新文章