CSET发布网络安全和AI研究议程

时间:2020-05-19 16:26:43来源:
导读乔治敦大学沃尔什外交学院的安全和新兴技术中心(CSET)发布了2020年5月号的摘要,从网络安全的角度研究了人工智能(AI)和机器学习(ML),并提

乔治敦大学沃尔什外交学院的安全和新兴技术中心(CSET)发布了2020年5月号的摘要,从网络安全的角度研究了人工智能(AI)和机器学习(ML),并提出了一系列政策制定者需要考虑的问题。

简要,国家安全研究议程网络安全和人工智能在网络安全和AI项目本·布坎南的主任,通过侧重于ML进攻,防守,对抗学习的未知的“人工智能机器学习范式”走决策者, 和更多。

Buchanan建议对ML“杀伤链”进行彻底研究,或黑客将使用这些步骤来实现其目标,以帮助网络防御者和软件工程师发现并补救可能的漏洞。

CDM Central将在2020年6月的会议上实现虚拟化了解更多

他写道:“在网络安全和人工智能的交汇点上,最重要的国家安全问题之一是机器学习在多大程度上重塑或增强了这一杀手链。” “有理由担心,但也有理由认为当今的自动化(不使用机器学习技术)在人机团队中已经很有效。”

他还要求政策制定者对其他令人反感的问题进行反思,例如如何使用ML来调整和扩展鱼叉式网络钓鱼的企图并增强网络能力。Buchanan继续探讨了ML的防御用途,特别是如何将其用于检测恶意代码或更有效地归因于网络攻击。

简短的陈述指出:“如果机器学习可以改善检测,拦截和归因,则可以大大降低网络运营的潜在危险。”但他明确指出,评估应以实际和可衡量的结果为基础。

Buchanan还解决了与传统计算机系统一样的问题,即ML具有自身的弱点,例如软件错误和基本漏洞,这些漏洞为黑客提供了利用该系统的新机会。他写道,政策制定者应该准备考虑如何在使用机密数据进行训练的情况下,确保机器学习免受这些欺骗手段的侵害,或者无意间泄露秘密。

尽管大多数简介都侧重于与ML应用相关的技术问题,但Buchanan最后通过要求决策者牢记有关AI与国家安全之间关系的其他总体问题。

他警告说:“此外,至少在短期内,机器学习功能将增加传统攻击媒介的复杂性,增加了网络运营商可能在未完全了解其内部运作或潜在影响的情况下采用机器学习功能的风险。”

最新文章