世界上有一个新的AI玩具，它叫做GPT-3。OpenAI的文本生成模型的最新版本因其功能而留下了许多星际迷航-尽管其炒作可能太多了。
GPT-3是一种机器学习系统，已被馈送了45TB的文本数据，这是前所未有的。通过所有这些培训，它可以生成各种书面内容：故事，代码，法律术语，所有这些仅基于几个输入的单词或句子即可。Beta测试已经产生了令人jaw目结舌的结果。但是在取得了一些最初令人鼓舞的结果之后，GPT-3面临着更多的审查。
上周，当Facebook的AI负责人杰罗姆·佩森蒂( Jerome Pesenti)呼吁使用GPT-3创建的程序产生偏见时，该模型面临批评。该程序是一个推特生成器;任何人都可以输入一个单词，那么AI会给出一个相关的，不超过280个字符的句子。
推文生成器Sushant Kumar的创建者说，OpenAI并不需要很长时间做出反应。他的程序启动后，OpenAI打电话给他讨论如何对其进行监视，以及当这些有问题的推文开始出现时(尽管数量很少)，他与公司创始人兼CTO Greg Brockman进行了会晤。在Pesenti发现问题后不到一天，OpenAI启动了毒性含量过滤器API，该组件将GPT-3创建的所有含量的毒性等级从1分级为5，并将大于2的任何事物标记为适度。
OpenAI从来没有假装过它的系统是完美的。当它于2019年2月首次显示该系统的前身GPT2时，由于担心危险的应用程序而未公开发布。只有OpenAI看到“没有强有力的滥用证据”时，GPT-2才完整发布。
这种谨慎的态度一直在继续。随着围绕GPT-3的大肆宣传开始，CEO Sam Altman甚至称其为“太多”，并在推特上写道：“令人印象深刻(感谢您的赞美!)，但它仍然存在严重的缺陷，有时还会犯一些非常愚蠢的错误。人工智能将改变世界，但是GPT-3只是很早的一瞥。我们还有很多事情要解决。”
当偏见开始出现时，奥特曼并没有采取防御措施。他在推文中向Pesenti发推文说：“我们对语言模型中的偏见和安全性表示关注，这是为什么我们要开始使用Beta并进行[a]安全性审查，然后才能使应用上线的重要原因。”