SE：人工智能，机器学习，深度学习 -您想称呼它的任何部分-如今在几乎所有事物中都在出现。这将对功能和性能产生什么影响?
Woo：我们正在看到蛋糕的扩张，因此市场正在变得越来越大。尽管过去在数据中心中已经做了很多工作，但我们看到其中一些已经移出了数据中心。显然，很多推论都指向终点，但数据中心仍然非常重要。我们看到在所有不同区域(数据中心，边缘和端点)的使用都在增加。其中最有趣的部分可能是在每个地方重要的方面对需求的不同排名。仍然需要在数据中心进行大量培训，但是其中一些培训也在向边缘和端点发展。端点非常注重推理，显然在数据中心发生了一些推理也一样 这些用例显示了混合搭配以及对训练或推理的大量使用，具体取决于您是在数据中心还是终点。最重要的问题的排名取决于您是在数据中心，边缘还是终点。
罗迪：我们也看到了。数据科学家住在数据中心。围绕网络体系结构的探索，围绕自定义运营商的探索-可能会永久存在于数据中心中，因为您需要训练和再训练的能力。但是随着边缘部署的增加，正在发生两件事。一个是工具的复杂性不断提高，既包括培训工具集本身(例如TensorFlow内部的整个模型优化工具包，可帮助准备在受限环境中部署的模型)，也包括硅供应商和IP供应商(如Arm)的工具，这有助于压缩和转换模型，因此您在边缘环境中不会像在数据中心中那样运行相同版本的模型。您还需要大量的聚类和修剪，以降低复杂性，可能降低一个数量级，并且几乎没有准确性。如果它在数据中心中运行大约五秒钟，而您推断一天只运行数百次，则可能不需要执行此操作。但是当您决定将其放入设备中时，显然，您将需要的不止于此，还需要更高效的芯片和更专用的处理器。在Arm，我们从事许可处理器业务。我们拥有完整的NPU和嵌入式NPU系列产品，因此您将面临双重攻击：降低复杂性以使其能够在边缘工作，网络复杂度提高10倍甚至更多，并显着提高芯片效率。然后，数据科学家当然会使其变得更加复杂，并提出新的算法和新形式的新网络复杂性。这只是硅片上不断提高功率，提高准确性和提高能力的永无止境的竞赛。因此，您将面临双重攻击：降低复杂性以使其能够在边缘运行;将网络复杂度降低10倍以上，并大大提高芯片效率。然后，数据科学家当然会使其变得更加复杂，并提出新的算法和新的网络复杂性新形式。这只是硅片上不断提高功率，提高准确性和提高能力的永无止境的竞赛。因此，您将面临双重攻击：降低复杂性以使其能够在边缘运行;将网络复杂度降低10倍以上，并大大提高芯片效率。然后，数据科学家当然会使其变得更加复杂，并提出新的算法和新的网络复杂性新形式。这只是硅片上不断提高功率，提高准确性和提高能力的永无止境的竞赛。