1946年诞生的电子计算机，将人类带入了“智能时代”。 它是一种“意识工具”，不同于以往人类所有的“物质工具”。 2010年以来，算力资源量变带来质变。 到2023年，这一变化终将被更多普通人所感知，同时也将带来巨大的治理挑战。
对此，中国已经开始行动。 4月11日，国家互联网信息办公室起草的《生成式人工智能服务管理办法（征求意见稿）》向社会公开征求意见，反馈截止日期为2023年5月10日。观察者网采访谢云博士复旦大学电子工程系、中国科学院工程资格审查委员会书记、首席科学家，就相关课题进行了探讨。 实录如下：
观察者网：3月以来，基于OpenAI自然语言模型GPT3.5的ChatGPT成为焦点。 不仅引爆舆论，席卷境外资本市场，还让国家网信办迅速起草《生成式人工智能服务管理办法（征求意见稿）》并公开征求意见。 我们也想邀请您来讨论这个话题。 在您看来，从社会治理的角度来看，挑战主要来自哪里？
谢云：这是一个比较大、比较深的话题。 我之前在不同场合说过，信息技术给人类带来了一种“意识工具”，不同于以往人类的所有“物质工具”。 为此，1946年诞生的电子计算机将人类带入了“智能时代”。 只是它之前的能力比较弱，很多人并没有意识到这些变化的重要性。 但从2010年开始，算力资源的量变带来了质变。 到2023年，这一变化终将让更多普通人感知到。
为了便于理解，我想展开一点，从信息技术的本质说起。 当今主流科技界认为，信息是构成世界的三要素之一，一是物质，一是能量，三是信息。 其实这种说法写进了标准教科书，但我认为是错误的，至少“信息技术”涉及的信息是不客观的。 比如，人类以前储存知识和信息最集中的地方是什么？ 这是一个图书馆。 那么，假设人类消失了，图书馆里所有的藏书还有什么“信息”的意义吗？ 无论是打印在纸上还是数字化，它会与客观世界中的任何事物发生相互作用吗？ 因此，信息是人类意识层面的东西。
让我们再谈谈计算机。 计算机主要用于数字信息的可编程逻辑值估计和处理。 其中有两个要素。 首先是数字信息； 二是逻辑值估计和处理。
信息既是人类意识活动的产物，又是人类意识活动的核心要素。 信息本质上是意识范畴的存在，与信息相关的活动本质上是意识活动。
程序是人们对逻辑值的估计和处理的操作，将这些操作排列成一个序列，并用它来处理信息。 这个过程是物质过程还是意识过程？ 其实就是有意识的过程，把大脑中原有的有意识的过程外化出来，变成程序，交给计算机去做。
这是我的基本分析逻辑。 第一，信息属于意识范畴； 第二，与信息相关的过程本质上是有意识的过程； 第三，计算机程序是人类意识的外化。 虽然电脑操作的过程是一种有意识的过程。
起初，所有的意识都局限在每个人的耳朵里。 计算机的出现让意识跳出我们的大脑人工智能机器人下载，然后跳出我们的大脑，这可以通过计算机的CPU来完成。 因此，信息技术应用本质上是人的内在意识的外化，我称之为“外在意识”。 这就是计算机“意识工具”的本质。
我国有一个部，名字叫“”，你有没有发现这个名字很奇怪？ 我的想法是，就是说信息化的概念不能归入工业范畴。 回顾人类科技发展的全过程，科学技术是第一生产力，人类文明的发展是靠工具的不断改进推动的。 直到电子计算机的出现，我们的工具的主线还是作用于实物。 人类已经进化了数十万年，我们所有的工具都是物质工具。 这并不是说工具本身是物质的，而是说这个工具的作用是物质作用，无一例外。
直到1946年计算机出现，人类才第一次有了有意识的工具。 这个工具的对象不是物质，而是作用于意识对象。 从此主线分叉，人类有了两种工具，一种是物质工具，一种是意识工具。 这两个工具不是分开的。 有意识的工具建立在物质科学的基础上，但反过来说，有意识的工具可以植入物质工具，比如把车辆变成智能车辆。
所以我认为人类文明从1946年开始进入了一个新时代。
但是，人类在创造计算机的时候，并没有完全意识到这个问题。 一是因为思维的惯性，因为我们以前的工具都是物质工具； 颠覆性强。 一直到2010年，计算机的计算能力已经从量变积累到质变。 1976年，韩国建造了第一台计算速度为每秒1亿次浮点运算的超级计算机，中国于1983年建造了第一台计算速度为每秒1亿次浮点运算的超级计算机。 这些是当时国家最重要的工具。 以这样的计算能力人工智能机器人下载，我们勉强可以处理图片，但我们今天拥有的每部手机都可以处理视频。 这不是一个数量级的改进。
2010年之前，信息行业最大的事件往往是英特尔发布了一款新处理器。 今天，已经没有人关心处理器了，因为计算能力得到了极大的丰富。 即2010年前后，大数据应用在计算能力的支持下应运而生； 人工智能之所以流行，是因为人工智能本质上是一种数据统计技术，同样需要大量的计算能力。 2010年后，计算机硬件的能力不再阻碍软件的发展，信息技术产业的“自觉”才逐渐显现。 无论是区块链还是深度学习的人工神经网络，这种创新都是非常重要的。 它不受化学定律的限制，因为它是意识领域的创新。
回到你的问题，“生成式人工智能”带来的挑战其实始于1946年“智能时代”之初，是人类社会共同面临的变革，只是现在才显露出来。
计算机是意识的工具。 这是非常必要的事情，它带来了很大的挑战。 整顿“生成式人工智能”，就是管人的思想。 几千年来，人类在如何管理物质方面积累了足够的经验。 一旦涉及到神识层面，虽然有些凌乱。 伦理、道德、宗教、意识形态、各种学说等等，都是如此。 这不仅是中国的问题。 英国对互联网的监管也充满了顽固的问题，因为人类在意识领域的监管方面还没有积累足够的经验。
观察者网：请允许我插入一个小问题。 你刚刚举了一个反例，图书馆是人类信息的集中地。 如果按照这个思路，在人类发展史上，虽然出现过数次这样的爆燃，但也伴随着时代变迁的挑战。 先是文字的出现，然后是纸张的发明，然后是彩印，再后来就是雕刻和彩印。 这样，计算机或人工智能就会带来最新的信息爆燃。 第一，它必然带来第二，社会改革只是一系列挑战中的一个，是否可以这样理解？
谢云：我们可以说这在某种意义上也是信息的革命，比如文字的出现，但只是“信息”的记录和传播，也就是说“信息”的记录和传播。意识的产物”，比如报纸上的文章，已经是静态的东西了。 但信息技术处理的是意识活动，它是“活的”，从这个意义上说，它是完全升级的。
观察者网：您认为这是生产力发展对生产关系的挑战吗？
谢云：我觉得应该从两个方面来看。 首先是生产力的发展。 传统生产力是指通过物质工具创造物质财富的手段。 这样一来，信息技术作为意识的工具，可以赋予它作为物质工具的能力，增强其创造物质财富的能力。
信息技术的发展早已造福于每一个人。 几年前，施瓦布提出“第四次工业革命”。 新材料、新能源等领域新发展的真正推动力是信息技术。
近年来，材料科学的发展突飞猛进。 因为计算机可以做大量的模拟，不需要像传统的那样做大量的化学化学实验，节省了大量的时间和资源成本。
另一个例子是医疗。 影像医学与人工智能的结合速度非常快，大大提高了诊断效率。
信息技术解决了工业社会尚未解决的一对矛盾，即大规模生产与个性化的统一。 信息技术赋能产业链后，大规模个性化生产成为可能。 而且，服装的多样化生产比校服的标准化生产更实惠。 因为在标准化生产中，产能的安排远远滞后于市场需求的变化，往往会造成大量的库存积压，这笔成本最终还是会分摊到消费者身上，实现多元化、柔性化制造后，按需生产生产成为可能。
因此，在未来的社会中，一个人虽然不懂信息技术，但仍然很有可能从信息技术中受益，实现个人的很多发展和追求。 由于信息技术将成为社会的共同基础，它将使每个人受益。
同时，信息技术的另一个属性不促进物质生产，而是直接干预意识形态，如电子游戏、AIGC等，即使不形成物质财富，也能形成经济活动。
