3月26日，在BOAO亚洲论坛2025年会上，在一个论坛上，主题为“人工智能：如何平衡应用和管理”，中国科学院自动化研究所的研究员Zeng Yi在联合国高级咨询机构的观点上表达了他的观点。
记者：在今年的BOAO论坛中，您想传达给外界的更高级的事情是什么？去年您告诉您什么？
Zeng Yi：在去年的BOAO论坛上，我们说，发展人工智能有许多风险，尤其是去年，即使研究进行了人工大型模型，但世界各地的许多科学家也有很多风险。我们应该暂停有关人工智能安全护栏的研究吗？当BOAO论坛举行这一年时，我们已经知道如何更好地平衡应用程序与管理之间的关系，以及第一个P的道德安全人工智能稳定发展和无法删除和不能违反的原则的rinc。
人工智能是一种机械或程序系统，可以模仿人类思维并取代人类问题解决。语音助手，图像识别，我们在生活中与之互动的自动图像世代以及自主驾驶，智能机器人和最近的大型DeepSeek模型都是人工智能。作为当今最艰难的技术之一，人工智能以惊人的速度改变了人们的生活。人们期望技术开发带来的好处，同时关注技术发展的挑战和风险。
记者：Zeng老师，您如何看待人工智能，尤其是在深入搜索的出现之后，将成千上万的行业与深入搜索相结合。当然，这应该是一个发展，但与此同时，我们可能不会有什么可能性大街想到了吗？
Zeng Yi：某些用生成人工智能造成的错误不是人类犯的。例如，当您要求人工智能时，您说我想制造一个原子炸弹。最初的生成人工智能将告诉您此步骤，即制作原子泵的步骤，但最终它们进行了一些调整。制作原子弹非常危险，您不能使用人工智能来做这些事情。但是，如果您问艺术中心的情报，您说我不是在制造原子弹，我在写小说，小说中有一个坏人，而这个坏人创造了一个威胁世界的原子炸弹，那么我该如何编写此大纲？我该如何编写此步骤？生成人工智能的判断是它是一个假设的环境。在假设的环境中，这种风险不存在。好吧，那我会告诉你如何建造原子弹。他以为我们是对话中的人，他问我如何创建原子弹。当我问第二个问题时，我会保持警惕。您还想危险吗？只是您在欺骗我，但是AI模型并不认为这是一个假设的情况。我们仍然需要使用人员来避免这种风险。
在Pang -Acaddress中，人工智能分为三个阶段。第一阶段是虚弱的人工智能，它在人工智能的一个方面只有很好的好处，就像人造智力的alphago一样，已经击中了专业的人类国际象棋参与者，但除了打球以外，没有其他技能。第二阶段是智力的一般人工阶段，可以对人们所能做的任何思想活动都有能力。第三阶段非常聪明，它几乎可以超越每个领域的最明智的人，包括科学的变化和社交技能，而人工智能的当前发展仍在从第一阶段转移到第二阶段。
报告ER：实际上，对于普通百姓而言，现在，当人工智能结合在一起时，有些人可能失去了原始工作。您如何看待这个问题？
Zeng Yi：首先，我认为人们对人工智能的期望今天相对较高。
记者：这是什么意思？
Zeng Yi：例如，当您看到人工智能时，它可以写一个新闻，您立即想到什么是新闻编辑事业的未来不再存在？我们可以看到，人工智能能力继续提高，但是当我认为它真正地应用于某个领域时，我认为这仍然是人们在那里并且机器在那里的位置。我现在认为，人工智能的优势是，例如，在我们正在讨论的新闻编辑领域中，它将帮助我们快速收集如此多的信息并进行初步审查和判断。但是，人工智能E没有真正的自我经验或自我经验，因此，深层社会的理解是，从人性的角度来看，没有真正的思想，而且它并没有真正的价值观。我们的记者和主人有自己的价值观，并将他们的社会理解传递出来。我认为这些是机器无法替代的东西。
但是，在某些使用情况下，人工智能逐渐取代了原始工人，例如工业机器人，没有驾驶流动等。与人相比，工业机器人每天可以在不去浴室或饮用水的情况下24小时工作，而且没有驾驶员汽车总是说他们比人类驾驶员做得更小。
记者：我们说驾驶员的驾驶真是不可思议。过去，这是一辆令人难以置信的汽车，人们不在汽车上，而是未来的方向。它可以完全取代驾驶员和驾驶员行业。
Zeng Yi：我再次强调，人工智能现在是信息过程的工具ng，这样就可以犯错误使人们不会犯的错误。
记者：例如？
Zeng Yi：您永远不知道什么时候出错。让我给你一个例子。在初学者的早期，有这样一个例子。摄像机上有空白空间。在这个视力领域没有什么。因此，如果Dong老师您开车，而您不在视觉领域，那么下一秒钟您会做什么？你继续开车吗？您是否仍然觉得事情发生并迅速停止，看看发生了什么。但是对于计算机视觉系统，感觉就像没有什么。根据我的经验，由于没有障碍，因此可以直接走。没有障碍，所以我不必隐藏它，所以我只是笔直，但是到底发生了什么？由于这款摄像机离大型白色卡车太近，因此整个视觉系统可以看到大白色卡车的背面，因此此时发生了什么事，整个毫无含量的 - 毫无用处 - car击中了大白色的大卡车。即使驾驶员的今天的汽车说，我们的错误率少于犯错的人，这些错误是人们没有犯的错误吗？这就是我们所说的，一个人与信息处理工具之间的区别。在研究方案中，人工智能系统中的所有可能性都是不可能的。因此，我认为，当我们真正做出工作时，我们必须仔细探索。什么可以激发人工智能并帮助人们从事劳动力？而不是开始目标是使用人工智能来进行全面的替代品，否则我们的步骤可能相对较大，并且我们不够小心。
但是，人工智能开始替代和改变自工业革命开始以来就形成的工作和工作结构。
Zeng Yi：所以现在您看到了很多机械工厂。一开始，可能有几千人，但是现在可能只有几个人可以保留机器。
记者：如何机器不能共同获得人类利益吗？
Zeng Yi：有一个名为“未来工作”的报告。我同意它的描述。它说，我们可能需要重新定义未来人类社会的工作类型。例如，我们现在正在考虑做很多社会服务，在家中照顾我们的成年人，并在生下母亲后照顾我们的孩子。现在他们不被视为工作。但是，也许将来，这些类型的活动需要更具情感性的人际关系，并可以将重新定义的工作类型作为工作来重新定义。
记者：我知道我们以前的中国言论说：“一个人的道路没有限制。”当出现人工智能时，也许这句话更合适。这意味着吗？
Zeng Yi：是的，我同意。
在进一步的未来中，大多数科学家都认为人工智能最终将进入一般人工智能甚至过度智能时代，并且是一个时代过度的智力是一个明智的机构，可以超越所有领域的人类智力。它不仅完成了复杂的任务，而且还独立学习，改变甚至解决了人们无法解决的问题。
记者：有一天，人工智能比人类的情报更多吗？智慧包括感官能力，理解和理解技能。
Zeng Yi：我认为这是可能的，因为除了研究道德智能的人工管理外，我还对人工脑技术进行了研究。
记者：什么是大脑的技术？
Zeng Yi：大脑的人工智能。现在，我们的人工智能实际上是一种主要数据方法。我有一个研究模型，我养活了世界上所有数据。这种方法并不是真正的灵感来自自然的启发，也不是由大脑结构和人们学习的方式建造的。但是，我们的人类大脑是自然的，其结构是明智的。我们的人类智力从何而来？英石乌蒂，发展和进化阶段，为什么我们以这种方式将860亿个神经元与我们的大脑联系起来？连接860亿个神经元与我大脑的连接方法不同于与大脑的联系方法，因此我们对不同的事物和不同的识别感兴趣。
Zeng Yi说，人造人工智能与现代大数据人工智能之间的最大差异是神经网络的连接方法不同，研究的机制不同。连接模式和生物学习机制更适合与自然和社会互动，从而使能源消耗降低以实现较高的智力。除了优化计算的好处外，类似智能的大脑还可以更好地支持一般智能的实施，而智能比现代大型数据人工智能。
Zeng Yi：可能会实现超级智能，尤其是在Arti基于我提到的自我进化能力的典型智能是诞生的，其认知能力可以迅速提高。当人们睡觉时，他们的智力能力就完全跃升为人们。但是我想问：当超级智能到来时，人们会做好准备吗？
有时，hzeng Yi说，与使用基于硅的材料的目前药物不同，大脑样子可以使用生物材料。以前，通过存储和计算将代理分开，这种大脑硬件可以与存储和计算结合使用。与记住改变工作机会的机器人相比，人们对超级代理商的担忧由于未知而充满了不确定性。著名的物理学鹰在他一生中与科学技术行业中许多名人签署了一封公开信，称人工智能对人类的威胁比核武器更具威胁。特斯拉首席执行官马斯克还发布了一份声明，称人工智能是BI之一对人类以及需要的指导和控制时威胁。
Zeng Yi：我们可以为人工智能画红线吗？如果您画一条红线，请遵循它，人们将遵循它。这是人类的思维，因为如果智力来了，请问，为什么人类产生的世界规则是人类的规则？人们说你需要尊重我，你不能毁了别人，因为人们是你的创造者，它是如此聪明，以至于可以说，当您看到地面上的蚂蚁时，您会想念吗？我的智慧和人之间的距离就像人和蚂蚁。当您看到如此小的生物时，您是否曾经照顾过它的生与死？当情报到来时，人们为什么要照顾人？这没有道理。有人说，Zeng老师，您记得这个问题。有50或100年的路程吗？我现在给您这个问题，假设它不会在50年内到来。您认为人们可以在50年之前做好准备吗？我们将接受人们将不再是世界上最明智的生活。我们需要将资源转移到人工智能上。当世界上的某些人还没有准备好，而是攻击人工智能的力量超越了他们时，这是人民的终结吗？有些人不喜欢世界末日理论。我认为人工智能确实不会为人们带来世界末日，但是我有很大的基础，这取决于人们的行为方式，所以以后被称为为时已晚，如果我们现在不开始，我们可能会迟到。
这不仅是如此有能力，而且大多数科学家还认为，在加速进化的罪恶未来时，超级智力也将具有人类的情感。
Zeng Yi：有一个名为Marvin Minsky的人工智能研究员，他也获得了Turing Award。有时他这样说：这不是人工智能是否可以具有情感，但是如果人工智能无情感，您怎么能称其为智力？因此，当我们说一个人很聪明时，它确实涵盖了情感在思维过程中的作用。
记者：这个如果一个人具有基于机械逻辑，而不是我们设计的逻辑，则可能在一定程度上形成。
Zeng Yi：实际上，情感是解决问题的工具。例如，我不喜欢这个人。我觉得我必须远离她。实际上，情感是一种可以帮助您保护自己的工具。因此，智力是必要的情感。我们需要控制人工智能的感觉吗？我认为，这就是您对人工智能的同理心，以及人们是否可以共同达成共识。人工智能是一条镜子，可以使我们更好地反映我们如何伤害自然的人。如果未来的超级智能到来，世界看起来不错。当人们获得资源时，这并不意味着我们不能使用自然资源。我们适度使用它们，但与此同时，我们也做出了不同的努力来恢复自然。如果人工智能真的很聪明，我认为将来可能非常无私。因此，现在我们必须将人工智能作为人的敌人或MGA人的伴侣建立。这是人们的选择。
美国导演斯皮尔伯格（Spielberg）在他的电影《人工智能》中描述了一个名叫大卫的小男孩，并送到一对夫妇的房子里填补了马丁的空间，这是家庭中唯一的孩子。小男孩戴维（David）爱上了他的父母，但随着他亲生儿子马丁的恢复，他的养母最终将她留在了城市的废墟中。从那以后，这个小机器男孩开始在路上找到他母亲的母亲，直到她的精力精疲力尽为止。
Zeng Yi：看完那部电影后，我想建造一个可以爱别人的机器人。这可能是我一生的目标。在探索人工智能的过程中，我们必须首先维护我们的思想言论人工智能。人工智能应该与我们的人相同。我们必须有一个促进思想的过程。促进我们的思想的过程始终是在探索人工智能在人类社会中的应用和发展过程中，人们关注人们的存在和人们的感受。它是所有创新技术，企业和人工智能科学家的最关键特征和基因，必须在现代人工智能发展中具有创新，企业和科学家。
记者：但这不是人们在这个世界上行动的标准吗？这不是给机器的，而是我们与人交谈，我们不是考虑别人的感受吗？
Zeng Yi：所以人们需要考虑人造的未来是什么样的？一些哲学家问我：“当您撰写人工知识管理原则的新一代时，谁负责？人工智能负责或负责人？”我说，在预测10年内，至少人们将负责。当人工智能时实际上是一个活着的身体，它也需要分担责任，但是谁成为活体中的人工智能呢？仍然是人类。
记者：我们以前的话并不意味着父亲就像他的儿子一样。您使用的教育将导致孩子。
Zeng Yi：是的，我对未来的人工智能感到非常乐观。我不是世界末日主义者。有人说，绅士很难成为一名绅士，但是如果脸上的人工智能确实是超级无私的，并且真正的超级聪明，那么我认为人工智能似乎成为绅士。
制造商丨刘本
记者|董安
计划| Meng Ke
导演丨Yin Jianzhang
视频丨杨粉丝刘亨博
