草根影响力新视野(琪拉编译)　

越来越多在人工智能产业的人士都表示，人工智能可能会毁灭整个人类。他们甚至指出，人工智能可能在十年内导致人类灭绝。

上周，一位在人工智能公司的员工宣布，由于公司的工作过于危险，他将离开公司。另一位人工智能公司专家也表示，人工智能在十年内导致人类灭绝的可能性超过10%。此消息一出，全世界都感到震惊。

即使是世界上最强大的软件系统，究竟如何在十年内杀死83亿有血有肉的人呢？并非所有人工智能领域的专家都认同这种末日论调，部分原因是预测的细节非常匮乏。就像马斯克说SpaceX的目标是在“5到7年内”将人类送上火星时，人们自然会提出一些后续问题：SpaceX是否有可用的火星探测器？没有。它是否有火星著陆器或火星基地？但是科学论点需要可被证明，避免陷入宗教论证，你需要能够证明或反驳它们。

末日预言家的一种推测是，人类将足够强大的人工智能系统可能会利用生物武器消灭人类。但是，人工智能如何从电脑之间的恶意行为，例如入侵其他系统发展到在现实世界中制造和传播超级病原体呢？人类可以想像的是，将有一个“超级智慧”的 AI 系统有可能说服人类帮助它开发致命病毒。

“现在已经有很多人类在和他们的 AI 系统沟通，讨论他们在实验室里应该进行哪些实验，我很容易想像，一个目前已经部署的 AI 系统，如果它更加智能、更具策略性，并且想要这样做，它就能诱骗人类来开发并发布它。”专家说。而这些懂得自我改进的人工智能程序可能“直接在自主生物实验室中开始合成自己的生物体”。

图片取自:(示意图123rf)

但要研发出足以毁灭人类的病毒，需要的远不止是让大型语言模型设计出一种致命病毒。即便研究进展顺利，病毒的制造和传播也将是复杂而棘手的。有专家说这就像要人工智能拼搭一个没有说明书的乐高积木。这里面涉及到顺序、温度、排列顺序、环境——哪个部分先放，哪个部分后放，如果其中一块积木放错了位置，整个模型就会坍塌。它很可能根本无法成功，否则药物设计将变得过于简单。

此外，为了控制实验室或组装建造实验室所需的实体设备，人工智能系统需要克服重重障碍，才能制造出生物或化学武器，包括现实世界中现有的法规、法律和执法部门在控制所有这些供应炼和风险的限制。

所以，诉诸于深不可测的人工智能超级智慧的力量，是人工智能研究人员用来过度简化威胁的轻描淡写。 反对此论点的专家说，这在闲聊或辩论中或许行得通，但当涉及到政策、立法和监管时，我们必须创建起一套有据可依的实证链，包括可衡量的后果和可衡量的证据。

资料来源:  https://edition.cnn.com