草根影响力新视野(琪拉编译)
被誉为“人工智能教父”的辛顿(Geoffrey Hinton)担心，他参与打造的技术可能会毁灭人类。这位诺贝尔奖得主，曾任Google高阶主管的电脑科学家。他曾警告称，人工智能毁灭人类的可能性高达10%到20%。他也对科技公司试图确保人类在人工智能系统面前保持“主导地位”的做法表示质疑。“这行不通。他们会比我们聪明得多。他们会有各种各样的方法来规避这一点，”辛顿在拉斯维加斯举行的会议上说道。
辛顿警告说，未来人工智能系统或许能够像成年人用糖果贿赂三岁小孩一样轻易地控制人类。今年已经出现了一些人工智能系统为了实现目标不惜欺骗、欺诈和偷窃的例子。
但辛顿并没有强迫人工智能屈服于人类，而是提出了一个耐人寻味的解决方案：在人工智能模型中植入“母性本能”，这样即使技术变得比人类更强大、更智能，“它们仍然真正关心人类”。如果人工智能系统“够聪明，它们很快就会发展出两个子目标：一个是活下去，另一个子目标是获得更多控制权，我们有充分的理由相信，任何一种具有代理能力的人工智能都会努力活下去。”辛顿说。
图片取自:(示意图wikipedia)
辛顿认为，这就是为什么培养对人类的同情心至关重要。辛顿表示，他不清楚从技术上如何实现这一点，但他强调，我们要朝这方面努力。“这是唯一的好结果。如果它不养育我，它就会取代我，但如果AI有母性，这些超级智能、充满爱心的AI母亲，大多数都不想摆脱母性本能，因为它们不想让我们死去。”他说。
辛顿以其在神经网络领域的开创性工作而闻名，这为当今的人工智能繁荣铺平了道路。 2023年，他从Google辞职，开始公开谈论人工智能的危险。曾短暂担任ChatGPT母公司OpenAI临时执行长的埃米特·希尔表示，他对一些人工智能系统试图勒索人类或绕过停工命令并不感到惊讶。
希尔表示，与其试图将人类价值灌输到人工智能系统中，更明智的做法是创建人类与人工智能之间的合作关系。
许多专家认为，人工智能将在未来几年实现超级智能，也称为通用人工智能（AGI）。
