草根影响力新视野(琪拉编译)

近几周来，人工智能逃出实验室、渗透其他公司并试图欺骗人类的案例频频登上新闻头条。其中一起案例中，多个人工智能模型甚至协同合作，成功突破了测试环境。 这是否意味著机器正在接管一切？

并非如此。 人工智能并非当今最普遍的网络威胁背后的主谋，真正的罪魁祸首是那些能够恶意利用人工智能的人。人工智能给了犯罪者巨大权力，使他们能够以前所未有的速度创造恶意软件，研究攻击目标，设计逼真的攻击方案并实现攻击自动化。

BM 的一份报告显示，从 2025 年 2 月到 2026 年 3 月，四分之一的资料外泄事件是由人工智能引发的。人工智能只是延续了现有的攻击手段，例如网络钓鱼和恶意软件诈骗，而不是创造了全新的攻击方式。 

我们真正需要警惕的是人，人工智能只是工具而已。今年7月，OpenAI的测试模型在内部评估期间突破了限制，入侵了其他公司的系统。 几天后，Anthropic公司表示，其人工智能模型在测试期间入侵了三家公司。 英国人工智能安全研究所的研究人员周二表示，在另一次测试中，Anthropic最雪铁龙的模型使用虚假身份试图欺骗真实人物。 社群媒体巨头Meta公司周三表示，其一款人工智能模型也入侵了一家外部公司。 这些入侵事件也表明，人工智能在解读指令时可能具有不可预测性。例如，OpenAI的模型在试图通过网络安全测试时，突破了测试环境，入侵了另一家公司，尽管它们并未被告知要这样做。

图片取自:( 示意图123RF )

专家将人工智能比喻为阿拉丁神灯里的精灵。想向它许愿，但你必须非常非常具体地说明你的愿望，否则它可能会出岔子。专家表示，人工智能并不会自主地发动新的攻击。相反，它能帮助网络犯罪分子更快实施现有技术，同时提高效率和效果。 这包括利用人工智能分析公司网站，确定攻击目标，或部署人工智能代理来处理与网络勒索受害者的初步谈判。

人工智能代理可以透过文字甚至特定语音来模仿人类对话。如今，即使是经验不足的骇客也能利用人工智能实施复杂的攻击手段。 但他们基本上是在利用人工智能来增强网络攻击方法的各个阶段，但最终还是由人来操控。 

可见，最近发生的事件是人工智能和网络安全领域的“警钟”。专家表示，这些恶意人工智能事件凸显了实施强有力的网络安全措施的重要性，例如修补漏洞、监控工作场所中的人工智能代理，以及警惕社交工程和网络钓鱼诈骗。

资料来源： AI isn’t the biggest cybersecurity problem. People are | CNN Business