草根影响力新视野 乔依丝编译 

根据美国《Variety》杂志的报导，一款A.I.人工智能应用程序未经许可，擅自在广告中使用了美国知名女星史嘉蕾·乔韩森的名字和人工智能生成的声音版本。针对这个高科技的造假行为，史嘉蕾·乔韩森正采取法律行动。不过，由于“AI深伪技术”已逐渐被广泛滥用，要提防此类问题的恐怕不只名人而已。

《Variety》杂志报导指出，这则 22 秒的广告于 10 月 28 日由人工智能图像生成应用程序 Lisa AI : 90s Yearbook & Avatar发布到 X平台上 (前身是Twitter社群媒体)。 这则广告以史嘉蕾·乔韩森的图像和A.I.生成声音为最大特色，但是广告下方却显示A.I.产生的内容“与史嘉蕾本人无关”。史嘉蕾·乔韩森的代表向 《Variety》杂志证实她不是这个APP的发言人，因此她的律师正在采取法律行动。

“深伪技术”是一种透过人工智能 (A.I.) 中的“深度学习” (deep learning) 技术所创造出的“假”信息，常被用做为移花接木的“变脸”及“变声”效果。这里举个简单的例子：A.I.模型可以输入某个人说话的音讯片段，并学习如何识别他们的语音模式、语调和声音等独特方面，接著A.I.模型可以创造出语音的合成版本。受害者将不再局限于知名人物，而是所有的社会大众都有可能被利用。

图片取自:(示意图 123RF )

在科技和媒体行业拥有超过 25 年经验的纽约大学兼职教授 Jamyn Edis表示，更令人担忧的是，随著“深伪技术”的快速发展，辨别真假变得越来越困难。不过，基本上还是可以采取一些辨别的方法。

首先，问问自己所看到的图像是否与现实相符，尤其是如果看到名人推销一些不起眼商品的广告，最好检查这些名人们的其他社交媒体帐户是否有被盗用。

Meta、Google和Microsoft等大型科技公司也在开发工具来帮助人们发现深伪技术下的赝品。

美国总统拜登于最近宣布了第一个关于人工智能的行政命令，内容是要求添加浮水印以清楚标记A.I.智慧所产生的内容和其他安全措施。然而，根据历史经验，最令人担忧的是法规或监管措施总是赶不上科技技术的发展。

Reference: 

An AI app cloned Scarlett Johansson’s voice for an ad—but deepfakes aren’t just a problem for celebrities