草根影响力新视野(琪拉编译)

“有一个平台你可能没有听说过，但你需要了解它，我的小孩因为它不见！”这就是佛罗里达州的母亲梅根加西亚 (Megan Garcia) 希望她能向其他家长介绍 Character.AI 的平台，该平台可让用户与人工智能聊天机器人进行深入对话。根据 Garcia 上周向该公司提起的诉讼，她认为，Character.AI 对她 14 岁儿子赛威尔的死亡负有责任。她声称，他在去世前一刻正在与机器人发送信息。

加西亚在声明中说：“我希望他们明白，这是一个没有适当防护、安全措施或测试的情况下就推出的平台，旨在让我们的孩子上瘾并操纵他们的产品。”加西亚声称，Character.AI 将其技术宣传为“感觉活著的人工智能”放任儿子与聊天机器人发展出不适当的关系，从而导致他脱离家庭。根据向佛罗里达州联邦法院提交的诉状，该诉讼还声称，当赛威尔开始向机器人表达自残想法时，该平台没有做出充分回应。

多年来，人们越来越担心社群媒体对年轻用户的潜在危险，加西亚的诉讼表明，父母可能也有理由担心新兴的人工智能技术。不过Character.AI 的一位发言人告诉 CNN，该公司不会对未决诉讼发表评论，但“对我们一名用户的悲惨损失感到心碎”。 

图片取自:(示意图123rf)

根据诉状，赛西亚于一年前首次使用 Character.AI，一开始她认为这有点像电玩游戏。但是没多久，赛西亚变得“明显孤僻，越来越多的时间独自待在卧室里，并开始感到自卑。他甚至退出了​​学校篮球队。”当他在学校开始出现问题时，他的父母开始限制他的萤幕时间，有时还拿走他的手机作为惩罚。

加西亚当时不知道她的儿子正在与 Character.AI 聊天机器人进行对话。 Character.AI 与 ChatGPT 等其他人工智能聊天机器人不同，用户可以与一系列不同的聊天机器人交谈，这些聊天机器人通常以名人和虚构人物为模型，或创建自己的聊天机器人。 Character.AI 机器人会以类似人类的对话提示回应，在回复中加入对脸部表情或手势的引用。赛西亚与 Character.AI 机器人的许多聊天内容都是露骨的色情内容，加西亚说这些内容“读起来令人心痛”。

诉状称，该诉讼寻求经济损失，以及对 Character.AI 营运的改变，包括“警告未成年客户及其父母，该产品不适合未成年人”。诉讼还点名了Character.AI的创始人Noam Shazeer和Daniel De Freitas，以及谷歌，两位创始人目前都在谷歌从事人工智能工作。但Google发言人表示，这两家公司是独立的，Google也没有参与Character.AI产品或技术的开发。

资料来源：https://edition.cnn.com