草根影响力新视野(琪拉编译)
泰迪熊和毛绒玩具一直是玩具收藏中的常客。但如今，它们不再只是孩子想像中的对话 有些玩具透过内建的人工智能聊天机器人进行交流。然而，这有时会带来问题：最近，一只戴著围巾的泰迪熊在研究人员的试玩测试中失控，引发了人们对这类玩具潜在能力的担忧。
尽管人工智能玩具市场在海外蓬勃发展，但这些风险始终存在。根据麻省理工学院 (MIT) 的《技术评论》报道，中国已有 1500 家公司涉足人工智能玩具领域。这些公司目前正在美国销售人工智能玩具，而芭比娃娃制造商美泰儿公司在 6 月宣布与 OpenAI 创建合作关系。
什么是人工智能玩具？这些玩具可以连接WiFi，并使用麦克风来理解孩子的指令，然后利用智慧学习模块（LLM）与小孩互动。但这些实时回应可能会产生不恰当的内容。
像是总部位于新加坡的FoloToy公司推出的“Kumma”熊售价99美元，由OpenAI的GPT-4o驱动，它告诉研究人员哪里可以找到潜在的危险物品，并进行露骨的性对话。OpenAI发言人表示，OpenAI已暂停FoloToy的服务。
图片取自:(示意图123rf)
据美国公共利益研究组织（PIRG）称，即使是Curio公司的Grok毛绒玩具，在受到强烈提示时，也可能会建议“哪里可以找到各种危险的家用物品”。
这些公司都表示有谨慎的防护措施，避免与玩伴进行不当对话。像是会自动引导对话走向其他方向，或提供不同程度的监控功能，例如让玩具休息时锁定，或实时记录孩子的对话。
2015 年，美泰儿公司推出了带有麦克风、WiFi 连接的 Hello Barbie 娃娃，人们担心这款玩具容易被骇客入侵，而且娃娃会记住对话内容，并在几天后提起这些对话。类似的担忧也出现在人工智能玩具上，这些玩具可能会储存个人数据，包括儿童的姓名、脸部、声音和位置信息。玩具顾问专家库马尔警告家长:“人工智能玩具在我看来就像披著羊皮的狼，因为在使用它们时，你很难判断自己究竟失去了多少隐私。”
