草根影响力新视野    文/乔依丝编译

美国联合航空 (United Airlines) 于近期宣布禁止第三方人工智能机器人存取该公司数码平台,并且警告表示,若是允许 AI 助理登入帐户凭证,不仅容易外泄敏感个资,更可能引发未经授权的消费行为。联合航空此举与亚马逊(Amazon) 封锁 Meta 旗下购物代理的考量如出一辙。

现今的 AI 代理功能日益强大,从根据天气叫车、绑定信用卡代订机票饭店,甚至在投资平台上买卖股票都能一手包办。然而,柏克莱加大与旧金山大学学者肖米特·高斯指出,代理式 AI 仍处于起步阶段,凡是涉及“健康、财富或隐私”的决策,现阶段都不应交由机器人代劳。高斯建议,AI 适合用来分类开销、标记异常帐单或仿真情境,但转帐汇款、投资下单与填写正式表单,仍应坚持由人工亲自操作。

joy1118

图片取自:(示意图 123RF)

高斯提醒,AI 代理在执行任务时非常“照字面解读”,缺乏人类凭借直觉与生活经验推敲弦外之音的能力。例如,若你只要求它订“最便宜的机票”,却未设下具体限制,它很可能会帮你订下一张凌晨起飞、且需转机三次的红眼班机。此外,AI 对网络信息往往一视同仁,若请它预订“最好的餐厅”,它可能只因某家店在官网自称第一就帮你订位,却忽略了地点偏僻或外部负评。因此,指令必须极度具体,明确要求它比对多个评价平台。

将任务外包给机器人前,务必自问:“这件事需要人类介入把关吗?”以旅游为例,让 AI 根据天气与预算筛选目的地非常合适,但最终刷卡订票的决定权仍应握在自己的手中。旅游科技集团 Booking Holdings 的财报便显示,旗下平台使用 AI 助理订房的客户,平均消费金额高出未使用者 20%,保留最终确认权或许还能帮你省下不少荷包。

在医疗与投资领域同样如此。若让 AI 管理用药处方,它可能因病历纪录不完整而忽略危险的药物交互作用;在股票交易上,AI 虽能协助搜集信息,但无法取代人类根据自身财务目标做出的风险判断。专家强调,授权 AI 存取资料时应仅限于“权限受限的帐户”,切勿直接交出银行或信用卡信息,并随时确保关键决策由人类亲自拍板定案。

 

Reference:

United Airlines won’t let AI agents book your flight. Expert says you shouldn’t let a bot do that for you, anyway