您的银行可能会要求您为人工智能代理的错误承担责任

//

李 雪梅

你的人工智能做出了错误的财务决定吗?好吧,如果你独自一人承担责任,请不要感到惊讶。

这是几家主要银行最近向其客户发出的警告。

在《商业内幕》查看的电子邮件和应用程序通知中,银行实质上是在告诉账户持有人:有权访问财务信息的人工智能代理可能会被视为用户的延伸,而不是外部入侵者。

“当你使用人工智能服务时,你要对人工智能采取的任何行动负责,”Ally Bank 本月早些时候给客户发了一封电子邮件。 “人工智能可能会犯错误、产生幻觉、误解你的指令,或者以你不希望的方式遵循它们,这可能会导致重大损失。”

在 11 月份的一封电子邮件中,大通银行还警告客户,“如果您的信息被滥用,授权交易可能无法逆转。”

花旗在其网站和移动应用程序上添加了一个横幅,引导用户进入一个页面,警告说:“人工智能助手可能会犯错误,这意味着你要为其所犯的错误承担责任。”

随着新型人工智能代理养成购物习惯,新的警报不断涌现。

此前,OpenAI 的 ChatGPT 或 Anthropic 的 Claude 等人工智能模型通过文本块回答用户问题。现在,Meta 的 Muse、Instinct AI 或 OpenAI 的 Dots 等在线代理能够代表客户在线完成任务,例如预订航班、预订餐厅餐桌或在用完之前购买除臭剂。

零售商必须通过更改其条款和条件来应对这些工具。今年 3 月,《商业内幕》报道称,塔吉特更改了其客户协议,声明人工智能代理购物“被视为由您授权的交易”。 9 月份,亚马逊以安全和可靠性问题为由,阻止了 Muse 代理商进行购买。

银行还试图在与人工智能工具的授权帐户连接和客户只需向人工智能工具提供登录凭据之间划清界限。上个月,Axios 报告称,各大银行检测到第三方代理在客户账户中进行操作,在某些情况下还获得了客户的许可和登录凭据。

《商业内幕》查看的每封银行电子邮件都警告客户不要分享重要信息,例如用户名、密码或安全代码。

富国银行还表示,客户不应轻易放弃访问权限。

该银行的一位代表告诉《商业内幕》:“如果没有强大的安全性、明确的客户授权以及旨在保护客户资金和财务信息的保障措施,任何技术都不应被信任来代表客户行事。”

在 10 月份的财报电话会议上,摩根大通首席执行官杰米·戴蒙 (Jamie Dimon) 就人工智能代理的使用向客户发出了类似的警告。

“如果人们正在使用它们,他们应该了解其中的风险,”他说。 “与此同时,我们不会允许任何外部代理人进入公司内部,因为这对客户和摩根大通来说风险太大。”

意识活动已扩展到设备和软件制造商本身。苹果最新 Mac 软件的测试版包括当用户考虑授予人工智能代理或应用程序对其计算机的系统级访问权限时的警告语言。