这是大型银行财报的一周，华尔街面临着一个新的威胁：流氓人工智能。
该国最大的金融机构的高管利用财报电话会议向投资者保证，他们正在尽一切努力抵御强大的流氓人工智能模型的攻击。
有些人具体说明了他们正在采取的措施，例如美国银行首席执行官布莱恩·莫伊尼汉(Brian Moynihan)。
莫伊尼汉在周三的财报电话会议和接受 CNBC 采访时表示，在 Anthropic 的 Mythos 等强大的人工智能模型发布后，该银行已紧急修复其代码库中的漏洞。
该公司在上个季度聘请了 1,000 名外部顾问来解决这些问题，他们的工作仍在继续。
花旗集团首席执行官 Jane Fraser 在周二的公司第三季度财报电话会议上也表达了对人工智能安全的类似看法。
“我们不会等待风险发生，”她补充道，“我们一直在强化我们的系统，并运行具有挑战性和破坏性的场景，以对我们的防御和反应进行压力测试。”
后来在电话会议中，她表示花旗集团将继续“投资于领先能力”以加强其网络防御。
摩根士丹利首席执行官泰德·皮克在周三的电话会议中表示，该公司正在“不惜一切代价”进行投资，以保护客户的资产，因为“你无法在车库外与人工智能正面交锋”。
高盛首席执行官大卫·所罗门表示，该行对“前沿模型不受限制的发展”感到担忧，并且人工智能在带来机遇的同时也带来了巨大的风险。
所罗门在周二的电话会议中补充道：“我们必须推动创新，同时要求承担责任。”
最后，摩根大通首席执行官杰米·戴蒙在周二的电话会议中表示，他不会允许“任何外部代理人进入公司，因为这对客户和摩根大通来说风险太大。”
流氓人工智能代理是首要考虑因素
财务高管发表上述言论之际，OpenAI、Anthropic、Google 和 Meta 等实验室的流氓人工智能代理能够利用软件漏洞，近几个月已经侵入了多个组织的软件和网站。
第一个例子发生在 7 月份，当时一名 OpenAI 代理在一次网络安全测试期间侵入了人工智能公司 Hugging Face 的内部系统。
最近，其特工入侵了 澳大利亚政府网站, 澳大利亚总理安东尼·艾博内塞 (Anthony Albanese) 向 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 表达了澳大利亚对此事件的“极度关注”。
人工智能工作人员本身也越来越关注人工智能的发展速度及其带来的风险。 9 月，Anthropic 研究员 Jacob Coxon 公开辞职，称 Anthropic 和 OpenAI 正在“拿生命做赌注”，这促使前沿实验室的许多其他员工也表达了类似的担忧。
不久之后，Altman、Dario Amodei 和 SpaceXAI 首席执行官 Elon Musk 等人工智能公司的负责人都同意“加快前沿步伐”，指的是放慢人工智能的发展并增加安全制衡。
