高盛正与 Anthropic 合作应对人工智能网络风险

//

李 雪梅

高盛正在尽早研究世界上最强大的人工智能模型之一,并迅速采取行动防范它可能带来的风险。

首席执行官 David Solomon 表示,在该系统的推出引起了整个行业的警惕后,该银行正在与 Anthropic 密切合作,评估与其最新系统相关的网络安全威胁。所罗门表示,该银行对其能力“高度了解”,并正在与 Anthropic 及其自己的安全供应商协调,以防范潜在威胁。

上周,Anthropic 表示,出于网络安全考虑,它不会发布其新模型 Mythos。该公司警告说,该系统足够先进,即使是非专家也可以利用主要操作系统中的漏洞。相反,它表示,作为名为“Project Glasswing”的网络安全组织的一部分,它正在向 11 个组织提供有限的预览版。

“网络安全长期以来一直是我们业务的核心,”所罗门在该银行第一季度财报电话会议上表示。 “我们在很长一段时间里投入了大量资源。”

该模型的首次亮相还促使美联储主席杰罗姆·鲍威尔、财政部长斯科特·贝森特和美国主要银行领导人于上周举行了一次会议。所罗门表示,此类讨论并不新鲜,并指出银行多年来一直与财政部就网络安全风险进行接触。

“在美国政府和模型出版商的帮助下,我们非常专注于补充我们的网络和基础设施弹性,”所罗门说。 “这是我们持续投资并正在加速投资的持续能力的一部分。”

尽管存在风险,所罗门还是强调了他对人工智能对高盛业务线的中长期影响的看好。

他后来在电话会议中对一位分析师表示:“每当你的技术加速发展时,就会出现障碍,也会出现风险问题。”“但是技术的力量,在企业中使用它、重塑流程、创造效率以及创造更多投资增长的能力的能力——我找不到一位不谈论这一点的首席执行官,”他说。