据《商业内幕》(資本才俊) 看到的内部消息显示，摩根大通已为部分使用 Claude Code 的员工设置了每月 2,000 美元的支出限额。
这一上限，以及针对一些 Claude 用户的新安全努力，标志着美国最大的银行在成本和风险不断膨胀的情况下如何完善人工智能的使用，并重塑对软件工程师的期望的又一次演变。
上个月，一些有权访问 Anthropic 的 Claude 的工程师在群组中收到两条 Teams 消息，询问新的错误代码：“ExceededBudget”和“Budget=2000.0”。
员工回应称，使用Claude的某些工程师每月的支出上限为2000美元；两个回复表示费用每月重置。其他回复称，用户可以要求提高消费限额。
正如 資本才俊 之前报道的那样，摩根大通每年的技术预算接近 200 亿美元，几个月来一直在仔细跟踪其工程师的人工智能使用情况，但这是人工智能支出或代币上限的第一个迹象。
代币成本已成为整个华尔街日益紧迫的问题。据 Semafor 报道，今年 6 月，摩根大通支付业务首席数据和分析官扎切里·安德森 (Zachery Anderson) 在一次科技活动中表示，一些员工“在代币上的支出超过了工资”，但据 Semafor 报道，全公司范围内并没有采取措施减少代币的使用。
在该银行 7 月份的第二季度财报电话会议上，首席财务官杰里米·巴纳姆 (Jeremy Barnum) 表示，虽然当时代币支出“微不足道”，但该银行“预计下半年这一数字将出现有意义的加速”。
摩根大通拒绝就代币限制或其成本策略的具体细节发表评论。一位发言人表示：“我们正在严格对待人工智能，将成本与可衡量的商业价值联系起来，并考虑一系列指标，包括采用、结果、生产力提高、质量、速度、能力创造、风险降低和业务影响。”
克劳德的新架构
对某些人的 2,000 美元限制恰逢银行的一些工程师使用 Claude 的方式发生了更广泛的变化，并且在 Teams 小组中提到了新的编码架构“Devspace”。 直到最近，一些开发人员直接在他们的桌面上试用 Claude。然而，发言人表示，Devspace 是一项长期计划，限制克劳德获取员工凭证以及与内部系统交互的能力。
这种类型的限制对于运行和控制人工智能代理特别有用，人工智能代理可以自行做出决策并执行任务。
在 資本才俊 看到的内部网站上针对技术问题的一篇博客文章中，Devspace 被描述为托管在 Amazon Web Services 中的“容器化”、类似沙箱的服务器。编码沙箱就像操场上的沙箱一样，是一个孤立的地方，软件可以在其中运行而不影响计算机系统的其余部分。
该发言人表示，Devspace 相对较新，该银行正在继续推出新功能。这篇博文是两个月前发表的；目前尚不清楚该公司何时开始引入新的编码环境以及有多少工程师可以使用它。
摩根大通全球首席信息安全官帕特·奥佩特谈沙箱架构 在网络安全会议的炉边谈话中 四月份，银行推出该平台之前。他表示，将强大的人工智能工具放在存放员工电子邮件、敏感文件和个人信息的同一桌面上可能存在风险。奥佩特表示，该公司正在“尝试以隔离人工智能使用的平台的方式构建此系统”，并创建不同的员工和人工智能桌面环境。
“理想情况下，我们希望这些代理在一个没有任何权利的生态系统中运行。他们有身份，但没有权利，”他说。 “当这些工具需要访问资源时，我们希望能够控制理解周围的上下文。”
奥佩特表示，在这种架构下，摩根大通可以更好地了解和授权代理商的活动。如果人工智能代理知道如何突破环境，它就没有访问内部系统或“滥用企业”的凭据。
随着 Devspace 的推出，该银行已开始实现 Opet 的愿景，但尚不清楚所有使用 Claude 的工程师是否或何时开始在新的数字环境中工作。
截至目前，该银行 65,000 名全球技术部门中只有一小部分人能够接触到 Claude。 8 月份，資本才俊 看到的内部仪表板显示，大约 8,000 人拥有 Claude 许可证，并且 9 月初，有关 Devspace 问题的 Teams 小组约有 1,900 名成员。目前尚不清楚 Teams 组中的所有人员是否都在 Devspace 中拥有席位。
自从奥佩特的炉边谈话以来，人们对流氓人工智能代理的担忧与日俱增，公共安全威胁的严重程度和频率也呈滚雪球式增长。
Anthropic 和 OpenAI 的代理在过去几个月中逃离了封闭的测试环境，有时会访问互联网并劫持网站。此后，Anthropic 加强了其数字测试环境的安全性，而 OpenAI 则致力于改变其代理行为失控时的披露方式。一些行业领袖主张放慢技术进步以拯救人类。
银行拥有大量敏感数据，从客户的身份信息到信用卡号码。企业的声誉与其真实和感知的安全水平息息相关，这使得人工智能时代的网络安全问题尤为紧迫。对于摩根大通来说，安全关注并不新鲜——该公司是“Project Glasswing”的一部分，该网络安全小组于 4 月份在受控环境中测试了 Anthropic 强大的 Mythos 模型。
奥佩特在四月份发表讲话时表示，成功构建这一架构将产生足够的“信任和信心”，以在整个公司范围内扩展人工智能编码助理，该公司以成为华尔街人工智能领域的先行者而自豪。
“这是我们目前对企业如何为这些编码助理进行架构设计的最佳看法，”他说。
