NEA 合伙人 Aaron Jacobson 谈开放式与封闭式

//

李 雪梅

人工智能竞赛变得越来越复杂。

尽管围绕最新和最大的前沿模型进行了大肆宣传,但公司发现他们并不总是需要最强大的方法来完成每项任务。随着开放重量模型变得更好、更便宜、更容易定制,压力也更大 与 OpenAI 和 Anthropic 等前沿模型公司合作,开发留住客户的功能。

这为企业在成本、控制和安全之间创造了一系列新的权衡。

New Enterprise Associates 的合伙人 Aaron Jacobson(其投资组合公司包括 Databricks、Factory 和 Together)在接受 資本才俊 采访时表示,他认为这场辩论是人工智能行业下一阶段的核心。他预计前沿模型对于最困难、最复杂的问题仍然很重要,但对于许多日常任务来说,更便宜的模型可能就足够了。

结果可能会改变“越大越好”的观念,而转向一个公司在模型选择上采取更精心策划的方法的世界。

为了清晰起见,本次采访经过编辑和精简。

您能定义一下开源、开放权重和封闭式人工智能之间的区别吗?

开源是您实际上可以自己重新创建整个模型的地方。你拥有所有的数据,所有的数据管道,你基本上可以从头开始训练它并获得权重。

开放权重是指您只有权重,但实际上无法从头开始创建模型,因为您没有所有数据和所有数据管道。您实际上并不知道模型训练的数据或模型是如何训练的。

使用封闭边界模型,您无法访问其中任何一个。您可以通过 Anthropic 和 OpenAI 提供的 API 对权重进行一些微调,但您实际上无权访问权重。您无法自己运行模型。

开放与封闭对您来说真的是一场争论吗?或者前沿模型是否如此优越以至于根本不存在开源能否赶上的问题?

我认为,就广泛的问题而言,甚至就编码而言,前沿模型更好。但事情是这样的:这并不意味着它们是最有用的。它们更好,但也更贵。

对我和许多业内人士来说,争论是:你是否需要为所有事情提供前沿情报?

开放重量对于许多用例来说已经足够好了,这就是它开始挑战前沿商业模式的地方。您不需要将所有复杂的任务发送给前沿情报部门。

您认为前沿模型的最佳用例是什么?

我认为问题非常困难、复杂。或者是难以解决或需要的开放式问题 更长的时间范围。

我们确实正在从聊天机器人时代转向代理时代。如果您要求模型做一些复杂的事情——比如计划整个假期和预订航班,或者作为开发人员构建一个必须满足一系列安全要求的高度复杂的银行应用程序——这种开放式、长期问题是前沿模型的一个很好的用例。它可以处理规​​划和一些更复杂的令牌生成,同时将更简单的任务(例如不需要太复杂的代码部分)路由到成本较低的模型。

听起来开放重量模型也有很多用例。

我认为这就是争论:鉴于最先进的开放模型源自中国,当今美国可用的开放权重模型的用例是什么?

个人开发者正在使用开放权重模型。一些公司可以使用中国的开放权重模型来生成代码或执行其他工作。很多企业都不是,他们不允许使用中国模型来生成代码或接触他们的数据。

对于广泛的市场(其中很多是企业工作负载)来说,最先进的开放权重模型在技术上可以做得更便宜,而且也许足够好。但由于这些模型源自中国,并非真正开源,因此使用它们可能会存在安全问题,从而阻碍部署。因此,这项工作要么被发送到性能较差的非中国开放模型,要么被发送到更昂贵的封闭边境模型。

当然,数据越敏感,担忧就越大。编码应用程序(如源代码)非常敏感。任何涉及财务或客户数据的内容都是敏感的。

您能否更具体地谈谈开源或开放权重替代品对封闭模型造成的定价压力?

我认为你有双重看法。据 Ramp 称,英国《金融时报》报道称,自 7 月底推出以来,Anthropic 成本较低的 Opus 5 型号在商业支出方面已经超过了 Fable。

我还认为,这不仅是因为 Opus 足够好,而且对于广大初创公司和一些企业用例来说,开放模型对于某些代码生成来说已经足够好了。开放模式更便宜,因为你不必向自己运营的前沿模式公司缴税。

因此,同样好或足够好的代币的成本给前沿模型带来了定价压力,这些模型的定价更高,以收回培训成本。

您认为市场走向何方?

我非常看好公开重量级获得更多份额。

如果你描述一下过去 10 年人工智能的发展, 人们认为越大越好:更多的数据、更多的计算、更大的模型。我认为下一个十年将由模型的有效使用来定义。并非一切都需要前沿情报。