27 岁的斯坦福大学毕业生 George Sivulka 创立并经营了人工智能企业初创公司 Hebbia，他指出了人工智能代理时代的典型焦虑：公司竞相部署人工智能劳动力，但没有建立任何管理基础设施来运行他们。
Hebbia 已经为包括贝莱德 (BlackRock)、KKR 和美国空军在内的客户提供服务，这让西武卡 (Sivulka) 亲眼目睹了实际企业内部的情况有多严重。他在 a16z 时事通讯上发表的文章认为，人工智能并没有降低劳动力成本，而是完全颠倒了等式：“历史上第一次，人类比软件更便宜。”对于那些一头扎进代理时代（简称“tokenmaxxing”）的首席执行官，他发出警告：“你们刚刚雇佣了一百万糟糕的员工。”
当亚马逊公开披露由于特工们疯狂行事而收效甚微时，这个时代结束了，而福特汽车公司实际上又重新聘请了一支新的人类工程师“灰胡子”，与人工智能增强工作携手合作。对西武尔卡来说，这一时刻就像 1841 年一场几乎被遗忘的铁路事故，结束了一个时代，开启了另一个时代。
铁路事故的类比
Sivulka 回顾了 1830 年代和 1840 年代，当时美国的铁轨里程在十年内激增了大约 120 倍，但没有与之相匹配的协调系统，直到 1841 年马萨诸塞州发生的致命火车相撞事故迫使该行业发明了现代管理——明确的角色、报告线和等级制度。
他认为，正是这场危机让铁路成为了首批价值数十亿美元的产业之一，“在巅峰时期约占股市的 60%”。正如铁路释放了全国各地旅行的欲望一样，他认为代理商也做了一些与网络工作类似的事情：“我们只是为每一位员工，即使是最糟糕的员工，提供了有效的无限的员工数量和预算。管理人工智能比管理人员更难，因为人工智能会立即扩大功能障碍。”
为什么每家公司都“雇佣了一百万糟糕的员工”
这篇文章的标题抓住了 Sivulka 的核心诊断：人工智能代理不会因为模型薄弱而失败，而是因为公司中几乎没有人能够足够清晰地阐明任务，让代理能够很好地执行任务。他估计“只有百分之一的员工知道如何提供人工智能背景”，并称这种技能是大多数员工根本不具备的清晰思维的“稀有品种”。结果就是他所说的“循环”——代理一遍又一遍地自我纠正错误的指令，他直言不讳地将其描述为“在花费代币上花费代币”。
几乎同一时间，瑞银全球研究部在门洛帕克举行的第五届瑞银私人人工智能和软件年度盛会上主办了“许多最引人注目的人工智能本土公司”，几乎每一位高管都私下证实了西武卡的论点，即在工业规模上发生了代理失败。一位公司高管告诉瑞银分析师：“在内部，我们没有象征性的预算，我们的工程师也没有接受过考虑这一问题的培训。但每一次客户对话都与此有关。”
真正的成本不是代币
Sivulka 认为，该行业错误地诊断了自己的炒作周期：“代币最大化”支出爆炸式增长，然后在一个月内崩溃，但“花费的代币数量从来都不是真正的问题”——问题在于人们不知道如何有效地使用它们。
瑞银的数据来源提供了这一说法背后的真实数据：一家未透露姓名的人工智能公司透露，“12 月份我们在 Anthropic 上的支出为 2 万美元，7 月份我们将突破 100 万美元，7 个月内增长了 50 倍”，并补充说，尽管支出激增，“我们不会缩减开支，我们不希望人们停止使用它。”尽管如此，该公司仍在安装相当于 Sivulka 缺失的管理层的东西：“我们现在发出警报，如果你每月达到某个阈值，我们将开始在内部推出调控器，就像 G&A 员工不应该使用前沿模型一样。”
OpenAI 的公开声明（“人工智能成本现在已成为一个在年初从未出现过的大问题”）以及 Uber 等安装支出护栏的企业证实这并不是孤立的——瑞银上个月估计，代币成本焦虑已成为“约 60% 的组织真正关心的问题”，并且“这个数字现在感觉更高”。 Sivulka 的观点直接呼应了 Palantir 首席执行官 Alex Karp 的公开抱怨，即人工智能实验室“完全、不负责任地超卖”了他们的模型，而企业却在没有真正投资回报率的情况下在代币消费上烧钱。卡普本月早些时候对 CNBC 的 Squawk Box 表示：“有些事情完全出了问题。”他对代币使用的误导发泄了不满。 “这个国家企业的基本观点是，我要放松一下，把时间浪费在代币上。”
Sivulka 通过从劳动力角度进行测试，系统地重新构建了人工智能营销主张，并发现每一项都在审查下失败了：
他将这一点延伸到了对组织结构臃肿的更广泛的控诉，指出大多数公司已经对充当“机器齿轮”的员工进行了“管理不善”——而埃隆·马斯克在 X 的 80% 员工裁员的表现更好，正是因为裁员消除了无谓负担，他说人工智能也反映了这一点：“就像 80% 的员工什么都不做一样，今天 80% 的代币什么也不做。”
他的解决方案：“100x 代币”
Sivulka 并未得出人工智能已被破坏的结论，而是认为解决方案与 1840 年代铁路的解决方案相同：更好的管理，而不是更少的技术。他预测未来十年的决定性技能将不是工程人才，而是环境工程：“10 倍工程师构建了公司的上一个时代。100 倍代币将构建下一个时代。”他对现在正在发生的经济转变的总结是，“平均而言，人类比代币便宜，但好的代币在规模上更便宜。管理层将其中一种转换为另一种。”
瑞银的消息来源描述了通过“模型路由”独立地实现这一精确修复的工作——将特定任务与特定模型相匹配，而不是将人工智能视为一种无差异化的工具。一位人工智能公司高管解释了这一转变：“大约六个月前，我们会接受整个任务并说，‘好吧，这个模型可能是最好的模型。’”现在，该项目中的各个子任务将转到不同的模型，因为我们确切地知道哪些模型擅长哪些任务。”
这位高管用与 Sivulka 的“100x”框架几乎相同的术语描述了回报：“当你可以从一堆不同的模型中获取资源时，就会有成本套利的机会……我们拥有关于模型擅长什么、擅长什么具体任务的所有数据，因此我们可以在价格方面进行大量套利，并将其传递给我们的客户。”
另一家公司更明确地描述了这种分裂，告诉瑞银，对于常规工作流程，“类人体验并不那么重要”，他们现在使用“更便宜或更快的模型”，同时为“核心用例”保留前沿模型，这些模型是“我们的面包和黄油”——Sivulka 观点的实时版本，即管理，而不是原始模型的力量，将浪费的支出转化为杠杆。
西武卡还警告说，未来的组织摩擦将是存在的，因为员工开始抵制将他们的机构知识移交给最终可能取代他们的人工智能系统。他指出，Meta 的持股员工——尽管在经济上有动力希望人工智能取得成功——反对该公司使用自己的工作环境作为培训数据，称其为“每个行业即将发生的事情的缩影”。
他警告说，“背景囤积”正在成为“最新的就业保障策略”，并将其描述为公司内部的“人工智能的巨大政治问题”，而且只会变得更糟。 “员工不想教人工智能系统他们的秘密武器”，现在他们知道他们的管理层不够聪明，无法廉价地使用代币，他们就有了影响力。
这个故事最初发表在 Fortune.com 上