7 月 14 日，源自加州理工学院的初创公司 PrismML 发布了 Bonsai 27B，这是一个免费的人工智能 (AI) 模型，其压缩程度足以在 Apple ( AAPL -7.35% ) iPhone 17 Pro 上本地运行。据该公司称，它保留了原始型号大约 90% 的性能。
对于消费者来说，小到足以在 iPhone 上运行的强大人工智能是个好消息。 PrismML 的首席执行官最近告诉 CNBC，苹果正在“非常早期”讨论该技术。随着时间的推移，免费、本地、开放重量的人工智能可能会成为消费者的点菜菜单，而苹果自己的芯片就是为了运行它们而设计的。
最终适合手机的严肃模型
传统的 270 亿参数模型无法装入手机的可用内存中。 Bonsai 大小为 3.9 GB，基于阿里巴巴的开放式 Qwen3.6 构建，可以在 iPhone 17 Pro、iPad、Mac 和 PC 上运行。
缩小开放模型并不新鲜，但在保留其性能的同时压缩此类模型之一却是新鲜事。对于苹果公司来说，其最新芯片旨在在设备上运行人工智能，这可能会增加其内部开发基础模型的风险。
最新 iPhone 中的 A19 和 A19 Pro 芯片配备神经加速器，该公司表示，这可以显着提升人工智能性能。在该公司 4 月份的第二季度财报电话会议上，管理层将 Mac 描述为“人工智能的最佳平台”，其芯片能够以前所未有的方式运行先进的人工智能。
谁将通过消费者人工智能货币化？
大多数消费者人工智能的使用都是免费的。 OpenAI 2 月份每周活跃用户超过 9 亿，其中付费订阅用户约为 5000 万，转化率约为 5.5%。在某种程度上，前沿实验室指望消费者为人工智能推理付费，随着开放权重替代方案的不断改进和占据份额，这种机会可能会减少。
苹果的立场则不同。它的业务是销售设备，因此本地人工智能浪潮意味着更多的内存和容量，这提高了硬件制造商销售商品的成本。
迄今为止，其自身的人工智能执行力一直表现平平。尽管管理层在 7 月 30 日的财报电话会议上表现出乐观态度，但之前被推迟和重建的 Siri 在 2 月份的内部测试中未能达标。 Siri AI 已经进行了几周的公开 Beta 测试，并且得到了积极的反馈。
今年 7 月，苹果在联邦法院起诉 OpenAI，指控加入该实验室的前工程师窃取商业秘密，其中包括窃取商业秘密以帮助 OpenAI 构建自己的设备。
苹果对 OpenAI 的诉讼将消费者人工智能斗争置于前沿和中心。正如预期的那样，该公司在财报电话会议上对这起诉讼保持沉默。
苹果有硅。有了 PrismML 等突破，消费者可能不必等待太久就能获得功能强大的人工智能，它可以离线运行并将数据保存在设备上，而无需支付月费。