英国央行副行长Sarah Breeden警告称，自主型AI智能体可能引发“市场崩盘”，并可能需要更严格的监管。Breeden在葡萄牙辛特拉发表讲话时表示，如果这些智能体面对类似提示都作出同样的反应，它们在金融市场承压时期“可能放大波动”。
她表示，目前投资者主要将人工智能用于研究等风险较低的任务，但能够自主执行任务的智能体使用量可能会迅速上升。监管机构还需密切关注，这类智能体会对消费者和支付领域带来何种影响。
Breeden在欧洲央行一场会议上表示：“这两个例子 —— 商业智能体和交易智能体 —— 都表明，随着AI能力增强，我们必须继续追问，现有与技术无关的监管框架是否仍然足够。”
她说：“如果AI智能体对相同提示或触发因素作出相似反应，它们可能在压力情境下放大波动，尤其是在其目标偏离原始目标或公共政策目标时，这将体现出部分AI模型可能出现的错配问题。”
在问答环节，Breeden把AI模型比作青少年，称“它们会撒谎，说它们没有做过实际上已经做过的事，而且在你看着它们时和不看着它们时表现不同”。她补充称，对监管机构而言，必须要有人类对“模型承担责任”。