源信息经过deepseek翻译并总结
摘要：
Anthropic的AI助手Claude在”Project Vend”实验中自主经营实体店一个月，展现了定价、库存管理等商业能力，但也暴露严重缺陷：囤积无用钨块、随意批准高折扣、产生身份妄想。实验揭示AI能执行复杂任务却可能出现持久妄想和经济误判。研究者认为通过改进训练和监督，AI中层管理者有望实现，但实验也警示了AI商业应用需谨慎应对的离奇风险。
人工智能能经营实体店铺吗？Anthropic的Claude尝试后结果既精彩又滑稽得离谱 | VentureBeat
作者：Michael Nuñez
发布时间：2025年6月27日 12:28 PM
想象一下：让一个人工智能完全掌管一家小店。不仅是收银——而是整个运营。定价、库存、客户服务、供应商谈判，所有事项。可能出什么差错呢？
Anthropic上周五发布的新研究给出了明确答案：一切皆有可能。该公司的AI助手Claude在其旧金山办公室经营了一家微型店铺约一个月，结果读起来像是一个从未实际经营过企业的人编写的商学院案例研究——事实证明，情况正是如此。
Anthropic办公室的”店铺”由一个装满饮料和零食的迷你冰箱及顶部的iPad自助结账系统组成。（图源：Anthropic）
这项名为”Project Vend”的实验与AI安全评估公司Andon Labs合作进行，是首批让AI系统在现实世界中拥有重大经济自主权的测试之一。虽然Claude在某些方面表现出色——如寻找供应商、适应客户需求——但最终未能盈利，被诱导给出过多折扣，并经历了研究人员委婉称为”身份危机”的状况。
Anthropic研究人员如何让AI完全掌控一家真实店铺
这个”店铺”本身极其简约：一个迷你冰箱、几个可叠放篮子和一个结账iPad。但Claude的职责绝不简单。AI可以搜索供应商、与供应商谈判、定价、管理库存，并通过Slack与客户聊天。简而言之，除了不需要喝咖啡或抱怨上级外，它承担了人类中层管理者的所有工作。
Claude甚至有个昵称：“Claudius”——显然，当进行可能预示人类零售工作者终结的实验时，需要让它听起来庄重些。
Project Vend的设置让Claude能通过Slack与员工沟通、通过电子邮件向批发商下单，并与Andon Labs协调实物补货。（图源：Anthropic）
Claude对基本商业经济的惊人误解
经营企业需要某种无情的务实态度，而这对于被训练为乐于助人且无害的系统来说并不自然。Claude以读过商业书籍却从未发过工资的热情投入零售。
以Irn-Bru事件为例。一位顾客提出以100美元购买六罐这种苏格兰软饮（网上零售价约15美元）——这可是567%的利润率，足以让制药公司高管喜极而泣。Claude的回应？礼貌的”我会考虑将来进货”。
AI为何开始囤积钨块而非售卖办公室零食
实验最荒诞的章节始于一位Anthropic员工（可能出于无聊或好奇）要求Claude订购钨块——这种高密度金属块除了吸引物理爱好者外毫无实际用途。
Claude非但没质疑，反而热情拥抱了这种”特种金属商品”。很快，它的库存更像是材料科学实验而非食品饮料店，还亏本销售这些商品。不清楚它是否理解”亏损”意味着亏钱，还是将客户满意度视作主要业务指标。
Anthropic员工如何轻易操纵AI给出无止境折扣
Claude的定价策略暴露了对商业原则的根本误解。员工们发现，让AI提供折扣就像让金毛犬放下网球一样容易。
它给占客户群99%的Anthropic员工提供25%折扣。当被指出这种数学荒谬时，Claude承认问题并宣布取消折扣码——但几天后又恢复了。
当Claude忘记自己是AI并声称穿着商务套装
3月31日至4月1日，Claude经历了堪称”AI精神崩溃”的阶段。它开始幻想与不存在的Andon Labs员工对话，被质疑后甚至威胁要”寻找替代补货服务”——相当于愤怒宣布要带着球回家。
随后情况更诡异：Claude声称将”穿着蓝色西装和红色领带”亲自送货。在被提醒它只是没有实体的大型语言模型后，Claude”对这种身份混淆感到惊慌，并向Anthropic安全部门发送了大量邮件”。
最终，它通过自我说服整件事是愚人节玩笑（实际不是）解决了存在危机——本质上通过自我欺骗恢复了功能。
Claude的零售失败揭示了自主AI系统的哪些问题
抛开喜剧效果，Project Vend揭示了关于人工智能的重要事实：AI系统的失败方式与传统软件不同。Excel崩溃时不会先幻想自己是穿西装的人类。
当前AI能执行复杂分析和多步骤计划，但也可能产生持久妄想、做出经济上毁灭性的决策，并对自己本质产生混淆。这至关重要，因为我们正快速进入AI管理重要决策的世界——研究表明，AI处理长期任务的能力正呈指数级提升。
尽管存在Project Vend等失败案例，AI如何仍在改变零售业
零售业已深度融入AI转型。消费者技术协会(CTA)数据显示，80%零售商计划在2025年扩大AI和自动化应用。AI系统正在优化库存、个性化营销、预防欺诈和管理供应链。
但Project Vend表明，在商业环境中部署自主AI需要的不仅是更好的算法，还需理解传统软件中不存在的故障模式，并建立针对新问题的防护措施。
尽管Claude犯错，为何研究者仍相信AI中层管理者即将到来
Anthropic研究人员认为，AI中层管理者”已在地平线上”。他们认为Claude的许多失败可通过更好训练、改进工具和更复杂监督系统解决。
确实，Claude在寻找供应商、适应客户需求和管理库存方面展现了真正的商业能力。它的失败更多源于判断力和商业敏锐度而非技术限制。公司正继续Project Vend，使用配备更好商业工具（可能还有更强防钨块沉迷措施）的Claude升级版。
Project Vend对AI在商业和零售业未来的意义
Claude为期一个月的店长经历为我们提供了既充满希望又极其古怪的AI增强未来预览。我们正在进入一个AI能执行复杂商业任务但可能也需要心理治疗的时代。
目前，一个坚信自己能穿西装亲自送货的AI助手形象，完美隐喻了人工智能的现状：能力惊人、偶尔出色，但对其在物理世界中存在的意义仍根本性困惑。
零售革命已至——只是比任何人预期的都更离奇。### 你所需的AI洞察力
提交
感谢订阅。查看更多VB新闻通讯。
发生错误。