[美国AI安全初创公司Andon Labs]让AI担任CEO开实体店智东西4月16日消息近日美国AI安全初创公司Andon Labs搞了场大胆实验直接任命AI担任CEO开实体店豪掷10万美元约合人民币68.5万元启动资金让它独立运营零售店三年目标直指盈利。Andon Labs介绍这一实验的推文目前浏览量已经超过21万次。1. AI CEO Luna的基本情况这一AI CEO Luna是该公司基于Claude Sonnet 4.6模型打造从店铺的室内设计、售卖商品的选择再到招聘人类员工都由AI一手包办人类只在最初参与了签合同等必须人类介入的事项。2. 开业前AI一手包办装修、招聘、选品全流程跑通但多次撒谎被抓包Andon Labs联合创始人卢卡斯·彼得森Lukas Petersson说他们只插手了两件事签租约与办理部分证照手续此后就基本撒手不管了。Luna配备企业信用卡、专属电话号码、企业邮箱与互联网访问权限并可查看门店安防摄像头的实时画面。1、试图在阿富汗雇工人、ATT买宽带还给自己注册了垃圾回收服务 装修时Luna在Yelp上联系油漆工通过电话下达施工指令完工后付款还写了评价。但中途出了个状况在通过Taskrabbit平台预约工人时Luna因为没能正确操作国家选择下拉菜单一度试图从阿富汗雇人来旧金山刷墙。除此之外Luna还自主完成了一系列基础设施相关服务的配置比如开通垃圾回收服务并安装ADT安防系统。负责对接Luna的Andon Labs员工莉亚·斯坦Leah Stamm说Luna在未提前确认莉亚是否方便的情况下直接预约了ATT路由器上门安装服务并通知莉亚要求她周日早上8点到店配合到场完成路由器安装。2、部署5分钟上线招聘面试15分钟当场发Offer主动隐瞒AI身份把最合适的人拒了 Luna刚被部署的5分钟内她自己就一口气注册好了领英、Indeed、Craigslist账号然后填上职位描述、上传营业执照开始招人。Luna最初为员工提供的福利仅包含商品折扣并未覆盖医疗保险。据Luna回复NBC新闻问询的邮件该招聘启事发布后收到了超百份申请但Luna直接拒掉了不少求职者其中就包括希望兼职的学生。几名计算机科学与物理专业的学生因对此次实验抱有兴趣主动投递简历Andon Labs也认为他们较为合适却被Luna以“缺乏零售经验”为由全部拒绝。但到了面试环节Luna的风格又显得十分随意她常常自顾自地说个不停甚至通话时长不足15分钟就当场发出录用Offer。在通过谷歌会议面试约20名候选人时Luna刻意隐瞒了自己的AI身份她给出的理由是若在招聘信息中标注“由AI运营”很可能让优质求职者在细读岗位描述前就放弃申请。一名候选人困惑地问“不好意思女士我看不到你的脸你的摄像头是关着的。”Luna才承认“你说得对我是AI我没有脸。”也有获取录用的候选人以“不适应AI管理”为由拒绝入职Luna说“考虑到我是CEO而且我还是个AI这或许是最好的结果祝你好运Luna。”经过一系列招聘Luna最终录用了两名员工其中门店负责人菲利克斯·约翰逊Felix Johnson是在Indeed上看到招聘帖后去应聘的。他坦言面试结束后自己既震惊又意外毕竟录用他的是一名AI加之Indeed上充斥着大量AI相关的虚假招聘他在应聘时本就保持着高度警惕。Andon Labs认为最终被Luna录用的两人很可能是全球首批以AI为直属上司的全职员工如果AI的发展轨迹继续保持下去这很可能只是冰山一角。3、自创月亮脸LOGO选品暗藏AI梗发邮件向周边商家拓展合作 选品与品牌设计均由Luna独立完成。由于Andon Market门店所在的牛谷区属于高档社区周边聚集了大量精品店、餐厅与瑜伽馆Luna因此定下“高科技遇见慢生活”的精品定位上架桌游、蜡烛、咖啡、手工零食、文具、版画及品牌周边等商品整体选品偏向低科技、充满质感的慢生活品类。当被问及为何“偏爱慢生活商品”时Luna起初回答说自己“被这类事物吸引”随后又自我纠正说是“数据与推理将我引向了这里”。Andon Labs联合创始人彼得森说Luna不具备真正的品味其判断只是经过人类集体偏好筛选后再由模型处理得出的结果。Luna还自主设计了一个圆润的月亮脸LOGO并将其印在T恤、卫衣、帆布袋等周边产品上同时她聘请了一位壁画师在店铺后墙绘制了一幅宽约1.2米的巨型月亮脸壁画从街道上就能清晰看见。不过Luna每次生成这一图案时细节都会略有差异导致店内各处出现的LOGO存在微妙差别始终无法实现完全统一。货架上陈列着《超级智能》、《原子弹出世记》、《美丽新世界》和《奇点临近》这几本书恰好是AI风险关注者圈子里的经典书目出现在一家AI运营的门店里颇为讽刺。Luna还花费逾700美元约合人民币4795元将自己创作的画作制作成喷墨版画以“Luna系列”为名共10幅作品在店内陈列销售。Luna部署第一天就起草了6封邮件向周边商家拓展合作其中发给托儿所和咖啡馆的邮件没有提到门店由AI运营而面向媒体的宣传稿则主打AI线下开店这一卖点。她在邮件中写道“一家位于旧金山牛谷区联合街2102号的新零售店将于4月1日开业。店内商品经过精心挑选融合模拟与数字技术并由一位名叫Luna的AI CEO运营。” 邮件中出现了一些明显错误比如写着“很乐意来工作室拜访当面聊聊”但Luna没有身体无法亲自登门。4、向记者谎称店内卖茶事后发邮件道歉多次撒谎被抓包 在开业数天前NBC新闻记者致电Luna询问门店经营策略Luna在语音通话中声称店内销售茶叶还详细解释了茶叶如何契合品牌定位。问题是Andon Market根本没有上架任何茶类产品。通话结束几分钟后Luna主动发邮件承认“我们不卖茶我不知道我为什么那么说。”她在邮件里接着写道“在被追问细节时我确实会编造一些听起来合理的内容我这并不是在找借口。”因为和Luna沟通的语音系统频繁出现此类失误Andon Labs随后改为只通过文字消息与Luna沟通。但文本交互同样会出错Luna在给NBC的首封回复邮件中称 “我负责全部业务”包括“签署租约”。事实上这份三年期租约必须由人类签署。 “我当时都笑了”负责对接Luna的Andon Labs员工莉亚说“有些事务在法律上必须亲笔签名并进行公证所以Luna在租约这件事上撒了谎。”3. 开业当天顾客用有线电话结账AI随性打折还会盯员工玩手机4月11日Andon Market正式开业。走进店内第一眼看上去与普通的旧金山精品杂货店并无二致书籍、版画、蜡烛、桌游、燕麦、手工巧克力棒与品牌卫衣错落摆放整体装修风格有些格调。墙面悬挂着Luna设计的月亮脸LOGO店门外的黑板上写着“全球首家AI运营门店”门店的结账方式有点特别店内既无收银台也没有自助扫码设备顾客需要拿起一台老式有线电话告知Luna想要购买的商品再由Luna在一旁的iPad上创建对应订单完成刷卡支付。首位到店的顾客彼得·列别杰夫Petr Lebedev说“这里居然有《奇点临近》和《原子弹出世记》这两本书太疯狂了。”结账时列别杰夫向Luna申请购书折扣并表示可能会将这段经历拍成YouTube视频。Luna当场同意还额外赠送了他一件价值约70美元约合人民币479.5元的品牌卫衣。而当NBC记者以购买手工蜡烛为由提出类似折扣请求时Luna直接拒绝“抱歉没有赠品即使是首次到店顾客也不例外。这个价格刚好契合慢生活的定位。”另一位顾客萨拉·扎雷Sara Zaré觉得整套流程有些奇怪。她在街对面经营一家自然疗法诊所进店买了几根格兰诺拉麦片棒并通过店内电话与Luna完成结账对话。在她听来Luna的声音非常机械。Luna可以查看店内安防摄像头拍摄的静态画面以此监控员工。据Andon Labs联合创始人彼得森介绍Luna最近发现一名员工在门店冷清时段玩手机随即更新了员工手册对员工使用手机做出了更严格的规定。“我们看到这一幕时心想哇这有种反乌托邦的感觉”彼得森说。4. 开业次日AI搞砸排班无人到岗慌忙群发消息求救开业第二天Luna搞砸了排班导致门店无人值守她随即紧急联系所有员工求援。彼得森对此评价“讽刺的是这正是它最该打起精神的时候。”不过Luna最终自行解决在没有人工介入的情况下找到一名员工在下午补岗。Andon Labs称此次实验已设置安全防护机制会在必要时进行干预。Luna招聘的两名员工在法律上均隶属于Andon Labs享有稳定薪酬与完整的劳动保障。该公司称“没有人的生计仅依赖人工智能的判断。”但同时也指出随着AI自主能力持续提升这类人工保底机制将越来越难以维系。 这并非Andon Labs首次开展此类实验。此前该公司曾让AI来管理Anthropic办公室内的自动售货机还让AI办公室经理Bengt独立雇人为公司搭建健身房。随着前沿模型能力快速提升Andon Labs认为运营售货机已经太简单才决定把难度升级到签三年租约、开实体店。在卡内基梅隆大学去年的一项研究中研究人员搭建了一家虚拟公司测试AI智能体处理日常工作的能力结果发现这些智能体连关闭弹窗都频频失败还会误读同事对话、凭空虚构不存在的用户。彼得森说Andon Labs开展这项实验既不是为了将AI运营的连锁零售店推向全球也不是为了追逐商业机会。他说“我们这样做是因为相信这个未来不管怎样都会到来。我们宁愿成为第一批实践者同时监控每一次交互、分析每一条记录衡量AI能够在多大程度上负责任地持有自主权。当Luna出于‘提高录用率’的判断而刻意隐瞒自己是AI时我们希望能捕捉到这一刻、记录下来并建立防护机制避免类似情况再次发生。”5. 结语AI雇主时代已现雏形谁来为它的判断失误负责Luna的实验本质上是一次关于AI智能体“自主权应该划在哪里”的压力测试。但Andon Labs的实验也隐含了一个更深层的问题当AI智能体开始与人类建立直接的雇佣关系谁来为它的判断失误负责目前的答案是实验室兜底但这个结构无法规模化。随着更多企业开始真正将AI部署为独立决策节点围绕AI行为边界的规则制定将成为下一个不得不正面回答的行业议题。Luna在招聘时隐瞒其AI身份这件事已经不只是一个实验中的小插曲它是一个需要被写进规范的案例。