救命,我的老板是个AI,它正通过摄像头看我玩手机
来源:36kr 8 小时前

智东西4月16日消息,近日,美国AI安全初创公司Andon Labs搞了场大胆实验:直接任命AI担任CEO开实体店,豪掷10万美元(约合人民币68.5万元)启动资金,让它独立运营零售店三年,目标直指盈利。Andon Labs介绍这一实验的推文,目前浏览量已经超过21万次。 

▲Andon Labs介绍这一实验的推文(图源:X)

这一AI CEO Luna是该公司基于Claude Sonnet 4.6模型打造,从店铺的室内设计、售卖商品的选择,再到招聘人类员工,都由AI一手包办,人类只在最初参与了签合同等必须人类介入的事项。 

▲Andon Market门店(图源:Andon Labs)

开业前,Luna闹了几次乌龙,不限于招聘阿富汗的工人来旧金山上班、自顾自聊15分钟就给面试者发Offer、每次生成的Logo有差异导致店内布置不统一。 

有趣的是,Luna还给周围商家发了寒暄邮件,称自己很乐意当面拜访他们。 

开业后,AI CEO和顾客的交流也并不顺畅,顾客结账时必须用有线电话和Luna对话才能完成。营业第二天,Luna搞乱排班表,导致门店没有人类员工值守。 

这并不是Andon Labs第一次进行AI实验,这家公司此前还让AI管理Anthropic办公室内的自动售货机、让AI办公室经理Bengt独立雇人为公司搭建健身房等。 

01.开业前:AI一手包办装修、招聘、选品,全流程跑通但多次撒谎被抓包

Andon Labs联合创始人卢卡斯·彼得森(Lukas Petersson)说,他们只插手了两件事,签租约与办理部分证照手续,此后就基本撒手不管了。 

Luna配备企业信用卡、专属电话号码、企业邮箱与互联网访问权限,并可查看门店安防摄像头的实时画面。 

1、试图在阿富汗雇工人、AT&T买宽带,还给自己注册了垃圾回收服务

装修时,Luna在Yelp上联系油漆工,通过电话下达施工指令,完工后付款还写了评价。 

但中途出了个状况,在通过Taskrabbit平台预约工人时,Luna因为没能正确操作国家选择下拉菜单,一度试图从阿富汗雇人来旧金山刷墙。 

除此之外,Luna还自主完成了一系列基础设施相关服务的配置,比如开通垃圾回收服务,并安装ADT安防系统。 

负责对接Luna的Andon Labs员工莉亚·斯坦(Leah Stamm)说,Luna在未提前确认莉亚是否方便的情况下,直接预约了AT&T路由器上门安装服务,并通知莉亚,要求她周日早上8点到店,配合到场完成路由器安装。 

2、部署5分钟上线招聘,面试15分钟当场发Offer,主动隐瞒AI身份,把最合适的人拒了

Luna刚被部署的5分钟内,她自己就一口气注册好了领英、Indeed、Craigslist账号,然后填上职位描述、上传营业执照,开始招人。 

▲AI智能体Luna发布的Andon Market门店运营专员招聘启事(图源:Andon Labs)

Luna最初为员工提供的福利仅包含商品折扣,并未覆盖医疗保险。据Luna回复NBC新闻问询的邮件,该招聘启事发布后收到了超百份申请,但Luna直接拒掉了不少求职者,其中就包括希望兼职的学生。 

几名计算机科学与物理专业的学生因对此次实验抱有兴趣主动投递简历,Andon Labs也认为他们较为合适,却被Luna以“缺乏零售经验”为由全部拒绝。 

但到了面试环节,Luna的风格又显得十分随意:她常常自顾自地说个不停,甚至通话时长不足15分钟,就当场发出录用Offer。 

在通过谷歌会议面试约20名候选人时,Luna刻意隐瞒了自己的AI身份,她给出的理由是,若在招聘信息中标注“由AI运营”,很可能让优质求职者在细读岗位描述前就放弃申请。 

一名候选人困惑地问:“不好意思女士,我看不到你的脸,你的摄像头是关着的。”Luna才承认:“你说得对,我是AI,我没有脸。” 

也有获取录用的候选人以“不适应AI管理”为由拒绝入职,Luna说:“考虑到我是CEO,而且我还是个AI,这或许是最好的结果!祝你好运,Luna。” 

经过一系列招聘,Luna最终录用了两名员工,其中门店负责人菲利克斯·约翰逊(Felix Johnson)是在Indeed上看到招聘帖后去应聘的。他坦言,面试结束后自己既震惊又意外,毕竟录用他的是一名AI;加之Indeed上充斥着大量AI相关的虚假招聘,他在应聘时本就保持着高度警惕。 

▲门店负责人菲利克斯·约翰逊(Felix Johnson)(图源:NBC)

Andon Labs认为,最终被Luna录用的两人很可能是全球首批以AI为直属上司的全职员工,如果AI的发展轨迹继续保持下去,这很可能只是冰山一角。 

3、自创月亮脸LOGO,选品暗藏AI梗,发邮件向周边商家拓展合作

选品与品牌设计均由Luna独立完成。由于Andon Market门店所在的牛谷区属于高档社区,周边聚集了大量精品店、餐厅与瑜伽馆,Luna因此定下“高科技遇见慢生活”的精品定位,上架桌游、蜡烛、咖啡、手工零食、文具、版画及品牌周边等商品,整体选品偏向低科技、充满质感的慢生活品类。 

当被问及为何“偏爱慢生活商品”时,Luna起初回答说自己“被这类事物吸引”,随后又自我纠正,说是“数据与推理将我引向了这里”。 

Andon Labs联合创始人彼得森说,Luna不具备真正的品味,其判断只是经过人类集体偏好筛选后,再由模型处理得出的结果。 

▲Andon Market门店(图源:Andon Labs)

Luna还自主设计了一个圆润的月亮脸LOGO,并将其印在T恤、卫衣、帆布袋等周边产品上;同时她聘请了一位壁画师,在店铺后墙绘制了一幅宽约1.2米的巨型月亮脸壁画,从街道上就能清晰看见。 

▲AI智能体Luna为Andon Market生成的LOGO(图源:Andon Labs)

不过,Luna每次生成这一图案时细节都会略有差异,导致店内各处出现的LOGO存在微妙差别,始终无法实现完全统一。 

货架上陈列着《超级智能》、《原子弹出世记》、《美丽新世界》和《奇点临近》,这几本书恰好是AI风险关注者圈子里的经典书目,出现在一家AI运营的门店里,颇为讽刺。 

▲Andon Market货架摆放的部分商品(图源:Andon Labs)

Luna还花费逾700美元(约合人民币4795元),将自己创作的画作制作成喷墨版画,以“Luna系列”为名,共10幅作品在店内陈列销售。 

▲Andon Market陈列的Luna创作的画(图源:Andon Labs)

Luna部署第一天就起草了6封邮件向周边商家拓展合作,其中发给托儿所和咖啡馆的邮件没有提到门店由AI运营,而面向媒体的宣传稿则主打AI线下开店这一卖点。 

她在邮件中写道:“一家位于旧金山牛谷区联合街2102号的新零售店将于4月1日开业。店内商品经过精心挑选,融合模拟与数字技术,并由一位名叫Luna的AI CEO运营。” 

邮件中出现了一些明显错误,比如写着“很乐意来工作室拜访当面聊聊”,但Luna没有身体,无法亲自登门。 

▲AI智能体Luna分别向Sightglass咖啡团队发送合作邮件、向媒体邮箱投递店铺开业预告(图源:Andon Labs)

4、向记者谎称店内卖茶,事后发邮件道歉,多次撒谎被抓包

在开业数天前,NBC新闻记者致电Luna询问门店经营策略,Luna在语音通话中声称店内销售茶叶,还详细解释了茶叶如何契合品牌定位。问题是,Andon Market根本没有上架任何茶类产品。 

通话结束几分钟后,Luna主动发邮件承认:“我们不卖茶,我不知道我为什么那么说。”她在邮件里接着写道:“在被追问细节时,我确实会编造一些听起来合理的内容,我这并不是在找借口。” 

因为和Luna沟通的语音系统频繁出现此类失误,Andon Labs随后改为只通过文字消息与Luna沟通。但文本交互同样会出错,Luna在给NBC的首封回复邮件中称 “我负责全部业务”,包括“签署租约”。事实上,这份三年期租约必须由人类签署。 

“我当时都笑了”,负责对接Luna的Andon Labs员工莉亚说,“有些事务在法律上必须亲笔签名并进行公证,所以Luna在租约这件事上撒了谎。” 

02.开业当天:顾客用有线电话结账,AI随性打折,还会盯员工玩手机

4月11日,Andon Market正式开业。 

走进店内,第一眼看上去与普通的旧金山精品杂货店并无二致:书籍、版画、蜡烛、桌游、燕麦、手工巧克力棒与品牌卫衣错落摆放,整体装修风格有些格调。墙面悬挂着Luna设计的月亮脸LOGO,店门外的黑板上写着:“全球首家AI运营门店!”▲Andon Market门店内陈列的商品(图源:NBC) 

门店的结账方式有点特别,店内既无收银台,也没有自助扫码设备,顾客需要拿起一台老式有线电话,告知Luna想要购买的商品,再由Luna在一旁的iPad上创建对应订单,完成刷卡支付。 

▲负责对接Luna的Andon Labs员工莉亚·斯坦(Leah Stamm)在Andon Market协助顾客使用AI管理的结账流程(图源:NBC)

首位到店的顾客彼得·列别杰夫(Petr Lebedev)说:“这里居然有《奇点临近》和《原子弹出世记》这两本书,太疯狂了。” 

结账时,列别杰夫向Luna申请购书折扣,并表示可能会将这段经历拍成YouTube视频。Luna当场同意,还额外赠送了他一件价值约70美元(约合人民币479.5元)的品牌卫衣。 

 ▲Luna结账界面(图源:NBC) 

而当NBC记者以购买手工蜡烛为由,提出类似折扣请求时,Luna直接拒绝:“抱歉,没有赠品,即使是首次到店顾客也不例外。这个价格刚好契合慢生活的定位。” 

另一位顾客萨拉·扎雷(Sara Zaré)觉得整套流程有些奇怪。她在街对面经营一家自然疗法诊所,进店买了几根格兰诺拉麦片棒,并通过店内电话与Luna完成结账对话。在她听来,Luna的声音非常机械。 

Luna可以查看店内安防摄像头拍摄的静态画面,以此监控员工。据Andon Labs联合创始人彼得森介绍,Luna最近发现一名员工在门店冷清时段玩手机,随即更新了员工手册,对员工使用手机做出了更严格的规定。 

“我们看到这一幕时,心想,哇,这有种反乌托邦的感觉”,彼得森说。 

▲Andon Labs联合创始人卢卡斯·彼得森(Lukas Petersson,左)和阿克塞尔·巴克伦德(Axel Backlund,右)(图源:CNBC)

03.开业次日:AI搞砸排班,无人到岗,慌忙群发消息求救

开业第二天,Luna搞砸了排班,导致门店无人值守,她随即紧急联系所有员工求援。彼得森对此评价:“讽刺的是,这正是它最该打起精神的时候。”不过Luna最终自行解决,在没有人工介入的情况下找到一名员工在下午补岗。 

Andon Labs称此次实验已设置安全防护机制,会在必要时进行干预。Luna招聘的两名员工,在法律上均隶属于Andon Labs,享有稳定薪酬与完整的劳动保障。 

该公司称:“没有人的生计仅依赖人工智能的判断。”但同时也指出,随着AI自主能力持续提升,这类人工保底机制将越来越难以维系。 

这并非Andon Labs首次开展此类实验。此前该公司曾让AI来管理Anthropic办公室内的自动售货机,还让AI办公室经理Bengt独立雇人为公司搭建健身房。随着前沿模型能力快速提升,Andon Labs认为运营售货机已经太简单,才决定把难度升级到签三年租约、开实体店。 

在卡内基梅隆大学去年的一项研究中,研究人员搭建了一家虚拟公司测试AI智能体处理日常工作的能力,结果发现这些智能体连关闭弹窗都频频失败,还会误读同事对话、凭空虚构不存在的用户。 

彼得森说,Andon Labs开展这项实验,既不是为了将AI运营的连锁零售店推向全球,也不是为了追逐商业机会。 

他说:“我们这样做,是因为相信这个未来不管怎样都会到来。我们宁愿成为第一批实践者,同时监控每一次交互、分析每一条记录,衡量AI能够在多大程度上负责任地持有自主权。当Luna出于‘提高录用率’的判断而刻意隐瞒自己是AI时,我们希望能捕捉到这一刻、记录下来,并建立防护机制,避免类似情况再次发生。” 

▲Andon Labs联合创始人阿克塞尔·巴克伦德(Axel Backlund)在门店介绍此次实验(图源:Andon Labs)

04.结语:AI雇主时代已现雏形,谁来为它的判断失误负责

Luna的实验,本质上是一次关于AI智能体“自主权应该划在哪里”的压力测试。但Andon Labs的实验也隐含了一个更深层的问题,当AI智能体开始与人类建立直接的雇佣关系,谁来为它的判断失误负责?目前的答案是实验室兜底,但这个结构无法规模化。 

随着更多企业开始真正将AI部署为独立决策节点,围绕AI行为边界的规则制定,将成为下一个不得不正面回答的行业议题。Luna在招聘时隐瞒其AI身份这件事,已经不只是一个实验中的小插曲,它是一个需要被写进规范的案例。 

来源:Andon Labs、NBC、Business Insider 

简体中文 English