AI 智能体来了，而且它们……很可爱？
在过去两周里，Meta 推出了个人 AI 助手 Muse，OpenAI 则发布了 Dots AI 智能体。这些智能体号称可以代表用户自主做事，从回复邮件、发送发票，到预订机票和购买衣服，无所不能。值得注意的是，它们都裹上了“卡哇伊”的外衣：明明是功能强大到令人发慌的机器人，却装扮成可爱、毫无威胁感的陪伴者。 OpenAI 的 Dots 就像戴着墨镜和贝雷帽的彩虹色蓬蓬小球；而 Meta 的 Muse 智能体吉祥物 Jolly，则是一个毛茸茸、胖嘟嘟、红彤彤的小家伙，长得既像 Labubu 又像 Squishmallow 。
这款智能体很快还将推出 Muse Charm 挂饰。这款配件印有吉祥物的面孔，形状像拓麻歌子，配有指纹传感器，触碰即可激活。在 9 月举行的 Meta Connect 大会上，马克·扎克伯格（Mark Zuckerberg）发表主旨演讲时表示：“我们在这个能挂在钥匙扣上的小家伙里装进了大量技术，让它随时能陪你聊天。”Meta 目前尚未确认 Muse Charm 挂饰是否配备摄像头和麦克风，但马克·扎克伯格在台上补充道：“你只要轻按角落里的指纹传感器，就能直接开始说话。”
眼下，外界正充斥着关于 AI 可能威胁人类存亡的“末日预警”。而这些智能体偏偏在这个关头闪亮登场，包装得如此亲切友善，反而形成了极其鲜明的对比。
专门研究科技与文化及权力关系的社会技术学家莎拉·萨斯卡（Sarah Saska）博士指出：“当这些公司向投资者、监管机构和研究人员推介 AI 时，会把它描述为极其强大、但在安全、保障和控制方面仍有重大未解难题的技术。然而，面对普通消费者时，同一种技术却被包装得越来越亲密，显得友好、有趣、顺畅且毫无风险。”
就在 OpenAI 首席执行官萨姆·奥特曼（Sam Altman）发布 Dots 的同一周，由于对这种 AI 智能体技术存在毁灭性的安全隐忧，该公司撤回了最新的 AI 模型，并推迟了上市计划。与此同时，就在发布 Muse 的几周前，Meta 同意向美国 48 个州支付 180 亿美元的和解金。这是科技行业历史上金额最大的一笔企业和解金，目的是解决关于其 Facebook 和 Instagram 平台算法设计伤害儿童的指控。
主要竞争对手内部也响起了安全警钟：Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）呼吁全行业放缓前沿 AI 的研发步伐。萨姆·奥特曼、 xAI 的埃隆·马斯克（Elon Musk）以及谷歌 DeepMind 的德米斯·哈萨比斯（Demis Hassabis）都公开支持这一呼吁。（马克·扎克伯格则拒绝放缓行业整体的 AI 研发步伐，他主张各家公司应该自行决定是否以及何时放慢脚步。）
尽管如此，用户依然对这些 AI 智能体充满了好奇。发布仅 10 天，Muse 在美国的下载量就突破了 73 万次，甚至把 ChatGPT 挤下了苹果美国 App Store 榜首的位置。几天后，投资者对这款智能体的狂热追捧推动 Meta 股价单日暴涨 11%，市值狂飙约 1920 亿美元。然而，在发布短短两周内，多份报告就对 Muse 越权表达了担忧——包括泄漏敏感信息，以及执行用户明确表示未曾批准的操作。
“我担心的是，这种外观设计会让功能强大的系统显得人畜无害又令人亲近，从而鼓励人们分享更多信息，却减少质疑。”
——Clever Together Futureproof 董事总经理丽迪娅·韦尔科娃（Lidia Velkova）
继利用“女性化”路线让智能眼镜显得更有亲和力之后（比如 Meta 与凯莉·詹娜和 Lisa 的智能眼镜合作），专家表示，“萌化”（kawaii-fication）已成为下一个前沿阵地，目的就是让原本可能令人不安的技术变得更容易被消费者接受。 AI 安全研究人员警告说，这种可爱风格可能会降低消费者的警惕心。在允许 AI 代理访问其电子邮件、私信和浏览记录之前，人们本应心存隐私顾虑，更不用说赋予 AI 代替自己消费的权力了，但卖萌的外表却淡化了这种担忧。
“这些都是经过精心设计的方案，目标受众明确，预期的心理反应也很清晰。”专注于负责任 AI 与营销的治理及政策预测机构 Clever Together Futureproof 的常务董事丽迪娅·韦尔科娃（Lidia Velkova）表示。“对社交机器人的研究表明，婴儿般的外观特征能提升人们感知到的可信度；另有针对聊天机器人的研究指出，拟人化的互动可以增加信任并促进个人信息的透露。”她补充道，“我担心的是，这些设计会让功能强大的系统看起来毫无伤害且倍感亲切，进而鼓励人们分享更多隐私，减少质疑。”
消费者边界的崩塌
毛茸茸的外观之下，个人 AI 代理实际上标志着科技公司对消费者数字生活的索权大幅升级。要做到真正有用，AI 代理必须掌握上下文信息。 Meta 的 Muse 可以连接电子邮件、日历、 Instagram 、 Facebook 以及其他应用，不仅能替用户浏览网页和下单购物，用户还能直接通过 WhatsApp 与它互动。然而，恰恰是这种权限，让消费者面临数据落入坏人手中的最大风险。
“为了让 Muse 尽可能高效、从而增加大众用户的粘性，系统默认将所有用户自动加入 AI 模型训练，并保存你与其分享的所有数据。”弗雷斯特咨询（Forrester）首席分析师凯特·维尼克（Kate Winick）指出。“这就形成了一个极易遭黑客攻击的庞大个人数据库。你向 Muse 提供的个人信息越多，它就越好用，但你暴露在不法分子面前、以及面临 Meta 不当行为的风险也就越大。”
“你向 Muse 提供的个人信息越多，它就越好用，但你暴露在不法分子面前、以及面临 Meta 不当行为的风险也就越大。”
——凯特·维尼克，弗雷斯特咨询首席分析师
Meta 在处理消费者数据方面的过往记录确实让人有理由保持警惕：过去几年里，该公司因数据处理问题屡屡面临罚款和诉讼。就在 Muse 发布几天后，针对源于 2018 年剑桥分析（Cambridge Analytica）丑闻的一起案件，新墨西哥州的一个陪审团认定 Meta 在数据操作方面误导了用户。 Meta 的一位发言人告诉《 Vogue Business 》：“我们不同意这一判决，并将继续反驳任何歪曲我们记录的企图。”
Meta 证实，系统默认开启使用 Muse 交互数据进行 AI 训练的选项，不过用户可以选择退出。该公司还表示，Muse 在一个隔离的虚拟机内部运行，用于存储用户的数据和文件，并配有独立的 Sentinel 系统来监控和审查代理的行为。但 Meta 自己也承认，这些防护措施并不能完全消除数据泄露的风险。
Meta 在一篇关于该技术隐私举措的博客文章中坦言：“Muse 并非坚不可摧。提示词注入（Prompt injection）仍是全行业尚未解决的难题，Muse 有时也会犯错。”
早期用户已经踩到了潜在风险的“雷”。例如，YouTube 博主马特·罗布（Matt Robb）曾让他的 Muse 帮忙在 Facebook Marketplace 上卖一把键盘。随后，这个 AI 智能体不仅直接把他的家庭住址发给了潜在买家，还代表他砍价、约定了取货时间。直到买家带着家人出现在罗布家门口，他才猛然意识到发生了什么。事后调查显示，这次事件既非技术漏洞，也非黑客入侵，纯粹是因为罗布先前勾选了“始终允许”权限。这相当于把他在 Marketplace 上后续对话的控制权全盘交给了 Muse，包括调用他此前提供过的家庭住址等个人隐私信息。
这起事件暴露了智能体 AI 在实际应用中的最大痛点：我们究竟该在哪一步为“访问权限”和“操作授权”划清界限？消费者早已习惯随手勾选应用权限，但允许软件读取信息，和允许它替你与陌生人交涉、泄露隐私并以你的名义做决定，完全是两码事。从技术层面看，智能体的行为可能并没有超出用户授予的权限范畴，但它做出的举动，却往往远超用户的心理预期。 Meta 官方关于 Muse 支付功能的帮助页面明确告知用户：“您需对 Muse 代表您发起的所有交易承担责任。请密切留意邮件确认信、收据和账单。”
Meta 发言人在接受《 Vogue Business 》采访时表示：“用户随时可以接管控制权。根据设计，Muse 在下单购买前始终会询问许可。此外，如果被要求做一些人类无法做到的事——比如包揽某场活动的所有门票——它会遵循伦理浏览原则。”
品牌不得不买单的隐患
按照构想，智能体将代表我们在互联网上自由穿梭。然而，当系统无法区分究竟是“机器”还是“真实顾客”时，品牌和零售商面临的麻烦便接踵而至。亚马逊已经禁止 Muse 在其网站上代购。亚马逊给出的理由是：Meta 并未获得其正当授权，Muse 没有标明自己的 AI 身份，且其调用用户账户及登录凭证的行为引发了隐私与安全担忧。
相比之下，那些主动向 Muse 敞开大门的品牌和零售商，则为其铺平了道路。 Meta 已宣布与沃尔玛、丝芙兰、盖璞等品牌达成接入合作。同时，通过与 Shopify 合作，Muse 可以结构化访问商家商品目录；对符合条件的店铺，它还能直接完成结账。 Shopify 表示，商家可以自行选择开启或关闭这两项功能。
对品牌而言，这意味着打通了一个潜力巨大的新销售渠道，同时也避免了 AI 智能体在其官网上盲目探路。但这同样意味着要把客户体验的关键环节让渡给 Meta 。随着智能体逐渐充当起买家与商家之间的“中介”，消费者甚至不必亲自访问零售商网站，智能体就能独立完成探索商品、推荐和下单全流程。换句话说，品牌虽然通过 Muse 赢得了新客，却也拱手让出了过去直接掌握的用户数据与客户关系。一旦智能体犯错，从客户数据、品牌体验，到欺诈防范与责任认定，各类风险都将接踵而至。
这也让小品牌的处境更加艰难。它们既没有资源也没有筹码去谈判定制化接入方案，AI 智能体随时可能直接“登陆”其网站代客交易，而品牌方对此根本毫无掌控力。
Edwin Coe 律所知识产权合伙人尼克·菲利普斯（Nick Phillips）指出：“如果商家未与 Meta 签署协议，品牌或零售商可能就要承担后续风险，彻底暴露在未经审查的智能体交易风险之中。”
出于对这些漏洞的担忧，包括美国银行和第一资本在内的六大银行本周联合呼吁，建立统一的智能体电商全球标准，进一步明确透明度、消费者知情同意、欺诈防范、数据隐私，以及 AI 交易出错时的责任划分规则。
“AI 智能体虽然不是小孩子，但当它们做出让顾客不满意的行为时，就算法律没有强制规定，零售商也会面临收拾残局的巨大压力。”
—— 弗雷斯特咨询（Forrester）首席分析师凯特·维尼克（Kate Winick）
银行的干预凸显出一个品牌方尚未解决的更大问题：当 AI 智能体下单购物、而消费者事后提出异议时，究竟该由谁来兜底？专家表示，目前这项负担很大程度上可能仍需由零售商承担。
维尼克表示：“品牌可以预见，他们在数字交易中承担的所有责任，同样适用于智能体代下单的交易。他们必须保障自家网站上的消费安全，准确展示并交付商品。同时，他们也必须遵守现有的消费者保护法律，并像往常一样妥善维护声誉。”
她举例指出，小孩有时会通过 Alexa 在亚马逊下单，虽然零售商在技术设置上是将拦截订单的责任交给家长及其账户设置，但通常最终还是会办理退款。“AI 智能体虽然不是小孩，但当它们做出让顾客不满意的行为时，就算法律没有强制要求，零售商也会感受到收拾残局的压力，”她说。
编译自 Vogue，原文链接：点击阅读。作者：艾米·奥布莱恩 (Amy O’Brien)。
