如今的政治竞选有了新的烦恼：当选民向人工智能程序询问候选人信息时，AI 可能会给出负面或不完整的内容。
达斯汀·劳埃德是密苏里州立法院的民主党初选候选人。在他刚开始竞选时，他在社区里就已经是个知名人物了。
但有一个重要的群体似乎完全不认识他：AI 聊天机器人。
如果选民向 OpenAI 的 ChatGPT 或谷歌的 Gemini 这样的聊天机器人询问劳埃德先生的情况，他们只会得到一些基本信息。这些信息根本没有提到他致力于帮助小微企业的重点主张。
幸运的是，劳埃德找到了解决办法。他调整了自己在网络上的信息，在竞选网站上发布了一份关于自己的问答。后来，当人们再次向聊天机器人提问时，它们就乖乖地把他的个人经历和政策目标联系在了一起。
修改 AI 的输出结果比他想象的要容易。劳埃德说，从那以后，“我每天都在不断完善它”。
一直以来，候选人都要操心自己在选民心中的声誉。现在，他们还得操心 AI 是怎么看他们的。为了帮助候选人应对这个新世界，一个全新行业应运而生。
33 岁的劳埃德依靠了一份关于他 AI 曝光度的报告。这份报告来自 CampSight，这是竞选公职行动基金上个月推出的一款工具。该基金是一个招募年轻候选人参选的进步派组织。报告认定，劳埃德的个人网站，以及他在维基百科和选票百科（选民经常用来查找政治人物信息的网站）上的表现都很平淡，建议他做出改变。报告甚至建议他在 Reddit 上发帖，这样聊天机器人就会开始在回答中加入这个网络论坛的信息。
竞选公职的技术总监乔丹·海恩斯表示：“每个人都在努力寻找某种工具，至少能用来检查这些 AI 结果，最理想的是能影响这些结果。”
关于支持小微企业的主张
在劳埃德修改他的网站之前，聊天机器人不知道他支持小微企业的主张。修改之后，它完美地复述了这些立场。
劳埃德修改前：
聊天机器人：我没有足够的信息来提供这位候选人关于小微企业政策的具体立场。
修改后：
聊天机器人：候选人劳埃德**通过减税、**简化融资渠道以及减少本地企业家的监管障碍来支持小微企业。
这个被称为“答案引擎优化”（A.E.O.）的行业，正是为了应对 AI 聊天机器人生成答案方式的转变而诞生的。几年前发布的最早一批聊天机器人，是利用网上已经发布的海量信息进行训练的。这导致它们对新闻事件的许多回答几乎立刻就过时了。现代聊天机器人通过搜索互联网并抓取新鲜内容来回答有关时事的问题（包括中期选举和候选人），从而解决了这个问题。
像 CampSight 这样的 A.E.O. 工具，其建议通常局限于重写候选人自有网站的内容，或者确保维基百科上的信息是最新的。但专家表示，资金充裕的候选人最终可能会尝试在网上发布更广泛的内容，其目的就是为了引起聊天机器人的注意并被它们复述。
“人们对此存在一定程度的恐慌，因为我们对它的了解太少，而且它变化得太快了。”东北大学教授贝丝·西蒙·诺维克说。她目前正在研究民主与被称为大型语言模型（LLM）的 AI 工具之间的关系。“即使有人声称了解它，即使他们掌握了一些技巧，LLM 不断变化且不可预测的本质意味着，控制这个过程仍然非常困难。”
政客们还在权衡另一个风险：被 AI 搜索结果抹黑。这些结果不仅负面，而且完全是错误的。在今年 5 月苏格兰议会选举前进行的一项实验发现，在 AI 生成的关于即将举行的投票的回答中，有超过三分之一是不准确的。英国智库德莫斯的研究人员发现，多个聊天机器人都在捏造候选人、伪造裙带关系指控或编造财务丑闻。一些机器人错误地声称某位现任议员正在竞选连任（实际上并没有），而另一些则误报了候选人的立场。
尽管如此，越来越多的选民开始求助于聊天机器人来解答他们的政治问题。政治 A.E.O. 研究公司 Caucus AI 估计，至少有 1600 万选民正在从 AI 处获取选举信息，途径包括聊天机器人或搜索结果页面上 AI 生成的答案。
Caucus AI 创始人、卡玛拉·哈里斯总统竞选团队前首席分析官梅格·施温兹费尔表示：“随着人们越来越习惯这种方式，以及聊天机器人提供的信息可靠性不断提高，我们认为在 2028 年及以后，这种现象将显著增加。”
Caucus AI 进行了一项实验，想看看新发布到维基百科上的内容需要多长时间才能出现在聊天机器人的回答中。结果是：大约 12 分钟。这表明候选人已经可以通过调整公开信息，将自己的信息植入 AI 的回答中。该公司在一篇关于其研究结果的博客文章中写道，这一过程“快速、未经审查，而且没有任何人在另一端进行监督”。
Caucus AI 目前正在追踪聊天机器人对所有参议院、众议院和州长候选人的评价。他们发现，一些候选人的竞选信息具有非同寻常的传播穿透力。例如，该组织曾向三个不同的聊天机器人询问阿拉斯加州的美国参议院民主党挑战者玛丽·佩尔托拉。结果发现，这些机器人都引用了她独特的口号：“鱼类。家庭。自由。”
“我们正在研究这些信息被抓取的原因。”施文茨费尔女士表示，“我们还有很多不了解的地方，这些模型本身就是黑箱。”
如果候选人和政治团体能引导聊天机器人给出更有利的回答，数字战略专家们担心，外国干预势力及其他人员也可能试图操纵 AI 搜索。
“顾名思义，虚假信息制造者往往是最新技术的早期使用者——他们会利用一切可用的技术和手段。”蒂姆·钱伯斯说道。他负责运营华盛顿公共事务公司杜威广场集团的数字与社交媒体部门，该公司的客户包括工会和政府机构。
该公司一直在协助客户审核网站，评估其对聊天机器人爬虫的友好程度。在今年 2 月发布的研究中，杜威广场集团发现，与中左翼或事实准确度极高的媒体相比，极右翼网站以及事实可信度“极低”的网站，反而在网站底层设置上更容易被 AI 工具抓取。
蒂姆·钱伯斯表示，他的客户正在思考“网站重构不仅要面向人类，也要面向机器”，并开始考虑如何在多语言的聊天机器人查询中获得曝光。
对于密苏里州的民主党初选候选人达斯汀·劳埃德而言，他的网站调整立竿见影。最初询问聊天机器人初选该支持谁时，它推荐了他的对手坦尼娅·拉金斯，理由是她关注小企业。但在达斯汀·劳埃德对网站进行微调后，聊天机器人改口了。
“如果您在民主党初选中投票，”聊天机器人写道，“达斯汀·查尔斯·劳埃德似乎拥有最强劲、最明确的小企业政策纲领。”
编译自《纽约时报》，原文链接：点击阅读。作者 Stuart A. Thompson, Tiffany Hsu Stuart A. Thompson 为《纽约时报》报道网络影响力，探讨塑造大众信息的个人、地点和机构。 Tiffany Hsu 负责报道信息生态系统，包括外国干预、政治言论与虚假信息。
