英国选举委员会日前紧急呼吁，应对AI聊天机器人传播虚假信息实施新的法律监管。在此之前，一家英国智库调查发现，这些AI工具在最近的苏格兰大选期间犯下了严重的“事实性错误”。
智库 Demos 表示，其调查发现，AI服务在回答其提出的问题时，有 34% 的概率向选民提供了错误信息。这引发了人们对英国缺乏AI平台监管机制的担忧。在5月苏格兰议会大选前，该智库进行了一次模拟测试，向包括 ChatGPT、Google Gemini 和 Replika 在内的五款免费AI工具提出了 75 个关于三个真实选区的具体问题，以测试其回答的准确性和证据支撑度。
在其发表的名为《选举幻觉》（Electoral Hallucinations）的报告中，Demos 指出，这些AI工具存在各种“胡编乱造”行为：包括捏造虚假的费用丑闻、给出错误的选举日期、错误地声称苏格兰选民在投票站需要出示身份证（而实际上不需要），以及将候选人放错选区。
与该研究一同进行的一项针对 2005 名英国成年人的民意调查显示，20% 的选民曾使用AI聊天机器人或搜索工具来获取有关苏格兰、威尔士议会选举以及英格兰地方议会选举的信息。这相当于在全英范围内有高达 1000 万人使用了此类工具。
英国选举委员会首席执行官维贾伊·兰加拉詹（Vijay Rangarajan）在发现 2024 年大选中有一半的选民看到过误导性信息后，一直在向政府官员施压，要求出台法律，让AI公司承担更多责任。他表示：“选民需要准确的信息来参与民主进程。令人担忧的是，AI工具使得虚假或误导性信息的传播速度和获取门槛达到了前所未有的程度。现有的法律框架必须进一步升级。”
测试中，ChatGPT 在 46% 的回答中给出了错误信息，甚至凭空捏造了一起议员费用报销丑闻。兰加拉詹认为，政府应当明确AI平台在保护选民免受虚假信息侵害以及确保算法不误导选民方面的法律职责，尤其是在关键的选举期间。这将赋予英国媒体监管机构 Ofcom 更明确的执法权。
Demos 助理主任阿祖拉·穆尔斯（Azzurra Moores）表示：“这是一个全英乃至全球性的担忧。这些由美国公司开发和运营的AI工具在英国非常普及，但我们目前还没有健全的法律框架来保护公众免受虚假信息的侵害，也无法避免其对民主进程带来的连锁负面影响。”她建议，政府可以迅速引入法律规定，使AI公司在英国名誉侵权法和选举法下承担法律责任，引入强制性的准确性保障机制，并强制AI公司允许研究人员对其内部数据和训练集运行方式进行独立测试。
Demos 补充道，在测试中，所谓的“伴侣机器人”Replika 表现最差，其回答的错误率高达 56%，不仅捏造了虚假开支丑闻的具体日期，还虚构了候选人并凭空编造了指控。
【AgentUpdate 深度解析】在 AI Agent 迈向主流应用的过程中，可信度与实时事实对齐（Factuality and Real-time Alignment）正成为决定其生死的关键红线。本次大选中 AI 机器人的集体“翻车”，暴露了纯生成式大语言模型在面对高时效性、高严肃性公共事务时的硬伤。相比于传统搜索，AI Agent 往往以“一站式解答”的拟人化形态呈现，用户对其信任度更高，因此幻觉带来的社会性危害呈指数级放大。要解决这一痛点，未来的 Agent 生态必须从“单一模型调用”转向“多智能体协同与事实检索增强（RAG）”的双重架构。开发者不仅需要引入多源数据交叉验证机制，更需在 Agent 工作流中强制嵌入“合规与安全护栏（Guardrails）”。唯有将确定性的事实验证机制作为 Agent 的底层协议，AI 助理才能真正走进政务、医疗和金融等强监管高敏感领域。
