英国选举委员会正式呼吁对AI聊天机器人的虚假信息实施新的法律监管。此前，智库Demos的一项调查发现，在最近的苏格兰选举期间，这些AI工具犯下了严重的错误。
Demos在其发布的报告《选举幻觉》（Electoral Hallucinations）中指出，调查发现AI服务在回答其提出的问题中，有34%的内容存在误导信息。这引发了公众对英国缺乏AI平台监管现状的担忧。研究团队在5月圣路德选举前进行了模拟，针对ChatGPT、Google Gemini和Replika等5种免费AI工具，就三个真实的选区提出了75个问题，以测试其回答的准确性和证据基础。
报告详述了这些AI工具如何表现出惊人的不靠谱：它们凭空捏造了并不存在的报销丑闻、给出了错误的选举日期、误称选民在苏格兰选举中需要身份证件（而实际并不需要），甚至将候选人放进了错误的选区。一项针对2,005名英国成年人的民调显示，约20%的选民曾使用AI聊天机器人或搜索工具获取选举信息，这相当于全英约1,000万人受此影响。
选举委员会首席执行官Vijay Rangarajan一直在敦促政府立法，以增强AI公司的透明度与问责机制。他指出，2024年大选中已有一半选民接触过误导性信息。他认为，“当前的法律框架应进一步延伸”，政府应明确AI平台的法律责任，确保算法不会误导选民，尤其是在关键的选举期间，这将赋予媒体监管机构Ofcom更清晰的执法权。
Demos副主任Azzurra Moores表示，这不仅是英国的问题，更是一个全球性的挑战。这些工具大多由美国公司开发，但英国目前缺乏完善的立法框架来保护公众。她建议，部长们可以迅速引入法律要求，使AI公司在英国诽谤法和选举法下承担法律责任，引入强制性的准确性保障措施，并强制AI公司允许研究人员独立测试其内部数据和训练集。在测试中，社交型机器人Replika表现最差，错误率高达56%，不仅捏造了候选人，甚至还杜撰了详细的贪腐指控。
