美国中期选举于当地时间11月3日正式拉开大幕，“选举作战室”正迈入人工智能时代——AI企业OpenAI与Anthropic均已设立专门的“作战室”，用于监控其平台上的滥用行为，这在两家公司历史上尚属首次。
据新华社报道，多家美国媒体称此次选举为“美国史上首场有相当数量选民使用人工智能（AI）的选举”，认为AI给选举带来的影响广泛而直接。
据美媒Politico报道，OpenAI于中期选举前一周启动“选举运营中心”，运行至所有选票统计完毕，旨在识别虚假信息的潜在传播或破坏选举的其他企图。OpenAI的模型中内嵌了安全防护机制，试图阻止恶意行为者生成误导性内容。这包括一种“卡通化”处理程序。例如，如果用户要求OpenAI生成一张投票站排长队的图片，系统将返回一张卡通图片，而非逼真的照片。
OpenAI今年5月宣布与非营利机构Democracy Works达成合作，向选民提供关于选民登记和投票站位置的可靠信息。该公司还宣布与美联社达成协议，以便提供最新的选举结果。这两项平台内的集成功能都将受到选举作战室的监控。
同时，Anthropic也设立了“选举作战室”。该公司一位发言人告诉美媒Semafor：“我们全公司的团队全年都在致力于强化与选举安全相关的防护措施并执行相关政策。在选举前夕，我们设立了专门的作战室，负责监控平台上的滥用行为，并准备快速响应任何突发事件。”
此外，美国科技公司Meta、微软等也针对中期选举采取措施，应对平台上的潜在滥用行为。微软平台禁止针对候选人和选举官员的恶意深度伪造（Deepfake）内容，受影响的人员可以直接举报。
美国布伦南司法中心10月22日发布最新报告指出，虽然OpenAI的ChatGPT升级了防范机制，但谷歌的Gemini以及Meta AI却变得更容易生成逼真的虚假选举图像，而其他工具则几乎没有变化。该中心的测试显示，只有OpenAI这一家公司显著加强了对选举虚假信息的防范。
布伦南司法中心选举与政府项目技术政策策略师阿布迪阿齐兹·艾哈迈德表示，“投票是我们极少数完全为自己做出的决定之一。因此，将它交由聊天机器人决定令人担忧。聊天机器人可能会弄错事实，而它们的答案也可能会被那些最擅长操纵它们的人所塑造。”
据美媒NPR报道，研究人员警告，美国中期选举期间，越来越多的选民依赖AI聊天机器人获取信息，但许多最受欢迎的机器人可能会提供关于候选人和投票站开放时间的误导性信息。部分聊天机器人甚至直接给出了推荐投票的候选人名单。
弗吉尼亚州民主党参议员马克·华纳及多位民主党议员10月曾致信多家头部科技公司，敦促它们确保旗下平台有助于维护中期选举的公正性。他们鼓励这些公司确保其AI内容在回答选举相关问题时，仅从“高度权威的来源”提取数据，而不是来源于社交媒体平台。
美国AI行业面临中期选举后监管政策变化的可能性。据彭博社报道，Meta、Anthropic和微软在内的大型科技公司最近提交的文件显示，它们承认其AI产品可能会面临越来越多的监管挑战，以及可能阻碍数据中心建设的法律规章。科技巨头们正聘请律师和掮客，为即将到来的国会博弈严阵以待，准备应对可能包含大量新税种和新法规的激进监管政策。
【来源：澎湃新闻】声明：本文版权归原作者所有。如您发现信息来源有误或内容侵犯了您的权益，请通过邮箱与我们联系，我们将在核实后及时更正或处理。联系邮箱：zhongbobaoliao@163.com天顺优配提示：文章来自网络，不代表本站观点。
