趣站 ›
（旧金山讯）在美国中期选举期间，人工智能（AI）科技巨头包括OpenAI和Anthropic设立选举监控中心，以防止任何人利用ChatGPT和Claude等AI工具干扰选举。
《纽约时报》报道，OpenAI于10月29日启动“选举中心”，组成一支专门监控ChatGPT是否遭到滥用的团队。
OpenAI公民与战略风险主管劳森说，同2024年总统选举只须监测AI生成虚假文本比较，如今的潜在威胁包括深度伪造、网络攻击，以及来自境内外的影响力行动。
这支监控团队负责审查系统自动标记的可疑ChatGPT指令，包括试图生成选举虚假信息或图片，以及策划利用假账号在社交媒体散播选举舞弊指控等活动。一旦发现针对社媒平台的恶意行动，公司便会通知相关平台。
OpenAI此前曾披露俄罗斯、中国和伊朗试图利用ChatGPT开展境外影响行动，包括10月阻止的两起行动。不过，公司并未披露针对这次中期选举展开的具体行动。
Anthropic也首次设立选举“作战室”，在旧金山、纽约和华盛顿部署分析团队。谷歌和Meta同样承诺采取有力措施，防止旗下AI工具被滥用。
纽约大学法学院布伦南正义中心的研究发现，主流的AI聊天机器人通常会反驳有关选举阴谋论的提问，但仍经常生成可能被用来削弱公众对选举信心的文本、图像和视频。