在美国总统拜登上周宣布竞选连任后，共和党全国委员会立即发布了一则攻击他的广告，包括金融市场崩溃和移民从边境涌入等画面。这个时长30秒的短片炫耀地附上一条免责声明：“本片完全由人工智能(AI)图形工具生成。”专家说，这则广告预示了2024年的总统选举情形。2024年预计会成为美国历史上首个AI选举周期，AI可能在决定选票方面发挥关键作用。而这也引发了人们的担忧。

报道称，尽管这项技术变得更加成熟和强大，并扩展到美国人生活的方方面面，但管理其使用的规则仍然很少。

受到这则攻击拜登广告的刺激，民主党众议员伊薇特·克拉克提出一项议案，要求政治广告披露使用AI生成图像的情况。

克拉克在一份声明中说：“在即将到来的2024年选举周期，美国历史上将首次有AI生成内容用于竞选、政党和超级政治行动委员会的政治广告。如果AI生成内容能够大规模操纵和欺骗人们，就可能对我们的国家安全和选举安全造成毁灭性后果。”

美国《大西洋》月刊上一篇文章指出，政治竞选是对AI的压力测试，从筹款电子邮件到投票聊天机器人，无所不包。

文章写道：“以前的技术革命——铁路、广播、电视和互联网——改变了候选人与选民联系的方式，我们也应该期待生成式AI发挥同样的作用。”

文章称，最好的情况是，AI让选民更多地参与，并减少两极分化。最糟糕的情况是，AI被用来误导或操纵选民。

布鲁金斯学会技术创新中心高级研究员达雷尔·韦斯特说：“AI将使即时反应以及更精准地以选民为目标成为可能。”

下述情况给我们敲响了警钟：利用AI进行肮脏交易的可能性，比如“深度造假”，以及用AI或机器学习技术制作或修改视频和图像，使其看起来好像人们说过或做过他们实际并没有说过或做过的事情。

韦斯特说：“有一种风险是，虚假信息会扩散并使选民接触到看似真实的虚假材料。目前，在信息披露方面没有要求，所以选民甚至可能不知道这些视频是假的。”