![](/wp-content/uploads/2023/12/frc-a39b5b7850cda01a00622c1eea6e1d26.jpg)
图为2021年联邦大选期间,三大党派领袖杜鲁多、驵勉诚和奥图尔在党领辩论现场。(加新社)
CSE称,「很有可能」外国敌对势力或「黑客」会使用人工智能在加拿大下届联邦大选前影响选民。它表示:「据我们评估,外国对手和黑客活动分子可能会在未来两年内将生成式人工智能武器化,以制造政客和政府官员的深度伪造影片和图像。」
深度伪造影片和图像经由数位改造,看起来像真的一样。CSE报告没有引用加拿大曾出现过的任何特定案例。它亦表示,基于深度伪造影片和图像预期会数量巨大,很可能超出该机构检测追踪能力,而且「鉴于深度伪造侦测模型的无效性以及生成式人工智能的可用性不断增加,使用它针对选民的影响力活动可能会越来越多,且难被公众发觉。」
CSE表示,已有数以千计的伪造影片正在流传,这些伪造影片是利用政客的视频剪接编辑而成。CSE指出,今年稍早流传的一则深度伪造视频,显示拜登总统发表反跨性别演说。
CSE警告,候选人辩论有可能成为深度伪造影片的主要目标,「即使事实后来被澄清,但已造成的伤害可能会令选民质疑未来政治辩论的合法性。」
报告称,社交媒体如Instagram和YouTube试图在深度伪造内容广为流传前将其删除,但不是每一次都成功,而因为缺乏法规,令删除深度伪造视频更为复杂。报告表示:「政党本身正在使用生成式人工智能作为其竞选活动的一部分,例如,制作如果政治对手当选『可能后果』的视频。虽然免责声明可用来识别影片是否为深度伪造,但加拿大和美国目前对生成式人工智能在政治广告中的使用程度几乎没有监管。」
CSE局长泽维尔(Caroline Xavier)表示:「敌对势力确实想操纵我们的民主程序,但这并不意味著我们无法阻挡他们。」她说,CSE公布上述报告的目的在提醒加拿大人提高警觉。
泽维尔也表示,CSE确实拥有合法权力阻挡对加拿大选举机制可能的攻击。CSE则称,加拿大不像美国和英国是深度伪造活动的主要目标,但亦非免疫。