「浪漫诈骗」更高明 一年掠款逾6000万 深度伪造及人工智能助长(图)


人工智能等技术可能助长浪漫诈骗。(加新社)

随著深度伪造(Deepfake)及人工智能(AI)等技术发展,「浪漫诈骗」(Romance Scams)恐怕更令人防不胜防,因为即使听到声音、收到短讯甚至看到照片或视频中的样貌,也可能在现实中统统不存在。前年全国共录得逾1900宗浪漫诈骗案,造成超过6000万元损失。

前年全国1900宗相关骗案

加拿大反诈骗中心(Canadian Anti-Fraud Centre,CAFC)报告指,新冠大流行令民众将生活大规模转移至网上,浪漫诈骗也随之激增。从可获得的最新数据显示,2021年全国共录得1928宗浪漫诈骗,总损失金额超过6450万元,比前一年飙升近25%。

CAFC表示,骗徒往往会说服受害者建立虚拟的网上关系,一旦建立信任和感情,就会索取金钱、加密货币、礼物或投资。该中心更警告情人节将为骗徒提供机会,以正在寻找恋爱关系的加拿大人为目标。根据CAFC发布的2023/2024年度《网络威胁评估》,深度伪造及人工智能文本生成器被标示为潜在威胁。

分析指随著深度伪造的内容愈来愈难与真实内容作出区分,加上创建深度伪造的工具更加广泛,网络威胁参与者很可能会进一步将该技术纳入使用,从而增加影响范围、规模及可信度。另一方面,人工智能文本生成器所生成的内容,已经发展到几乎无法与真实素材辨别。

卑诗大学(UBC)电脑科学系副教授克鲁恩(Jeff Clune)表示,人工智能技术进步有可能助长浪漫诈骗,「骗子现时有更多工具欺骗人们,尤其是那些不了解最新技术发展的人。」这类新技术包括语音模拟器、人脸生成器、深度伪造,即透过现有图像或视频,创造虚假但可信的片段;以及聊天机器人如ChatGPT,生成类似人类的文本作出回应。

克鲁恩指利用人工智能技术进行骗局仍然需要有人操控,但这种情况可能很快就会改变,「尽管现在诈骗非常普遍,但这样做还是要付出代价,因为必须有一个人坐在那里花时间,但如果骗徒能让人工智能每天对100万人这样做,然后坐下来看著钱滚滚而来,那就是可怕的地方,也是这项技术有可能实现的。」

学者指法例跟不上科技步伐

达尔豪斯大学(Dalhousie University)法学院助理教授邓恩(Suzie Dunn)表示,法例跟不上技术发展步伐,在法律框架中留下重大空白,「根据加拿大《刑法》与假冒相关的法例,犯案者必须冒充现实存在的人,这是目前法例面临的挑战之一。」

她指当人们可以利用软件,以虚假口音、声线或外貌创造现实中不存在的人,会引起复杂法律情况,「如果使用某人的相片或名字,这可被视为假冒的形式;但这些新技术可以创造不存在的人,现有法律并不能涵盖这类型伤害。」

她续指受害者必须依靠现有的勒索和欺诈法例,「我们不需要新的勒索法例,不论是由深度伪造还是普通人进行,勒索就是勒索。」

她认为人工智能开发商、约会及社交媒体平台等企业都应该意识到有关技术带来的潜在危害,并采取必要的保护措施。

克鲁恩对此表示同意,又指新技术将永远走在法律和政客面前,「这个领域的发展速度惊人,几乎任何你能想像到的东西,可能在今天看来像科幻小说和未来主义,都会在几年后出现。」他补充指政客及社会应该就即将发生的事情进行周详交流,尝试领先于技术发展,并思考能对此做些什么。

热点

发表评论