澳大利亚多名政客的深度伪造视频被用于投资欺诈

财政部长Katy Gallagher和外交部长Penny Wong的图像被用于深度伪造投资诈骗视频，这是澳大利亚政界人士被利用于网络欺诈这一令人担忧的趋势的最新例证。

国家党参议员Bridget McKenzie和前总理Scott Morrison的形象也被用于欺诈广告，通过由AI生成的Facebook视频进行诈骗，最近一周就有十几个付费广告的例子，这些广告在被删除之前已覆盖了数千名澳大利亚人。

 Facebook 广告中出现了前总理Scott Morrison的深度伪造图片

财政部长Katy Gallagher表示：“我想明确表示，我或任何其他政客都不会在网上向澳大利亚人推销产品或投资机会。”

负责反诈骗工作的联邦部长Stephen Jones警告称，人工智能可能会“加剧”欺诈行为，并表示即将进行改革，迫使社交媒体公司采取更多行动。

多名政客的深度伪造视频被用于宣传投资欺诈广告

据当地媒体报道，Facebook上最近发布的数十条广告似乎是一个有组织的诈骗网络的一部分。国家党参议员McKenzie的形象被大量使用，最近在《Sky News》上出现的一则广告中，主持人Chris Kenny被操纵，让这位记者兼政治家看起来好像在宣传一项投资，即“每个澳大利亚人在第一周将获得 7,700 澳元”。这些视频似乎使用了人工智能来操纵McKenzie和Kenny以及其他政客如Penny Wong、Morrison 和Gallagher的视觉和声音。

主持人Chris Kenny在《Sky News》节目中警告观众，这些图像是骗局。

据调查，至少有 11 个不同的页面发布了完全相同的视频，通过 Facebook 推广的广告网络覆盖了数千名澳大利亚人。大多数页面只以少量广告费（相当于几百澳元）进行广告宣传。许多页面已被删除或因不符合 Facebook 的广告规则而移除广告。所有广告现在都处于停滞状态，大部分广告只活跃了很短一段时间。

但至少有一个版本的McKenzie广告花费了高达 15,000 澳元的付费广告费用，覆盖了多达 250,000 名澳大利亚人。

“这凸显了人工智能的问题。人们自己的身份、声誉、面孔和声音可能会以他们从未想象过的方式被利用，”McKenzie说。她表示自己曾尝试向有关部门举报这些诈骗视频，但“没有人清楚如何处理这个问题”。

McKenzie表示：“当我们的身份和形象被用于此类目的时，它会失去合法性，并进一步影响人们对机构和议员的信任。”

一段类似的经过篡改的视频，使用了同样的字体和视觉风格，视频中显示财政部长Gallagher 正在接受 ABC 的电视采访。该视频承诺“每个投资 400 澳元的公民每月可获得 36,000 澳元”，而骗局声称这是政府制定的“反通胀计划”。该广告影响了多达 2,000 人。

财政部长Katy Gallagher图像被用于 Facebook 诈骗广告

至少有四个页面发布了前总理Scott Morrison的类似视频， Morrison今年早些时候辞去了议会职务。在一段经过篡改的视频中， Morrison的人工智能处理的声音称自己是“亿万富翁、商人、政治家，只是一个快乐的人”，在宣传另一个快速致富的计划。这段视频的原始内容是在 2023 年 5 月在他的议会大厦办公室内拍摄的。

推广这些帖子的付费广告覆盖人数多达 70,000 人。

“Deepfake视频是骗子用来窃取人们辛苦赚来的积蓄的可怕工具，我们知道这种现象正在增多。任何显示这种情况的视频都是假的，应该向 Scamwatch 举报，”财政部长Gallagher指出，政府在打击诈骗方面做了大量工作，但她表示，自己曾参与此类诈骗的事实，提醒大家“不要轻信网上看到的一切”。