編按:《客新聞》與《MyGoPen》合作反詐騙,將提供「事實查核」、「詐騙破解」等相關新聞訊息,本篇文章由《MyGoPen》提供,若疑似遭到詐騙,仍有疑問可撥打「165」反詐騙專線。

你可以先知道:

網傳影片廣告為詐騙貼文,後製新聞片段並用 AI 深偽技術冒用名人,務必謹慎小心。

網傳「唯一政府批准的公共投資平台」的影片廣告貼文,畫面是新聞主播在講述名人投資的消息,內容則是蔡英文、張忠謀、馬斯克等人的片段,要大家投資虛擬貨幣。根據查證,這是使用 AI 深偽技術後製的假影片詐騙社群貼文,這是結合 AI 深度學習和影像合成,置換嘴型與變聲等效果,替換現有的媒體內容,並非真實狀況。提醒民眾在社群平台看到相關廣告要特別提高警覺,別上當了!

名人影片說要你投資的新聞貼文?

原始謠傳版本:

這讓政府大吃一驚!
唯一政府批准的公共投資平台!

主要流傳這類的影片(馬斯克版本):

還有蔡英文和張忠謀的版本:

以及賴清德的版本:

並在社群平台流傳:

查證解釋:

AI 深偽技術的詐騙手法

隨著 AI 技術普及,各式各樣的「深偽」(Deepfake)技術應用影片也開始在網路上大量出現。透過強大的機器學習演算法,不僅可以生成清晰逼真的人物形象,也能模擬其語音及口型,製作出令人難以辨別真偽的影片。

由於技術門檻越來越低,近期也發現詐騙集團正快速將這項技術運用在社群平台上,將投資虛擬貨幣的詐騙內容進行廣告投放。目前網傳影片雖然部分在畫面與聲音上還是有瑕疵,但未來 AI 技術持續發展的狀況下,辨識的難度將會變得越來越高。

以網傳影片廣告投放案例為例,利用 Meta 廣告檔案庫工具搜尋,可以看到在 11 月份投放類似的詐騙廣告出現,大多是來自於短期內才成立的不明粉絲專頁,並大打虛擬貨幣投資的詐騙廣告。

該如何辨識與防範?

過去冒用名人的詐騙案件與手法層出不窮,利用公眾人物的高影響力,讓許多網友誤信,以為是名人代言推薦。過去 MyGoPen 透過案例教大家檢視一個重要指標,就是 Facebook 提供的「粉絲專頁資訊透明度」功能,來簡單檢視一下這是不是可信賴的粉絲專頁。

我們可以藉此來檢視該帳號狀況,同時能夠在 FB 廣告檔案庫發現這個粉絲專頁正在投放的廣告。

關於網傳影片貼文,對此 MyGoPen 實際詢問刑事警察局 165 全民防騙,經警方初步查證,確定網傳影片極可能運用 AI 深度學習的「深偽」技術,進行人物口型替換及語音合成,內容為捏造的不實資訊。警方呼籲民眾提高警覺,不要被詐騙集團利用科技造假所欺騙。

警方提醒,投資務必透過金管會審核通過的投資管道,涉及要求投資、提交個資的社群貼文或訊息時,應再查證且勿直接提供個人金融資訊及點取連結或加入群組。面對科技犯罪,眼見不一定為憑,若有相關疑問可撥打 110 或 165 查證。

專家諮詢:

刑事警察局 165 全民防騙

延伸閱讀:

【資安】留意投資詐騙的六個起手式!教你自救處理四步驟
【詐騙】投資理財書籍免費送?私訊立即領取?投資詐騙廣告貼文辨識學起來