【鳴新聞記者廖宥婷 /南投報導】
假聲音詐騙已經「不夠看」了!AI影片生成技術不斷進化,知名企業家黃仁勳、K董張國煒、藝人陳美鳳、北榮院長、退休名醫、吊車大王先後都被詐騙集團製作出以假亂真的短影音,國內收納大廠樹德企業董事長吳宜叡日前也被鎖定,歹徒利用AI生成影像與語音,透過一頁式購物平台,偽造董事長影音推薦樹德收納產品,吳董事長表示:包括盜用商標、AI偽造影音、銷售非樹德產品,相較其他變造影片,口型與聲音對稱的品質、說故事的方式,詐騙集團AI深偽(Deepfake)的技術又更精進,公司除了立即發佈嚴正聲明,同時向平台檢舉,也將採取法律途徑保護公司聲譽與消費者權益。

這部長達3分11秒的AI生成短片,極盡情緒價值的煽動力,吳董事長娓娓道來從第一代創辦人創業歷程,到他出國留學、公司歷經大火摧殘等公司發展歷程,雖然將自己名字打錯,仍可見詐騙者認真的參考了大量網路新聞資料,從字幕上來看,推估有可能是用大陸的AI技術,或者直接由對岸仿冒集團操作。這部影片流傳後,連經銷商都難以辨識,更遑論一般消費者在不知情的情況下,可能遭詐騙取財或購買來路不明、品質低劣的產品。

吳董事長分析,詐騙集團從未消失,AI假名人詐騙影片已不全然攻擊人性弱點,全民都有可能接觸與受騙。他建議政府應該強力要求社群平台強化內部控管,例如規範AI內容標示機制,否則詐團帳號多在24小時內就完成收網、轉移,「等業者發現、政府查完,民眾早就被騙完了」。至於企業本身沒有公權力,著重在與消費者溝通,例如宣導在官方指定通路購物,勿輕信短影音購買來路不明的商品。

至於消費者,則建議提高警覺,包括臉部動作不自然、光影不連貫、聲音與嘴型不同步、人物轉側臉或快速眨眼時,臉部出現閃爍或變形。這次偽造樹德影片畫質粗糙,且出現不少簡體字,民眾在有疑問時一律拒絕直接金援或匯款,未確實查證公司背景與來源時(建議撥打公司電話確認)拒絕衝動性購買,也不輕易轉發疑似AI造假影片。