現時，各行各業都致力透過不同的人工智能工具提升工作效率，但人們在物色人工智能工具時應格外小心。最近 Google 旗下威脅情報部門 Mandiant 揭露，有網絡犯罪分子早前於 Facebook 投放虛假 AI 生成影片工具的廣告，數量超過 30 個，意圖散播惡意軟件。
Mandiant 稱，不法分子在 Facebook 上冒充合法 AI 影片生成工具如 Luma AI、Canva Dream Lab 和 Kling AI 的廣告，誘使社交媒體使用者探訪惡意網站。使用者點擊廣告後，將被導向虛假 AI工具功能的惡意網站。這些網站實際上並不提供 AI 生成內容，而是暗中植入數據竊取程式與後門程式，令攻擊者得以竊取登入憑證、信用卡資料等敏感資訊。收集到的數據很可能會在地下市場上出售。
據 Mandiant 分析，大部分的惡意廣告發布在 Facebook 上，但少數也出現在 LinkedIn。不法分子會不斷修改其域名，並每日發布新的廣告，以避免 Meta 的偵測。
Mandiant Threat Defense 高級經理 Yash Gupta 表示：「網絡犯罪分子不斷演變其攻擊策略、技術與程序（TTPs）。在此案例中，他們利用熱門的 AI 工具，結合惡意廣告進行推廣。一個精心設計、偽裝成合法 AI 工具的網站，無論對機構或個人都可能構成威脅。使用者在接觸看似無害的廣告及其導向的網站時，應保持警惕。」