香港政府針對人工智慧生成的騙局流傳後的危險發出嚴厲警告行政長官李家超的深度偽造影片.這段詐騙影片描繪了李支持一項據稱具有高回報的投資計劃。政府譴責這是偽造的，並強調公眾對這種欺騙手段的認識的重要性。
詐騙者利用先進的人工智慧技術對公眾人物進行令人信服的深度贗品，這起事件是這一趨勢的一部分。 2022年9月，行政長官辦公室曾發出類似警告，當時李光耀的形象和捏造的報價被用來吸引人們進入可疑的網上交易平台。該平台虛假地聲稱李先生對加密貨幣交易系統表示認可，包括捏造的採訪和指向其網站的連結。
這類人工智慧產生的騙局越來越複雜，利用人們對熟悉的面孔和權威機構的信任。這些騙局的手段各不相同，包括克隆名人聲音的虛假視訊採訪，甚至使用經過修改的影片進行威脅。例如，一名受害者因對銀行執行長的克隆聲音進行虛假視訊採訪而損失了 1,700 港元的電腦遊戲積分。另一起事件涉及一名男子，他受到一段影片的威脅，影片中他的臉被疊加到露骨內容上。
香港警方早在 2022 年 7 月就已就人工智慧詐騙的興起向公眾發出警報。警方和政府當局強調保持警惕並核實線上促銷和內容真實性的重要性。這些騙局日益複雜，給執法部門帶來了重大挑戰，需要政府、技術專家和執法機構之間不斷調整和合作。
在人工智慧和技術發揮著越來越重要作用的數位時代，公眾意識和懷疑態度是關鍵防範此類欺騙行為。香港政府的警告強調，面對此類先進的詐欺計劃，需要進行批判性思考和謹慎行事。