IBM Security 的研究人員最近披露了一種獨特的網路安全威脅，他們稱之為「音頻劫持」。這種威脅利用人工智慧 (AI) 即時收集和修改即時對話。這種方法使用生成人工智慧，只需三秒的音訊即可創建一個人的聲音克隆。這使攻擊者能夠用已修改的訊息無縫替換原始語音。擁有這些技能可能會導致從事不道德行為，例如將金融交易引向錯誤的方向或修改直播和政治演講中的信息。
該技術的實現方式出人意料地簡單，它利用人工智能算法來收聽現場音頻以搜索某一些內容短語。如果偵測到這些系統，他們能夠在參與者不知情的情況下將深度偽造音訊插入討論中。這可能會危害敏感資料或誤導人員。其用途可能包括金融犯罪和重要通訊中的虛假資訊。
經過IBM團隊的證明，這樣一個系統的建構並不算太複雜。該團隊表明，捕獲現場音訊並將其與生成人工智慧技術整合所需的工作不僅僅是操縱數據本身所需的工作。他們提請注意各種情況下可能存在的濫用行為，包括在討論期間更改銀行數據，這可能會導致不了解情況的受害者將現金轉移到虛假帳戶。
為了應對這種危險，IBM 建議在演講中採取釋義和重複重要信息等對策。以便檢查其真實性。此策略有可能揭示人工智慧演算法產生的音訊差異。
這項研究的結果強調了在這個強大的人工智慧時代網路威脅日益複雜，並強調需要保持警惕並制定創造性的安全措施，以應對此類漏洞。