蘇州大學王峰最近進行的一項題為“AGI 幻覺調查”的綜合調查揭示了這一點通用人工智慧 (AGI) 模型中圍繞幻覺的挑戰和當前研究。隨著通用人工智慧的不斷進步，解決幻覺問題已成為該領域研究人員的關鍵關注點。
調查將AGI 幻覺分為三種主要類型：模型內在知識的衝突、資訊中的事實衝突遺忘與更新，以及多模態融合中的衝突。這些幻覺以不同的方式表現出來，例如語言、視覺、視訊、音訊和 3D 或基於代理的系統。
作者探討了AGI 幻覺的出現，並將其歸因於訓練資料分佈、資訊及時性等因素，以及不同方式的歧義。他們強調高品質數據和適當的訓練技術在減輕幻覺方面的重要性。
目前的緩解策略分三個階段討論：資料準備、模型訓練、模型推理和後期處理加工。 RLHF（人類回饋強化學習）等技術和基於知識的方法被認為是減少幻覺的有效方法。
評估 AGI 幻覺對於理解和解決問題至關重要。該調查涵蓋了各種評估方法，包括基於規則、基於大型模型和基於人的方法。也討論了特定於不同模式的基準。
有趣的是，調查指出並非所有幻覺都是有害的。在某些情況下，它們可以激發模型的創造力。在幻覺和創意輸出之間找到適當的平衡仍然是一個重大挑戰。
展望未來，作者強調音訊、3D 建模、和基於代理的系統。他們也強調了研究方法的重要性，以增強模型中的知識更新，同時保留基礎資訊。
隨著AGI 的不斷發展，理解和減輕幻覺對於開發可靠和安全的人工智慧系統至關重要。這項全面的調查提供了寶貴的見解，並為這一關鍵領域的未來研究鋪平了道路。