資訊擷取與人工智慧，加拿大三角實驗室和義大利米蘭比可卡大學的一項研究重點關注了一個關鍵問題：為有識字困難的用戶提供生成資訊系統。這項研究在 2024 年 ACM SIGIR 人類資訊互動和檢索會議上發表，強調了開發包容性人工智慧技術以滿足用戶整個讀寫能力水平的緊迫性。
研究結果指出了業界的一個緊迫問題； ChatGPT、Bing Chat 等，主要生成大學級別的內容。這無意中排除了很大一部分在閱讀和理解方面有困難的人群。這篇論文由Adam Roegiest 和Zuzana Pinkosova 撰寫，仔細分析了流行的大型語言模型(LLM) 的反應，並揭示了其訓練方法中的潛在偏差，這些偏差可能有利於具有較高讀寫能力的用戶。
研究方法涉及透過使用流行的指令微調資料集來評估生成系統的可讀性。這些數據集揭示了系統傾向於產生與受過大學教育的用戶一致的複雜散文，這可能會導致那些應對認知和讀寫能力挑戰的人被邊緣化。研究的關鍵訊息是呼籲納入生成模型的系統具有包容性，使具有不同認知需求的個人能夠使用它們。
鑑於人工智慧、區塊鏈和加密貨幣行業的依賴性日益增強，這項研究的影響深遠在人工智慧驅動的使用者互動介面上。隨著這些技術繼續滲透到我們的日常生活中，增強其可訪問性不僅成為道德要求，而且成為商業必需品。人工智慧革新各產業的潛力是無限的，但如果不解決識字率差距，很大一部分人口就有被邊緣化的風險。
針對這項研究，產業專家現在提倡採用整體方法進行人工智慧開發。這包括設計具有多種「理想」響應的系統，這些響應的複雜性各不相同，同時保持準確性。 OpenAI 和 Google 等領先法學碩士背後的公司被要求在未來的模型訓練中考慮該研究的結果，並實施考慮到全方位用戶能力和需求的策略。
挑戰超出了英語範圍，涵蓋了各種語言形式，例如洋涇浜語、克里奧爾語和方言，成為全球文化認同的一部分。這些語言變體不僅代表溝通工具；它們是人們遺產和日常生活的一個基本面向。研究結果強調了生成模型適應這些不同語言表達的必要性，確保使用者的溝通偏好不僅被理解，而且得到尊重。
總而言之，人工智慧和資訊系統在提高我們存取和處理資訊的能力方面取得了重大進展，這項研究對仍有待完成的工作提出了重要的提醒。如果我們的目標是建立一個讓所有用戶公平受益的數位環境，那麼建立公平、負責、透明、安全和可訪問的系統勢在必行。