商務部下屬的美國國家標準與技術研究院 (NIST) 已採取透過人工智慧安全研究所聯盟（「聯盟」）的成立，在為人工智慧（AI）創造安全可靠的環境方面邁出了一大步。 NIST 在 2023 年 11 月 2 日發布的通知中宣布了該聯盟的成立，標誌著雙方共同努力建立新的測量科學，以識別可擴展且經過驗證的技術和指標。這些指標旨在促進人工智慧的開發和負責任的利用，特別是對於先進的人工智慧系統，如最強大的基礎模型。
聯盟目標與協作
聯盟的核心目標是應對人工智慧技術帶來的廣泛風險並保護公眾同時鼓勵創新的人工智慧技術進步。 NIST 尋求利用更廣泛的社區的興趣和能力，旨在確定經過驗證的、可擴展的和可互操作的測量和方法，以負責任地使用和開發值得信賴的人工智能。
參與協作研發 (R&D)、共享專案以及測試系統和原型的評估是該聯盟概述的主要活動之一。這項集體努力是為了回應 2023 年 10 月 30 日題為「人工智慧的安全、可靠的開發和使用」的行政命令，該命令強調了與人工智慧安全和信任相關的一系列廣泛優先事項。 >
呼籲參與與合作
為了實現這些目標，NIST 為感興趣的組織敞開了大門，分享他們的技術專業知識、產品、透過人工智慧風險管理框架（AI RMF）的數據和/或模型。邀請意向書是 NIST 與非營利組織、大學、政府機構和技術公司合作計劃的一部分。一旦收到足夠數量的填妥並簽署的意向書，聯盟內的合作活動預計將不早於 2023 年 12 月 4 日開始。所有能夠為聯盟活動做出貢獻的組織都可以參與，選定的參與者需要與 NIST 簽訂聯盟合作研究與開發協議 (CRADA)。
應對人工智慧安全挑戰
聯盟的成立被視為追趕其他已開發國家建立管理人工智慧開發的法規，特別是在用戶和公民隱私、安全和意外後果領域。此舉反映了拜登總統政府在美國採取具體政策管理人工智慧方面的一個里程碑。
聯盟將有助於制定新的指南、工具、方法和最佳實踐，以促進發展以安全、可靠和值得信賴的方式開發或部署人工智慧的行業標準。它有望在關鍵時刻發揮關鍵作用，不僅對人工智慧技術人員而且對社會而言，確保人工智慧符合社會規範和價值觀，同時促進創新。