白宮科學顧問呼籲加強防範AI風險
Tag
外媒週一 (21 日) 報導,白宮科技政策辦公室主任 Arati Prabhakar 受訪時透露拜登政府目前重點是了解 AI 技術與其影響,希望加強防範 AI 風險。
白宮科學顧問 Prabhakar 正成為拜登政府摸索降低 AI 風險過程的關鍵人物,她週一受訪時強調,深度學習、機器學習系統本質上是不透明的,並將它們比作黑匣子。
然而,她也指出,生活中的許多風險是無法解釋,但人們已經找到了保證它們安全的方法。例如,藥品的開發經歷類似的過程,從假設開始,但最終建立臨床試驗和安全方案。Prabhakar 認為,類似的過程可以應用於 AI,可以在確保 AI 的安全性和有效性。
Prabhakar 表達對特定 AI 的擔憂,包括聊天機器人有可能提供製造武器的指令。此外,她還談到了 AI 系統中存在偏見問題,並指出了面部辨識技術導致黑人被錯誤逮捕的特殊案例。
Prabhakar 強調,AI 發展過程中隱私權的重要性,單獨的數據在組合後如何能夠洩露個人資訊。
關於與科技公司的合作,Prabhakar 承認美國企業在推動 AI 方面做出的寶貴貢獻。然而,她指出,即使企業自願承諾遵守 AI 安全標準,市場運營的現實也構成了限制。她表示希望更多的公司能夠站出來做出類似的承諾,同時也強調政府在追究行政和立法部門責任方面的功能。