日本電信、讀賣新聞聯合宣言:呼籲政府限制生成式AI發展 否則恐引發戰爭!
日本最大電信公司和日本最大報紙聯合呼籲政府限制生成式 AI 的發展,憂慮無節制使用可能導致社會動盪甚至戰爭。宣言指出,儘管 AI 可提高生產力,但其準確性未得保證,若無限制使用可能帶來各種問題。他們主張,日本政府應盡速制定法律限制 AI 應用範圍,以保護選舉和國家安全,反映其對美國公司壟斷 AI 技術的擔憂。
官股成分約 1/3 的日本電信電話公司 (NTT) 是日本最大電信公司,而讀賣新聞集團的《讀賣新聞》是日本發行量最高的報紙之一。兩家公司周一均在各自官網上發布了針對 AI 的宣言,並稱其聯合宣言是出於對公共言論的擔憂。該宣言主旨和今年 3 月歐洲會議的通過的限制 AI 某些用途的立法有諸多吻合,且一定程度上表明,即使美國是盟友,放任美國企業搶先開發 AI 乃至壟斷該領域技術的作法恐有隱憂。
宣言指出,儘管生成式 AI 技術提供用戶良好介面與體驗,可望提高勞動生產率,但尚不能保證其回復結果的準確性,若盲目無限制的使用,恐對人類和社會帶來各種問題,「在最壞的情況下,民主和社會秩序可能崩潰,乃至引發戰爭」,必須在技術上和制度上對生成式 AI 施行衡平措施,控制其使用。
宣言提到以下幾點展望:
- 生成式 AI 即將進入創新階段。
- 需要立即採取措施確保討論空間的健康,這是人類和社會安全(民主秩序)的基礎。
- 需要制定法律,主要用於劃定生成式 AI 的使用範圍(例如對選舉和安全進行嚴格限制)。
- 從生態系統維護的角度,有必要考慮與時俱進地優化版權法,使其與使用生成式 AI 本身相兼容。
- 在法律修訂期間,需要引入規則和聯合監管,建立和傳播有效技術,並努力修訂法律。
《讀賣新聞》的新聞和社論一直強調對 AI 技術發展的擔憂,去年一篇社論注意到美國科技公司紛紛推出新 AI 產品,認為「AI 模型可能傳授大眾如何自製武器或傳播歧視性思想」。該篇文章還列舉了一些以假亂真的假影片 (例如冒充政治人物談話) 所帶來的風險。
NTT 則積極研究 AI,以提供產品給客戶,今年 3 月推出類似 OpenAI 的 ChatGPT 的大型語言模型「tsuzumi」,其設計使用的算力更低,且更適合日語環境,但 NTT 雖相信生成式 AI 具有重要用途,卻也警惕其可能被惡意利用,如操縱公眾輿論。這一聯合呼籲凸顯了對 AI 發展中的倫理和風險的關注。