AI幻覺比駭客更危險？美上市公司SEC文件中風險示警較去年大增46%

據《商業內幕》周四 (13 日) 報導，越來越多美國上市公司在向證券交易委員會 (SEC) 提交的年度報告中，將 AI 列為重大風險因素。

根據與 AlphaSense 合作進行的分析，今年迄今已有 418 家市值逾 10 億美元的上市公司，在這些報告中提及與商譽損害相關的 AI 風險因素。這個數字較 2024 年增加 46%，約是 2023 年的九倍。

上述文件指出，AI 可能產出帶有偏見或不正確的資訊、危及安全性，或侵犯他人權利，進而傷害公司形象。

例如，遊戲公司 Take-Two Interactive Software(TTWO-US) 在 2024 年的 SEC 文件中將 AI 列為風險因素，到了 2025 年的文件，相關揭露文字增加超過一倍。

「我們今天使用 AI 的程度，比一年前更多，也比前年更多，」該公司執行長 Strauss Zelnick 告訴《商業內幕》，「隨著更多使用、更多實驗和更多實施，也有更多潛在風險。」

提出這類警示的企業橫跨各產業。例如，Visa(V-US) 本月稍早提交的 SEC 文件也表示，隨著這家金融服務公司擴大使用代理 AI 進行商務活動，「我們可能看到更多錯誤或爭議性付款、退款增加，以及商譽受損」。

消費品製造商高樂氏 (CLX-US) 在 8 月的報告中指出，AI 工具「可能危及機密或敏感資訊」。化妝品品牌 ELF Beauty(ELF-US)則在 5 月的文件中表示，「適應 AI 相關新法規、技術轉變、倫理標準和利害關係人期望的能力，可能對我們的營運、財務狀況或聲譽產生重大影響」。

「已知的未知數」

芝加哥大學法學院教授 M. Todd Henderson 表示，當新的重大風險出現或現有風險改變時，企業依法必須更新 SEC 文件中的風險因素。目的是「嚇唬投資人」，讓他們了解什麼可能對公司造成重大傷害，這是該制度的刻意設計。

「你必須揭露已知的未知數，」他告訴《商業內幕》。Henderson 指出，企業領導人在文件中加入 AI 警告，顯示他們認為這項技術的潛在影響是嚴肅事項，甚至可能比 1990 年代末網際網路崛起時更嚴重。

他說，當年「揭露內容是謹慎樂觀的」，而且網路似乎只對零售商和平面出版商構成威脅，對多數其他企業沒有影響。相較之下，AI 的警告更為嚴峻，各產業企業都警告可能導致嚴重後果。

「在駭客攻擊中遺失資料是一回事，」他說，「但如果你部署 AI 而它出現幻覺，那可能是更大的問題。錯誤的醫療診斷、法律建議或工程結論，可能造成威脅企業核心的錯誤。」

員工濫用 AI 也可能帶來麻煩。根據會計師事務所 KPMG 和墨爾本大學在 2024 年 11 月至 2025 年 1 月間，針對全球 32,352 名員工進行的調查，約 66% 的工作者依賴 AI 產出的內容而未批判性地評估其提供的資訊，72% 的人因 AI 而在工作上投入較少努力。

價值勝過風險

儘管 AI 存在相關風險，企業仍認為這項技術在提升生產力方面具有重大價值。許多企業正競相投資該技術。根據管理顧問公司貝恩公司 (Bain & Co.) 的數據，2024 年企業平均 AI 總支出較前一年增加約一倍，達到 1,030 萬美元。該管理顧問公司調查的企業年營收從 5,000 萬美元到超過 50 億美元不等。

Take-Two 執行長 Zelnick 表示，「我們正在減輕平凡工作的負擔，讓員工能將時間和腦力花在更有趣的工作上。」他舉例，「我們手機遊戲中的關卡，現在有很大一部分是由 AI 創造的，這在幾年前還做不到。」

不過 Zelnick 也坦言，不使用 AI 同樣有風險。這種兩難困境也反映在許多企業的 SEC 文件中。