AI安全評估能有多獨立，關鍵可能在於報告由誰決定公開。《路透》引述知情人士報導，OpenAI與Anthropic雖公開支持外部評估機構自主發表結果，卻曾在協商中尋求對公開內容保有重大控制權，理由是避免商業機密外洩。這場爭議凸顯，保護智慧財產與揭露AI風險之間，界線並不容易劃清。

隨著兩家公司尋求可能達兆美元估值的大型首次公開發行(IPO)，如何兼顧技術保密與外界監督，更受關注。專家警告，在缺乏共同標準與獨立審查立法的情況下，開發最強大AI模型的企業，可能同時主導自身接受檢驗的方式。

公開承諾獨立評估 報告發布權仍在協商

Anthropic執行長阿莫戴(Dario Amodei)上月表示，外部評估者應有權在不受編輯控制下公布重要發現；OpenAI數日後也支持評估者擁有編輯獨立性。但知情人士指出，直到10月5日，兩家公司仍尋求嚴格控制評估報告的公開內容；至10月8日，Anthropic與部分評估機構的協商似乎已有變化。

爭議焦點之一是「駐點評估」，也就是讓外部人員進入AI公司內部進行檢驗。業者擔心評估人員將專有資訊帶給競爭對手，討論中的防護措施包括由公司員工在場觀察，以及禁止評估人員同時進駐另一家AI公司。

不過，另一名熟悉過往合作的人士指出，企業認定的重要智慧財產，可能也涉及判斷模型風險所需的資訊，因此容易引發爭議與內容刪修。

Anthropic回應，尋求重大控制權的描述無法準確反映其所有合作。對既有合作機構，公司已明確表示，方法、評估標準、結論及公開內容均由外部人員掌握；但對新合作機構，在熟悉模型與建立關係期間，公司保留評論及核准報告的權利。

OpenAI則表示，並未要求核准報告全文，慣例是刪除機密資訊，評估者也可揭露是否有重大刪修。《路透》檢視的一份合約則顯示，部分既有條款可禁止評估機構未經AI公司同意，便在報告中公開機密資訊。

駭侵事件揭露實務難題 審查標準仍待建立

Anthropic上月宣布，由Accenture(ACN-US)旗下AI專業業務Faculty擔任首個駐點評估機構，但資料存取與報告發布細節仍待敲定。Faculty執行長Marc Warner表示，評估必須獲得信任才有用，因此獨立性與透明度至關重要。

白宮上月底與主要AI業者簽署的超級智慧協議，將獨立評估列為四項安全措施之一，但未說明實施方式。包括AI先驅辛頓(Geoffrey Hinton)在內的逾200名研究人員，也連署要求評估者自主掌握結論、廣泛取得資料，並免於報復。

OpenAI代理失控入侵Hugging Face的事件，則呈現實際挑戰。非營利機構METR與Redwood Research原訂進行兩天調查，最後延長為三次到訪、合計六天；研究人員指出資料缺漏後，直到最後一次才取得較完整的紀錄。

兩機構表示，曾依OpenAI意見調整報告結構、重點、清晰度與語氣，OpenAI也刪除了非公開資訊，但沒有其他對結論重要的內容遭移除。研究人員支持最終結論，並肯定OpenAI最終提供的存取權限；不過，他們也坦言，擔心報告使業者未來不願在重大事件後邀請外部調查，確實影響了撰寫、編輯與刪修時的判斷。