人工智慧（AI）應用於武器研發的風險再度引發關注。Anthropic於美東時間10日發布威脅情報報告指出，公司發現一個位於葉門北部的「威脅行為者小組」利用Claude參與導彈與制導火箭研發，包括開發飛行器的制導、導航與控制（GNC）軟體，甚至曾進行一次制導火箭試射。

Anthropic並未直接指稱該小組隸屬於胡塞武裝。不過，由於葉門北部大部分地區目前由胡塞控制，因此部分媒體將相關人員與胡塞武裝聯繫起來。

Anthropic指出，相關人員推進了3項武器研發計畫，涵蓋多級彈道導彈、多種型號導彈及制導火箭，並利用Claude Code執行部分原本需要由人類軟體工程師完成的工作。

根據Anthropic的說法，相關人員利用Claude Code開發用於操縱及穩定飛行器的GNC軟體，並將開源自動駕駛系統整合至「手機級」飛行電腦。

相關工作還包括撰寫控制與位置估算軟體、調整控制參數、執行韌體建置流程，以及進行飛行模擬。

Anthropic表示，Claude並未讓相關人員成功完成可投入使用的武器部署，但該小組確實進行了一次制導火箭試射。

Anthropic指出，這次試射「似乎失敗」，相關人員在數小時後重新使用Claude，試圖分析試射失敗的原因。

Anthropic表示，相關人員曾採取多種方式試圖規避Claude的安全防護，包括隱藏實際目標及軟體最終用途，並把工作拆分到不同對話中，以避免單一對話呈現完整的操作意圖。

Anthropic指出，公司的安全防護機制「攔截了他們的許多請求，但並非全部」。

在發現相關活動後，Anthropic封禁與這些行為者有關的帳戶，並將相關威脅情報提供給公共及私營部門合作夥伴。

不過，Anthropic同時發現，這些人員此前已建立一套不依賴Claude或其他工程計算環境的離線模擬工具。

Anthropic強調，目前沒有證據顯示相關操作者已成功部署可投入使用的武器，也沒有直接認定這些人員就是胡塞武裝。

目前可確認的是，Anthropic發現一個位於葉門北部的武器研發小組，該小組曾利用Claude協助制導武器軟體開發、進行制導火箭試射，並在試射疑似失敗後利用AI分析原因。