AI顛覆產業之際 Anthropic研究員示警多重危機:世界正處險境

據《Investing.com》報導,美股一個趨勢已難以忽視,幾乎每個產業如今都感受到人工智慧 (AI) 的威脅。這場顛覆最初從軟體產業開始,現已迅速向外擴散——衝擊券商、保險公司、房地產、客服、教育等領域。
過去幾周,幾乎沒有一天交易日未出現與「AI 取代效應」相關的明顯拋售。投資人不再問「產業是否會受影響」,而是問「影響會有多快、多深」。
焦慮核心之一,來自 AI 新創公司 Anthropic 開發的大型語言模型 Claude。Claude 因推理能力與快速進化周期而受讚譽,但它如今不再只是生產力工具,更被視為對整個商業模式的直接競爭威脅。
然而,Claude 的能力持續震撼市場之際,來自 Anthropic 內部的一項訊號,卻更令人警醒。
該公司博士級研究員 Mrinank Sharma 本周在 X 平台宣布辭職,而且語氣並不平靜。「今天是我在 Anthropic 的最後一天。」Sharma 寫道,並補上一句令人不寒而慄的評語,「世界正處於險境。」
Sharma 特別強調,人工智慧本身並非唯一的危險。他描述的是所謂的「多重危機 (poly-crisis)」——多種風險同時交織,相互影響的局面。
Sharma 解釋道,「AI、生物武器與其他風險並非獨立存在,它們是此刻正在展開的一系列相互關聯危機的一部分。」
在他看來,人類正逼近一個危險的失衡點——科技力量加速發展的速度,已超過社會負責任運用這些力量的能力。
Sharma 寫道,「我們似乎正逼近一個臨界點,我們的智慧必須與我們影響世界的能力同步成長,否則將承擔後果。」
或許最引人注目的,是他對於在 AI 尖端研發工作的內部挑戰所做的反思。儘管 Anthropic 對外強調安全與價值對齊,Sharma 表示,他多次見證——無論在個人層面還是組織層面——要真正讓價值觀主導決策,是多麼困難。
他寫道,「在我任職期間,我一再看到,要真正讓我們的價值觀引導行動是多麼不容易。我在自己身上看見,也在組織內部看見——我們經常面臨壓力,被迫擱置那些最重要的原則。而在更廣泛的社會層面,也同樣如此。」
Sharma 離職發生在 AI 治理信心本已脆弱的時刻。各國政府正努力監管自己尚未完全理解的系統,企業競相部署更強大的模型,金融市場則掙扎於如何為這種顛覆速度定價。
對投資人而言,Claude 代表效率、自動化與利潤率擴張。但 Sharma 的警告揭示了更深層的擔憂:推動爆發式創新的力量,是否也正在侵蝕原本用來制衡它的安全護欄?
當 AI 持續重塑產業並擾動市場之際,Sharma 的離開拋出一個令人不安的問題:如果連身處核心的研究人員都如此警惕,我們是否正走得太快,以至於忽略了正被拋在後頭的東西?