要求解禁AI軍事應用「護欄」 五角大廈向Anthropic下通牒

美國五角大廈與AI模型開發公司Anthropic,因機密軍事系統中使用AI模型的限制而僵持不下。根據美國新聞網站Axios在24日獨家披露,戰爭部長(國防部長)赫格塞斯(Pete Hegseth)已向該公司下通牒,要求最晚27日傍晚讓軍方不受限制地使用該公司AI模型。

Axios報導,赫格塞斯在24日的會面中,向Anthropic執行長阿莫戴(Dario Amodei)下達最後通牒,表明屆時五角大廈將採取兩種作法,一是切斷合作關係、並且宣布Anthropic公司為「供應鏈風險」,另一種作法是援引《國防生產法》(Defense Production Act),強制要求該公司量身訂做符合軍方需求的AI模型。

Anthropic旗下的Claude,是目前唯一被用於美國軍方最敏感系統的AI模型。五角大廈希望可不受AI公司制定的限制束縛,僅需遵守美國法律即可,但是Anthropic堅拒移除AI使用的「護欄」措施,雙方僵持不下。

Axios報導指出,24日的會面氣氛緊繃,一名高層官員形容會談「一點都不溫和、親切」;另一名消息人士說,雙方仍維持「禮貌」,都未拉高音量,赫格塞斯還稱讚Claude的表現,不過,他也表明不會讓任何公司對五角大廈的作戰決策指手畫腳、或對個別使用情境提出反對。

Anthropic表明,願意為五角大廈調整使用政策,但不會允許其模型被用於對美國民眾進行大規模監控,或者開發在無人類介入下即可開火的自主武器系統;阿莫戴重申,該公司的紅線從未妨礙五角大廈執行其工作或者對任何執行任務者構成問題。

出席這場會議的還包括戰爭部副部長費恩柏格(Steve Feinberg)、主管研發工程的次長麥可(Emil Michael)、負責採購與後勤的次長達菲(Michael Duffy),赫格塞斯的首席發言人帕尼爾(Sean Parnell)以及五角大廈首席法律顧問馬修斯(Earl Matthews),顯見戰爭部重視此事程度。

Anthropic公司發言人在會後表示,在該次對話中,阿莫戴對戰爭部和部長表達感謝之意,「持續就有關我們的使用政策進行善意對話,以確保Anthropic能在其模型可靠且負責任的運作範圍內,持續支持政府的國安任務」。

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: