特朗普推遲簽署人工智能行政命令:“我不喜歡其中的某些方面”
關鍵詞: 特朗普 人工智能 行政命令 Mythos 監管平衡
當地時間5月21日,美國前總統唐納德·特朗普(Donald Trump)表示,他推遲了即將舉行的關于人工智能行業的備受期待的行政命令簽署儀式。特朗普在橢圓形辦公室告訴記者,原定于周四下午晚些時候舉行的活動被推遲了,"因為我不喜歡其中的某些方面"。
特朗普強調,"美國在人工智能領域領先于中國和世界其他國家,我不想做任何會阻礙這種領先地位的事情"。他還補充說,人工智能"正在帶來巨大的好處",他擔心這項行政命令"可能會成為阻礙",且順帶提到AI"也創造了大量就業機會"。
據《紐約時報》援引參與命令制定的人員說法,這份備受期待的行政命令,核心是授權美國政府在特定條件下對前沿人工智能模型進行預先評估,以識別安全漏洞和國家安全風險。
該命令原要求企業自愿向政府提前預覽先進模型,還計劃要求國家安全和網絡官員與各機構負責人及頂尖科技公司合作,以解決包括Mythos在內的模型所識別出的軟件漏洞問題。
本次行政命令延期的直接誘因是Anthropic于4月7日發布的新一代前沿模型Mythos——該模型展現出自主網絡攻擊能力,能夠獨立發現系統安全漏洞并在無需人類指令的情況下編排完整攻擊鏈路。
他們擔心,該模型在識別軟件漏洞方面的能力過于強大,足以發起網絡攻擊。OpenAI也正在向客戶預覽一個類似的模型,并且與Anthropic一樣,正在根據政府的意見限制該模型的訪問權限。
白宮官員們對此感到震驚。該命令由白宮啟動,此前包括財政部長貝森特(Scott Bessent)在內的關鍵官員首次接觸了Anthropic最新的Mythos模型,該模型具備先進的網絡安全漏洞檢測能力。
美國官員們對其在銀行系統中暴露的漏洞等問題感到震驚。目前,Anthropic僅向少數可信機構(包括科技公司和一些銀行)有限發布Mythos模型,以便它們在黑客獲取模型之前發現并修復網絡問題。
5月5日,美國商務部下屬的人工智能標準與創新中心(CAISI)宣布,已與谷歌DeepMind、微軟以及埃隆·馬斯克的xAI達成協議,這三家科技巨頭將在新一代人工智能模型正式公開發布前,提前向美國政府開放模型權限,以便開展國家安全風險審查。
根據CAISI發布的聲明,新協議允許該中心在人工智能模型投入應用前開展評估,并通過專項研究研判模型能力及潛在安全風險。協議核心條款要求實驗室在模型公開發布前,向CAISI開放完整版本,部分測試對象甚至是尚未命名的內部迭代版本。CAISI表示,擴大合作可讓政府在公開發布前測試相關模型,以提升安全性并制定最佳做法。
特朗普的這一180度轉變發生在政府內部圍繞監管監督理想范圍的爭論數周之后。特朗普國家經濟委員會主任凱文·哈塞特(Kevin Hassett)曾建議,前沿模型應像藥品一樣接受審批,只有在"被證明安全后才發布,就像FDA藥物一樣"。這一意見遭到包括部分特朗普政府親近人士在內的人工智能創始人和投資者的強烈反對,他們認為這種制度會阻礙美國的創新。
最終的行政命令遠未要求這種審批,而是建立了"一個協作、自愿的模型基準框架"。
根據擬議協議,包括OpenAI和xAI在內的領先人工智能公司將自愿在模型向公眾發布前90天與政府共享,最終依賴人工智能負責人自愿配合。
《金融時報》稱,這一推遲發生之際,民調顯示美國選民普遍關注人工智能的影響,許多人支持對這一新興技術實施更嚴格的監管和防護措施。公眾對釋放強大人工智能模型的安全隱患、潛在的就業損失以及大型數據中心建設的擔憂,使得原本熱衷于人工智能的政府在政策上面臨更復雜的考慮。
特朗普的盟友呼吁將領先的人工智能模型納入美國政府控制,而其他"Make America Great Again"(MAGA)派人士則警告,限制人工智能發展的措施可能會阻礙經濟增長。
科技巨頭對新興人工智能行業的巨額投資推動了該行業的快速增長,即使伊朗戰爭和其他地緣政治沖突導致全球經濟動蕩,也幫助股市達到了新的高度。對人工智能持友好態度的特朗普政府歡迎向這項技術轉變,并采取了行業領袖支持的行動,比如支持他們呼吁阻止各州制定自己的人工智能規則。
據悉,多位科技公司首席執行官原定與特朗普一同在華盛頓簽署該命令,但簽署活動突然被推遲。但隨著此次延期,美國政府如何在保持人工智能領先地位與確保技術安全之間尋找平衡,仍將是各方關注的焦點。