今日全球格局在多條戰線同時承壓。中東霍爾木茲海峽的軍事衝突再次推高油價[#11],而歐洲內部,德國極右翼政黨AfD在地方選舉中奪下創紀錄的44%選票[#488],為歐盟的政治穩定投下變數。與此同時,北京正試圖透過向八家國有銀行及保險公司注入540億美元來應對經濟增長放緩的挑戰[#109]。在這些傳統的地緣與經濟風險之外,科技領域正開啟一個全新的不確定性維度:OpenAI發布GPT-6 Astra,其內部科學家卻罕有地公開警告,人類對這項技術的理解與控制能力已然落後。從能源安全到政治版圖再到技術奇點,各領域的風險正從線性演變轉為指數級加速。
通用智慧抵達 OpenAI內部的警報
OpenAI最新模型Astra的發布,標誌著通用人工智慧競賽進入新階段,其內部科學家的安全警告卻揭示了能力與可控性之間的危險脫鉤。
OpenAI發布其宣稱史上最強大的產品GPT-6 Astra,立即引發Nvidia執行長黃仁勳(Jensen Huang)作出「AGI已經到來」的判斷↗↗。市場對此反應迅速,Astra的發布直接點燃了半導體類股的漲勢,顯示資本市場將此視為一個重要的技術里程碑↗。這一事件不僅是單一公司的產品更新,更被視為將通用人工智慧(AGI)從理論探討推向商業現實的關鍵節點,競賽的步伐顯著加快。
這場技術競賽的背後是全球性的戰略佈局與巨額投資。各國正積極爭奪AI領域的主導權,例如韓國已明確提出目標,希望透過大規模投資與產業改革,成為繼中美之後的全球第三大AI強權↗。這種國家級的雄心,疊加企業間的激烈競爭,共同構成了一股強大的驅動力,迫使實驗室以超越以往的速度推進技術能力。全球投資界正將此視為一場歷史性的豪賭,其潛在回報堪比工業革命,但失敗的代價也可能是災難性的金融崩潰↗。
然而,最具說服力的質疑聲音恰恰來自OpenAI內部。公司首席科學家公開警告,沒有人為這項技術的後果做好了準備↗。他敦促業界保持「極端謹慎」,因為AI的進化速度已快到讓人類難以理解和控制的程度↗。韓國媒體更具體地指出,其警告指向一種能進行自我完善的「外星智慧式」AI,這意味著系統可能獲得不受人類監督的自主進化能力,觸及了AI安全的核心紅線↗。
直接的後果是市場的樂觀情緒與開發者自身的焦慮形成了鮮明斷層。當投資者因Astra的發布而追捧相關股票時↗,技術的創造者卻在公開表達對其失控風險的擔憂。OpenAI的科學家甚至預期,出於安全考量,AI實驗室將需要自願放緩開發步伐——這在一個高度競爭的市場中是一個近乎違背商業邏輯的提議↗。此議題的嚴重性已引起最高層關注,英國國王查爾斯為此專門舉辦了一場閉門會議,與會者包括黃仁勳和DeepMind創辦人Demis Hassabis等行業領袖↗。
GPT-6 Astra的問世,已將AI風險的討論從抽象的未來學,轉化為一個具體的、關於能力加速與控制滯後之間的現實衝突。核心矛盾不再是AGI是否可能,而是如黃仁勳所言「已經到來」的AGI能否被安全地管理↗。由OpenAI科學家提出的未解問題是,整個行業是否會為了集體安全而選擇自願減速,抑或在巨大的商業利益驅使下,繼續由競爭壓力定義技術發展的唯一節奏↗。
68 stories selected · 1 Deep Dive