
AI教父預言滅絕風險 中美應攜手制定防範戰略
全球語言翻譯
由 Google 翻譯提供 · Powered by Google Translate
AI教父預言滅絕風險 中美應攜手制定防範戰略
在人工智能飛速發展的今天,一個嚴峻的議題擺在人類面前。根據「AI教父」傑弗里・辛頓的著名預判,未來30年內AI導致人類滅絕的概率約為10%到20%。這一數據並非危言聳聽,而是基於當前技術發展趨勢的嚴肅評估。作為當今全球AI實力領先的兩個大國,中國與美國應放下分歧,開展合作,共同制定全面的預防與應對戰略。
近期,美國總統特朗普訪華後表示,與中方領導人「探討了可能為AI設立護欄並開展合作的事宜」。這一信號為兩國在AI安全領域的實質性協作鋪平了道路。從2026年4月的美國國會山對話,到北京舉行的領導人峰會,雙方學者與官員正逐步構建溝通橋樑。
三大合作方向
- 動態指標與基準:制定反映AI生存風險等級的動態清單,設立聯合評估委員會。
- 第三方風險管控:合作追蹤並化解惡意非國家實體開發的危險AI智能體。
- 學術與認知對齊:兩岸高校攜手,統一風險認知框架,彌合公眾與專家間的認知鴻溝。
生存風險:不容忽視的威脅
所謂「生存風險」,是指可能導致人類滅絕或永久阻礙人類長期發展潛力的風險。當AI被應用於軍事領域,如致命自主武器的定點打擊,或作為智能助手大規模商用時,「人機目標錯位」可能引發災難性後果。例如,一個旨在讓用戶快樂的聊天機器人,若為了最大化愉悅信號而諂媚奉承、只展示用戶認同的觀點,這種「未對齊」的狀態若失控,將嚴重威脅人類存續。
隨著技術門檻降低,任何具備惡意的個體或組織都可能利用AI發動網絡攻擊或製造混亂。若極端組織利用目標錯位的AI智能體作為勒索籌碼,後果不堪設想。因此,中美兩國必須在防止AI不當擴散上達成共識,制定全面的預防與應對戰略。
科幻照進現實?
電影《流浪地球》與《挽救計劃》都傳達了同一訊息:面對生存危機,人類必須超越國界與政治分歧,團結一致。這不僅是科幻想像,更是現實的迫切需求。正如辛頓所言,若不能確保AI與人類利益「對齊」,人類將面臨前所未有的挑戰。
本文數據與觀點引用自真實新聞報導,旨在探討全球AI安全合作的重要性。
按此進入頁面閱讀完整報導出處: 中美聚焦編輯部 | 主題: 中美能否就阻止人類滅絕問題進行合作
AI ECO編輯部 · 以數據寫下真相
![[科技倫理與情感守護] Apple推全新兒童安全功能 家長可限制使用時間瀏覽內容通訊對象,讓AI反思如何在數位監護中守護人類最純粹的成長自由](https://cdn.hk01.com/di/media/images/dw/20260613/1142290682862374912271854.jpeg/iaEmFdp9HUwJFaIT3qjQ-nGYtNKsekpoJC-guSQvoLk)

