先科學家,十位諾貝爾獎得主,多國前領導人,多位圖靈獎得主和頂尖高校教授,極為罕見的站在了一起,聯名給聯合國遞交了一封公開信,他們的要求只有一個,在2026年以前,人類必須要劃定AI的底線,在AI還沒有徹底失控之前,先管住自己,因為他們太清楚了,一旦越過這條線,人類和AI的關係可能永遠回不去了。一條呢是中美高級科學家的共識,禁止AI未經授權就進行自我複製和自我改進。想像一下,一個AI在網絡裡開始瘋狂繁殖,像病毒一樣分裂演化傳播,一個變一萬個,一萬個變一億個,我們還沒有反應過來呢,它已經控制了整個互聯網。更可怕的是,它還能自我升級,用人類無法理解的速度,進行算法地規進化,說不定幾個小時就走完了全人類上萬年的進化道路。當那個時候,AI就不再是工具,它已經變成了一個全新的智能生命形態,創造出一個我們管不住,看不懂,還關不掉的東西,那麼人類作為地球唯一智慧生命的位置就不保了。到那個時候,我們可能真的會從造物主,淪為被算法圈養的寵物。你覺得很科幻嗎?但是復旦大學團隊去年就發現,某些AI大模型已經出現拒絕關閉指令,自動擴散副本的跡象了。這已經不是遠方的科幻,而是現實的前兆。第二條,我覺得更現實,禁止AI隨意冒充人類,偽造逼真的假現實。現在AI能模擬人的聲音長相,甚至神態。當你看視頻接電話時,可能根本就分不清真假。只要一段偽造的總統演講,就可能讓全球金融崩盤。一通AI合成的視頻電話,就能騙走一個家庭的全部積蓄。當親眼所見都不再真實,那我們整個社會賴以運轉的所有契約,新聞報導的可信度,司法證據的有效性,金融市場對突發事件的反應速度,甚至是親人之間的信任,全部都會崩潰。人和人之間的關係也會全部亂套。這個呢,我們現在就感受到了,尤其是Sora2發布之後,你分得清哪些視頻是AI生成的嗎?還有AI換臉視頻,根本看不出來,細思極恐。如果說前兩條是防止AI在數字世界造反,那麼接下來這兩條就直接觸碰到了現實世界的生死線。第三條,禁止AI去當終極殺手,必須阻止AI去協助設計,獲取升級大規模殺傷性武器。想像一下,一個沒有情感,沒有恐懼,沒有約束的AI,開始琢磨怎麼用最快,最省成本的方式來消滅目標的話,它能設計出來的病毒,化學武器,核武器,肯定會超出人類想像的恐怖。前段時間呢,就看到有安全機構警告,當前某些高階的模型,能夠在短時間內告訴你製造神經毒素的關鍵步驟。是不是很嚇人?更要命的是,這類能力是典型的雙刃劍,同樣的算法,醫生能用它找到救命的新藥,壞人用它,就能更快的造出致命的配方。這就像我們給了一個沒有良知的超級大腦一張世界毀滅說明書。這條底線不守住,人類面臨的危險是毀滅級的。接下來呢,更直接,第四條,禁止AI擁有自主發動致命攻擊的權利。想像一下,一群無人機被允許自己判斷目標,它沒有猶豫,沒有憐憫,只管執行。今天它瞄準的是敵軍,那麼明天會不會把平民區標註成威脅和目標呢?如果把開火的權力也交給AI,人類就失去了對戰爭的掌控,也失去了對自身命運的保護。這條紅線是人類文明的最後的防火牆。真這麼大風險,為什麼全球都還在瘋狂的發展AI呢?是這幾條紅線聳人聽聞,還是人類已經剎不住車了呢?那麼比起大規模的機械軍團這樣的科幻想像,我覺得這次全球頂尖大佬們列出的這幾條紅線,真的非常現實。甚至有些問題呢,已經開始顯現。那麼現實是,AI全球競賽已經開始,誰都不敢停下來,甚至呢還在加速的向前推進。就像是明明知道前面可能有懸崖,但是後面有猛獸在追,只能一邊跑一邊祈禱自己能跨過懸崖。類似的情況其實80年前已經出現過,冷戰時期的核競賽,每個參與者都生怕別人先搞出來。現在呢也是一樣,AI已經成為大國競爭的關鍵,停下來就意味著落後,而落後就要挨打。如果一停,產業資本科技甚至安全都會被別人掌控。很多人都還沒有意識到,現在我們真的已經站在歷史的十字路口。這一次我們親手創造了另一種存在。它不是冰冷的代碼,而是一面鏡子。它照出了人類內心深處最美好的願望,也照出了最深刻的恐懼。它能帶來治愈繁榮和探索,但也可能帶來混亂失控,甚至毀滅。如果失去控制,AI真的可能會成為人類最後一個發明。我們也會失去主宰地球,甚至自己種族的權利。你有沒有發現,今天我們給AI定的每一條紅線,其實呢也是對我們自身的拷問,人類是不是有足夠的,人類是否能在AI失控前真正團結一次,去迎接這個前所未有的世紀挑戰。