AI 的「哈布斯堡詛咒」

哈布斯堡王朝 (Habsburg dynasty) 在歐洲曾經是不可一世的存在。在長達數百年的時間裡，他們的血脈遍佈西班牙、奧地利乃至半個歐洲。但是這個家族幾乎每個人都有一個明顯的特徵：異常突出、厚重的下巴、以及下垂的嘴唇。這是後來廣為人知的「哈布斯堡下巴」(Habsburg jaw)。

當時哈布斯堡家族為了鞏固權力、確保將龐大的領土和財富世世代代都牢牢鎖在家族內部，居然用了一個現在看起來令人不可思議、細思極恐的辦法：近親通婚 (inbreeding)。叔叔迎娶姪女，表兄妹結合，在好幾個世代當中，這種近親聯姻被哈布斯堡家族視為保持「血統純正」的必要手段。

他們確實成功地將權力和財富留在了家族中，但也開始將有害的遺傳隱性基因不斷累積和放大。大家可以想想，近親通婚要是這樣持續 10 代以上，會發生什麼事情？這個歷史上赫赫有名的家族，就這樣幫我們做了一個肉身實驗。

後來，事實證明「哈布斯堡下巴」只是遺傳問題的冰山一角，隨之而來的是一系列更嚴重的狀況：高夭折率、癲癇、智力缺陷。這個詛咒一直延續到西班牙哈布斯堡王朝的末代國王卡洛斯二世。他身患多種遺傳疾病，終生殘疾，最後無法留下任何後代。

一個曾經統治世界的王朝，就這樣因為這種「自我參照」和「基因多樣性的喪失」，走向了衰敗，最終滅亡。

沒想到，數百年後在 AI 這個領域，這個古老的詛咒重新在人類科技創造領域上演。

AI 產業已經開始面臨一個嚴重的問題：我們快要用完所有「可用的公開資料」了。根據估計，2026-2028 這段時間，AI 公司們就會把所有網路上的公開資料給爬完用完。這聽起來有點不可思議，畢竟對我們人類來說，網路上的資料感覺就像是有無限多一樣，怎麼看也看不完，怎麼可能有用完的一天呢？但這完全是因為我們身為人類只有一個小小的腦袋，一生都裝不了太多的資訊。

所以，現在 AI 公司在訓練 AI 時，基本上都是讓 AI 把網路上的資料「反覆看過好幾遍」。沒有任何一個人類可以做到這種事情，這完全是因為過去幾十年電腦儲存和運算能力的持續增加，終於讓原本難以想像的龐大公開資料，也能一次在短時間内被 AI 消化完畢，因此現在幾間大型的 AI 公司都面臨了資料短缺的問題。

你或許會說，可是人類會持續產生更多的資料啊！沒有錯，但這些新產生的資料邊際效益並沒有這麼大，說得直白一點，人類產生出新知識的速度並沒有這麼快，實際上是非常緩慢，而且大多數新產生出來的資料對於 AI 的進步已經沒有幫助了(想想你每天發的廢文吧！真没有什麼營養！）。而且而且，就算好不容易產生出來，對訓練 AI 有用的新知識，這個新知識也是一瞬間就被狼吞虎嚥的 AI 吃掉了。

所以，頂尖的 AI 模型已經「吃掉」了網路上幾乎所有唾手可得的高品質文字和圖像。於是，為了讓 AI 繼續進化、變得更強，AI 公司被迫轉向一個看似合理、卻暗藏風險的解決方案：讓 AI 去學習「由 AI 自己生成的資料」。

這在 AI 領域，被稱為「合成數據」(synthetic data)。 這就是在哈布斯堡王朝，被稱為「近親通婚」。

過去兩年，有幾篇學術論文已經證實，一旦我們這樣子做，經過幾次迭代之後，AI 的輸出品質就會變得越來越糟糕，甚至會到完全不能用的地步。研究人員因此給了這個現象一個暱稱：「哈布斯堡效應」Habsburg Effect。或者更專業一點的學術名稱：「模型崩潰」(model collapse)。

這個過程，就像你拿著一台影印機，去影印「上一次影印出來的影本」，每次都拿新印出來的文件再去影印，反覆這樣操作幾次之後，你會開始發現，文件越印越模糊。

「原始的資料」其實像是一幅充滿了豐富細節、生動色彩、甚至帶有一些小小瑕疵的原創風景畫。當中這些「瑕疵」和「罕見筆觸」，例如冷門知識、細微的小技巧、幽默感、獨特的寫作風格等等，其實代表了非常重要的「基因多樣性」。

第一次影印（AI 第 1 代）： AI 學習了這幅畫，並生成了一份「影本」（合成數據）。這份影本非常出色，99.9% 接近原版。但是，AI 作為一個統計模型，在訓練的過程當中，它會不自覺地「取平均值」。它會稍微「平滑」掉那些它認為不重要的「小瑕疵」spikes（罕見知識），並稍微「強化」那些最常見的特徵 features（主流觀點）。

第二次影印（AI 第 2 代）：現在，下一代 AI 拿去學習的，是那份「第一次的影本」。它會學到那個 99.9% 準確、但「稍微平滑過」的版本。然後，它會在這個基礎上「再次取平均值」。

第 N 次影印（AI 第 N 代）： 這個過程不斷重複。AI 學習 AI 的輸出，再學習 AI 的 AI 的輸出，這就是我們所謂的「自我參照迴圈」(Self-Referential Loop)。

經過 N 代「近親通婚」後，AI 開始顯現出與哈布斯堡王朝「近親繁殖」inbreeding 驚人相似的機能衰敗症狀：

1. 特徵放大與平庸化 (大下巴 the "jaw"視為常態)：AI 變得極度「無聊」且「可預測」。就像「哈布斯堡下巴」這個特徵在每一代都被強化，AI 最「平均」、最「主流」的特徵也被無限放大。所有原創的、獨特的、古怪的、有創意的「基因」（數據多樣性）都在這個「反覆影印」中被消磨殆盡。最終，AI 只會生成那些最「四平八穩」、最「政治正確」、但也最沒有靈魂的內容。

2. 遺忘「尾部」 (forgetting the "tails")：真實的世界充滿了「長尾」數據，也就是那些大量罕見但真實的知識。AI 在「取平均」的過程中，會最先丟棄這些「尾部」知識 (如小撇步)，因為它們不常出現。幾代之後，AI 會徹底「遺忘」現實世界的多樣性。它會變得越來越「純粹」、「普通」，但也越來越「無知」。

3. 錯誤放大 (amplified bias)：如果 AI (Gen 1) 犯了一個小錯誤（例如，它在 1% 的時間裡認為「鯊魚是哺乳動物」）。AI (Gen 2) 會把這個「1% 的錯誤」當作「真實資料」來學習。幾代之後，這個小錯誤會被不斷放大，直到 AI (Gen N) 堅定地認為「鯊魚絕對是哺乳動物」。

4. 王朝終結 (total collapse)：研究證明了這個AI 崩潰的終點，如果完全依賴合成數據，AI 模型最終會「忘記」語言和現實世界的基本結構，其輸出會退化成毫無意義、不斷重複的胡言亂語 (gibberish)，與現實世界產生偏差。

這或許可以稱作 AI 的「哈布斯堡詛咒」Habsburg curse 吧。一個古老王朝為了維持血統純正(基因的侷限性)而逐漸走向滅亡的故事，竟在數百年後，人類在訓練 AI 時再次重現。

所以，這個AI 工程學上的「詛咒」已不再是理論。它是 OpenAI、Google 和 Anthropic 這些頂尖 AI 公司都正在拼命想解決的核心難題。現在 AI 撞上的這道「數據之牆」digital wall，其實就是其中一道阻礙擴展定律繼續發揮強大效用的牆。尤其現在各國「數位主權」digital sovereignty 概念下的「主權AI」Sovereign AI 的興起，更加速AI 詛咒的來臨。

因此，現在各大AI 公司別無選擇，必須想辦法使用「合成數據」來跨越數據之牆，讓 AI 的能力繼續進步。接下來的 AI 競賽，至少在數據層面上，關鍵已經不是誰能造出更大的模型，而是誰能率先掌握「AI 基因工程」：

* 如何在合成數據時，保持最大的「基因多樣性」？
* 如何確保每一代訓練中，都混入一定比例「新鮮的、真實的人類血液」（新的人類知識資料），以避免「近親通婚」？

歷史在這邊也給了我們重要的啟發，一個封閉的、只靠自我參照的系統，無論它一開始多麼厲害，最終都將走向僵化和衰敗。AI 想要通往更廣闊的未來，就絕不能切斷與豐富、混亂、甚至充滿「瑕疵」的真實世界的連結。也許就跟人一樣，我們不能總是在我們的腦袋裡或是小圈圈裡想事情，還是要持續接觸外面的世界，吸收新的觀念想法、知識、和體驗。

因此我們認為，人類在歷史長河中演化論累積下來的經驗、法則和基礎，將會是下一代 AI 突破的重要關鍵。