【AI科技新聞分享】借鏡歷史的教訓：猶他大學法學教授 Matthew Tokson 示警，別用今天的技術限制誤判未來的 AI 災難風險

面對 AI 治理的激烈辯論，猶他大學法學教授 Matthew Tokson 發表了重磅論文〈Artificial Intelligence and the Lessons of History〉。他提出一項核心主張：歷史反覆證明，人類總是低估科技突破的爆發力，並高估其正面效益。政策制定者絕不能以「過去的新科技最終都造福人類」為由而對 AI 採取放任態度。他挑戰了科技樂觀派與懷疑派的盲點，並透過冷戰核武等四大歷史教訓，為現代 AI 軍備競賽與監管制度敲響警鐘。

1. 破解兩大歷史類比的盲點
   Tokson 教授指出，目前無論是樂觀派還是懷疑派，都在過度簡化歷史：
   反對「過度反應論」（樂觀派）： 樂觀派認為 AI 就像當年的印刷術或網際網路，初期的恐慌只是過度反應。但歷史表明，網際網路雖帶來經濟繁榮，但也為威權政府提供了大規模監控、資訊審查與政治宣傳的溫床。科技的經濟效益並不等同於社會福祉。
   反對「炒作泡沫論」（懷疑派）： 懷疑派認為 AI 只是另一個被高估的技術。教授以 1938 年前的核物理學界為例：當時連愛因斯坦與歐本海默都斷言從原子中提取能量是不可能的。專家們往往極度了解「現存技術」，卻無法預見「尚未存在的突破」（如當年的 Transformer 架構）。因此，用現今 LLM 具有幻覺或缺乏自主性的限制，去推論未來模型的能力上限，是高度不可靠的。

2. 氣候變遷的啟示：不確定性不是不作為的理由
   論文將 AI 風險辯論與全球暖化歷史進行對比：
   遲到的代價： 科學界早在 19 世紀就發現二氧化碳的保溫作用，但政策制定者長期以「模型不完美、證據不夠確定」為由推遲行動。
   AI 的超高速特質： 氣候變遷是數十年的緩慢累積，但 AI 突破可能在一夕之間發生。等到災難性證據完全確立時，人類可能已徹底失去介入的最佳時機。

3. 冷戰核武競賽與美中 AI 競爭的危險邏輯
   當前反對 AI 監管最常見的擋箭牌是：「美中正在進行 AI 軍備競賽，過多監管只會讓中國超越。」Tokson 教授引用冷戰歷史強力駁斥：
   短暫領先無法轉化為持久優勢： 美國在 1945 年率先研製原子彈、1952 年率先測試氫彈，但蘇聯很快透過情報與自研抹平差距。贏得競賽並未帶來安全，反而創造了「相互保證毀滅（MAD）」的恐怖平衡。
   技術易複製性： 在容易被竊取、複製或逆向工程的 AI 領域，盲目追求速度只會迫使對手加速追趕，增加事故機率，卻無法形成長期戰略優勢。

4. 削弱最後的安全閥：AI 整合軍事決策的致命風險
   冷戰時期人類之所以未爆發全面核戰，論文指出這高度仰賴三個脆弱因素：偶然的運氣、決策者的理性，以及「人類有能力否決自動化系統」（例如 1983 年蘇聯軍官 Petrov 頂住系統誤報，冷靜判定其為故障，才避免了核報復）。
   自動化連鎖反應： 一旦軍方為了縮短決策時間，將 AI 深度整合進核武指揮與自主武器系統，第三個安全閥將被削弱。未來可能演變成「AI 偵測疑似攻擊 ➔ 對手 AI 自動回應 ➔ 雙方系統錯誤解讀 ➔ 衝突在人類尚未理解狀況前便已不可逆」，這將是 AI 最立即且具體的災難性風險。

結論與政策前瞻：建立靈活動態的防護網
Tokson 教授強調，即使是頂尖專家如愛因斯坦也會錯估科技走向，因此政策制定不能依賴單一權威或企業領袖，而應整合跨領域的風險模型：
前瞻性監管： 面對無法準確預測的 AI 發展，政府不應採取「等出了事再說」的被動態度，而應採取風險管理思維。
動態防護： 提前建立能隨著 AI 能力變化而即時調整的系統性監管制度，才是確保人類在科技狂飆中倖存的唯一解方。