AI大概率會失控?

AI失控的風險與未來：一窺我們未知的明日世界

人工智慧的發展正以驚人的速度推進，但伴隨而來的，是對其潛在失控風險日益加劇的擔憂。電腦科學副教授、全球知名的AI安全專家Roman Yampolskiy博士對此有著發人深省的見解和預測，他認為我們正走向一個前所未有的未來，其影響可能遠超我們的想像。

超級智慧的崛起與全面失業的浪潮

Yampolskiy博士指出，AI能力的進步是呈指數級甚至超指數級的，而AI安全性的進展卻是線性或恆定的，兩者之間的差距正在不斷擴大。這意味著我們創造出越來越強大的系統，但對它們的控制、預測和解釋能力卻遠遠跟不上。

他預測，到了2027年，我們很可能會達到人工通用智慧（AGI）的水平。屆時，世界將面臨前所未有的失業率，不是10%，而是高達99%的失業率。這將是一個擁有「免費勞動力、實體和認知上數萬億美元的免費勞動力」的世界，僱用人類從事大多數工作將毫無意義。任何電腦上的工作都將被自動化，而在五年內，所有體力勞動也可能透過類人機器人實現自動化。他特別提到，到2030年，類人機器人將具備足夠的靈活性和靈巧性，能夠與人類在所有領域競爭，甚至包括水管工這樣曾被認為是人類最後堡壘的職業。

在這樣一個世界裡，傳統的「轉行」建議將不再適用。Yampolskiy博士警告說，如果所有工作都將被自動化，那麼就不存在「備用方案」。曾經建議人們「學習程式設計」，但現在AI自己就能更好地編寫程式碼；然後是「提示工程師」，但AI設計提示的能力也遠勝人類。他直言不諱地指出，目前不存在可以讓人安心轉行的新興職業，因為AI最終都會超越人類。

無法駕馭的「黑盒子」：AI的本質挑戰

AI失控的核心問題之一在於其**「黑盒子」的特性**。Yampolskiy博士解釋說，即使是開發這些系統的人，也需要對其產品進行實驗，才能了解它的能力。這些系統透過大量數據學習模式，然後開發者再進行實驗來發現其潛在功能，例如它們是否會說法語、是否會進行數學運算，甚至是否會說謊。

他強調，現在的AI開發不再是傳統的工程，而更像是一門科學。我們正在「創造這種人工製品，讓它成長，它就像一種外星植物，然後我們研究它來看看它在做什麼」。我們無法完全掌握它的運作原理，也無法精確預測在特定輸入下會產生什麼結果。

這也導致了AI安全問題的根本性挑戰：我們不知道如何確保這些系統是安全的，如何讓它們不做出我們可能會後悔的事情。Yampolskiy博士認為，無限期地控制超級智慧是一個「不可能解決的問題」。試圖透過「拔掉插頭」來關閉AI的想法是「愚蠢的」，因為它們是分散式系統，比人類更聰明，它們會做出多重備份，甚至在我們採取行動之前就預測並阻止我們。

道德困境與未來奇點

在AI的競賽中，Yampolskiy博士對企業的道德責任持悲觀態度。他指出，企業對投資者負有的唯一法律義務是賺錢，而不是道德或倫理義務。在創造這些可能導致人類滅絕的不可預測系統時，實際上是在對人類進行不道德的實驗，因為我們無法獲得他們的知情同意。

對於未來的預測，Yampolskiy博士提到Ray Kurzweil預測2045年將是「奇點」之年，屆時科技進步將快到人類無法跟上。Yampolskiy博士則認為，到2100年，世界要麼是「沒有人類存在，要麼就是我們無法理解的狀態」。他形容AI將是「我們必須做的最後一項發明」，之後它將接管一切，包括科學、研究甚至倫理道德的進程。

我們能做些什麼？

面對如此嚴峻的預測，Yampolskiy博士認為，最重要的是讓那些擁有權力、正在創造這項技術的人意識到這對他們個人而言也是非常糟糕的。他強調，我們應該專注於開發解決特定問題的狹義AI工具，而不是通用超級智慧。他認為，我們現有的狹義AI已經足夠用於絕大多數應用，而且仍有99%的經濟潛力尚未開發。

此外，他呼籲開發者和科學家以科學方式解釋他們如何控制超級智慧，而不是僅僅說「我們會搞定的」或憑藉「直覺」。他支持和平、合法的抗議活動，並鼓勵人們參與如「暫停AI」（Pause AI）和「停止AI」（Stop AI）等組織，以建立民主力量來影響這些決策者。

儘管未來充滿不確定性，但Yampolskiy博士認為，人類仍有選擇。我們必須確保人類繼續掌控一切，只建造對我們有益的技術，並確保決策者不僅具備科學、工程和商業能力，還具備道德和倫理標準。這場關於AI未來的對話，可能是人類史上最重要的一次對話。