歷史學(xué)者、哲學(xué)家暨暢銷作者，出生于以色列海法，2002年在牛津大學(xué)取得博士學(xué)位，目前是耶路撒冷希伯來大學(xué)歷史系講師，也是劍橋大學(xué)「存在風(fēng)險(xiǎn)研究中心」（CSER）特聘研究員。著有《人類大歷史》、《人類大命運(yùn)》、《21世紀(jì)的21堂課》等書，為世上具影響力之公共知識(shí)份子之一。
?
許多專家警告，AI正對(duì)人類生存造成威脅。但也有其他專家認(rèn)為，這種警告是杞人憂天。如果今天講的是核武，大家都很清楚危險(xiǎn)所在；但講到AI，就很難看懂這究竟是危險(xiǎn)在哪？從工業(yè)革命的歷史，就能幫助我們了解這場(chǎng)新的「AI革命」與生俱來的危險(xiǎn)。
?
許多專家警告，AI崛起可能使人類文明崩潰，甚至是人類物種滅絕。一項(xiàng)2023年的研究調(diào)查了2,778名AI研究者，結(jié)果也顯示有超過三分之一認(rèn)為，先進(jìn)的AI有至少10%的機(jī)率會(huì)造成等同于人類滅絕一樣可怕的結(jié)果。2023年有將近三十個(gè)國(guó)家政府簽署了關(guān)于AI的《布萊切利宣言》，其中就承認(rèn)：「從這些AI模型最重要的功能，可能有意或無意地造成嚴(yán)重、甚至災(zāi)難性的傷害?！?/p>
?
對(duì)某些人來說，可能覺得這些警告就是杞人憂天。每當(dāng)出現(xiàn)強(qiáng)大的新科技，都有人焦慮世界末日就要來臨。舉例來說，當(dāng)初隨著工業(yè)革命進(jìn)展，許多人都擔(dān)心蒸汽機(jī)和電報(bào)會(huì)摧毀人類社會(huì)、毀滅人類的幸福。但到頭來，這些機(jī)器生產(chǎn)出了史上最富足的社會(huì)。時(shí)至今日，大多數(shù)人的生活狀況都比十八世紀(jì)的祖先好多了。許多熱情擁抱AI的專家都保證，各種智能機(jī)器絕對(duì)會(huì)比過去的所有機(jī)器帶來更大的好處。他們說，有了AI，人類就能享有更好的健康照護(hù)、教育與其他服務(wù)，甚至還能協(xié)助拯救生態(tài)系統(tǒng)免于崩潰。
首先學(xué)會(huì)善用科技
遺憾的是，只要看歷史看得仔細(xì)一點(diǎn)，就會(huì)發(fā)現(xiàn)人類確實(shí)有充分的理由，該對(duì)強(qiáng)大的新科技抱持幾分畏懼。就算這些科技到了最后是利大于弊，但在那個(gè)快樂結(jié)局之前，往往得先經(jīng)歷百般磨難與考驗(yàn)。新科技之所以常常帶來歷史上的災(zāi)難，并不是科技本身有什麼問題，而是人類得花點(diǎn)時(shí)間，才能學(xué)會(huì)善用科技。
?
工業(yè)革命就是個(gè)很好的例子。工業(yè)技術(shù)在十九世紀(jì)開始傳向全球，顛覆傳統(tǒng)的經(jīng)濟(jì)、社會(huì)與政治結(jié)構(gòu)，彷佛打開一條道路，讓人類有機(jī)會(huì)創(chuàng)造出更富裕平和的全新社會(huì)。然而，要學(xué)習(xí)建立一個(gè)良性的工業(yè)社會(huì)，絕沒有那麼簡(jiǎn)單，得經(jīng)過許多昂貴的實(shí)驗(yàn)，還得產(chǎn)生數(shù)以億計(jì)的受害者。
?
正因?yàn)楦鞣綄?duì)于「如何建立工業(yè)社會(huì)」的看法不一，就造成了代價(jià)高昂的沖突。兩次世界大戰(zhàn)與冷戰(zhàn)就像是一連串關(guān)于誰(shuí)是誰(shuí)非的辯論，各方都能互相學(xué)習(xí)，嘗試用新的工業(yè)方法來發(fā)動(dòng)戰(zhàn)爭(zhēng)。但在辯論的過程中，就造成數(shù)千萬人死亡，人類差點(diǎn)自我毀滅。
?
除了以上這些災(zāi)難，工業(yè)革命也破壞了全球生態(tài)平衡，導(dǎo)致一波物種滅絕。在二十一世紀(jì)初，據(jù)信每年有高達(dá)58,000種物種滅絕；從1970年至2014年，脊椎動(dòng)物族群總數(shù)減少了60%。人類文明的生存也受到威脅。直到現(xiàn)在，我們似乎還是沒能建立起一個(gè)生態(tài)永續(xù)的工業(yè)社會(huì)，我們這個(gè)世代得意洋洋的繁榮景象，背后恐怖的代價(jià)都得留給眾生與人類的子子孫孫來承擔(dān)?；蛟S人類總有一天會(huì)找到辦法（也許正是透過AI的協(xié)助），打造出能夠生態(tài)永續(xù)的工業(yè)社會(huì)，但在那之前，工業(yè)革命的成敗仍難有定論。
透過AI做出決策
即便如此，這給二十一世紀(jì)傳達(dá)的訊息依然并不樂觀。要是人類得經(jīng)過這麼多可怕的教訓(xùn)，才學(xué)會(huì)如何管理蒸汽動(dòng)力與電報(bào)技術(shù)，現(xiàn)在還得再付出多少代價(jià)，才能再學(xué)會(huì)管理AI？比起蒸汽機(jī)、電報(bào)和所有過去的科技，AI不但可能遠(yuǎn)遠(yuǎn)更為強(qiáng)大，也遠(yuǎn)遠(yuǎn)更加難以管理，因?yàn)锳I正是史上第一個(gè)能夠自行做決策、創(chuàng)造新想法的科技。AI不是個(gè)工具，而是能夠做出決定的行為者。
?
就智能而言，AI不但遠(yuǎn)遠(yuǎn)超越了原子彈，更超越了像是泥板、印刷機(jī)、收音機(jī)這些所有過去的資訊技術(shù)。泥板能夠儲(chǔ)存關(guān)于稅務(wù)的資訊，但無法自行決定要收多少稅，也無法發(fā)明某種全新的稅目。印刷機(jī)能夠復(fù)制《圣經(jīng)》這樣的資訊，但無法決定《圣經(jīng)》要收錄哪些文本，也無法對(duì)這本宗教經(jīng)典加上新的注釋。收音機(jī)能夠傳播政治演講與交響樂等資訊，但無法決定要播放哪些演講或交響樂，也無法創(chuàng)作演講或交響樂。AI則是能夠做到這所有一切，甚至是創(chuàng)造出新的大規(guī)模毀滅性武器，到無比要命的傳染疾病。過去的印刷機(jī)或收音機(jī)只是人類手中的被動(dòng)工具，但AI正在成為一種主動(dòng)的行為者，可能得以擺脫人類的掌握與理解，主動(dòng)形塑社會(huì)、歷史與文化。
?
或許人類總有一天能夠找到辦法，讓AI不至于失控，真正為人類帶來福利。然而，人類在這之前，是不是又得再次經(jīng)歷全球帝國(guó)、極權(quán)政體與世界大戰(zhàn)的循環(huán)，才能搞清楚如何善用AI？而且，比起二十世紀(jì)的科技，這些二十一世紀(jì)的科技更具威力，我們能犯錯(cuò)的空間也更受限制。在二十世紀(jì)，人類在「工業(yè)技術(shù)運(yùn)用」這門課上，可以說只拿了個(gè)60分，勉強(qiáng)低空飛過。但在二十一世紀(jì)，過關(guān)的門檻高得多，這次可得表現(xiàn)得更好才行。
?
出自：《連結(jié)：從石器時(shí)代到AI紀(jì)元》／天下文化出版社
