最近，網(wǎng)絡(luò)和微信上有一篇長(zhǎng)達(dá)3萬(wàn)余字的譯文在流傳，文章的標(biāo)題是《為什么有很多名人讓人們警惕人工智能?》。篇首有這樣一段話(huà)：“人工智能很可能導(dǎo)致人類(lèi)的永生或者滅絕，而這一切很可能在我們的有生之年發(fā)生。”上面這句話(huà)不是危言聳聽(tīng)，請(qǐng)耐心地看完本文再發(fā)表意見(jiàn)。

文中稱(chēng)，史蒂芬·霍金、比爾·蓋茨等著名人士都發(fā)出了警告：如果智能機(jī)器缺乏監(jiān)管，人類(lèi)將迎來(lái)一個(gè)黑暗的未來(lái)。而美國(guó)特斯拉汽車(chē)公司首席執(zhí)行官埃隆·馬斯克則說(shuō)：人工智能可能是我們面臨的最大滅絕風(fēng)險(xiǎn)，創(chuàng)造人工智能猶如召喚一只惡魔。他預(yù)計(jì)“一些極為危險(xiǎn)的事情即將發(fā)生”，最快將在5年內(nèi)。

無(wú)機(jī)生命(機(jī)器)會(huì)發(fā)展出與有機(jī)體類(lèi)似的生存和競(jìng)爭(zhēng)意志嗎?有朝一日當(dāng)機(jī)器智能超越人類(lèi)并不受人類(lèi)控制時(shí)，我們將會(huì)遇到什么危險(xiǎn)?類(lèi)似這樣的話(huà)題或場(chǎng)景，我們常常在科幻小說(shuō)和科幻電影中遇到。近年來(lái)，也有越來(lái)越多的圖書(shū)涉及。較早出現(xiàn)也較有影響的是《機(jī)器的征途——為什么機(jī)器人將統(tǒng)治世界》一書(shū)([英]凱文·渥維克著，內(nèi)蒙古人民出版社，1998)，作者系英國(guó)雷丁大學(xué)教授、控制論與機(jī)器人研究專(zhuān)家。全書(shū)著眼于描述機(jī)器已發(fā)展得比人類(lèi)更聰明的未來(lái)時(shí)代，并展示了第一批能夠?qū)W習(xí)、互相交流和自我設(shè)計(jì)程序的機(jī)器人。作者感慨技術(shù)變革之快，恐怕將使得事物發(fā)展的結(jié)果非我們所愿意看到，甚至不能掌控。他斷言：“在2050年，我們?nèi)祟?lèi)為機(jī)器所驅(qū)使，必須做機(jī)器規(guī)定我們做的事情……”而隨后出現(xiàn)的《制腦者：創(chuàng)造堪與人腦匹敵的智能》一書(shū)([美]戴維·弗里德曼著，三聯(lián)書(shū)店，2001)，倒沒(méi)有什么悲觀的色調(diào)。全書(shū)梳理了人類(lèi)不斷認(rèn)識(shí)自身智能的歷程和人工智能概念的源流，展示了人類(lèi)創(chuàng)造人工智能所取得的一些里程碑式的成果。其中有：給機(jī)器上裝上“大腦”;讓機(jī)器人具有腦電波并具有不規(guī)則的思維活動(dòng);創(chuàng)造出一種新的電腦芯片，具有大腦細(xì)胞的功能……機(jī)器智能超越人類(lèi)時(shí)的夢(mèng)魘，隨著《靈魂機(jī)器的時(shí)代：當(dāng)計(jì)算機(jī)超過(guò)人類(lèi)智能時(shí)》([美]雷·庫(kù)茲韋爾著，上海譯文出版社，2002)一書(shū)的出版，又一次縈繞在人們心頭。該書(shū)出版于1999年，作者系美國(guó)著名的發(fā)明家和思想家，在書(shū)中他做出了驚人的預(yù)言：到21世紀(jì)初，地球上將出現(xiàn)一種足以與人類(lèi)智能抗衡的新型智能，最終它將遠(yuǎn)遠(yuǎn)超過(guò)人類(lèi)的智能。庫(kù)茲韋爾還想象，將來(lái)的類(lèi)人智能體也能夠擁有像意識(shí)、情緒這樣的特質(zhì)。

2005年，《奇點(diǎn)臨近：2045年，當(dāng)計(jì)算機(jī)智能超越人類(lèi)》([美]雷·庫(kù)茲韋爾著，機(jī)械工業(yè)出版社，2013)一書(shū)問(wèn)世，并成為當(dāng)年美國(guó)最暢銷(xiāo)非小說(shuō)類(lèi)圖書(shū)和亞馬遜最佳科學(xué)圖書(shū)。此書(shū)更為系統(tǒng)、全面地表達(dá)了庫(kù)茲韋爾預(yù)測(cè)人工智能和科技未來(lái)的觀點(diǎn)。特別是對(duì)“奇點(diǎn)”的概念和涵義進(jìn)行了詳細(xì)的闡釋。他還預(yù)測(cè)了機(jī)器智能趕超人類(lèi)智能之各個(gè)方面后發(fā)展的下一階段：人類(lèi)與機(jī)器的聯(lián)合，即嵌入我們大腦的知識(shí)和技巧將與我們創(chuàng)造的容量更大、速度更快、知識(shí)分享能力更強(qiáng)的智能相結(jié)合。這種融合便是奇點(diǎn)的本質(zhì)。庫(kù)茲韋爾的預(yù)言和觀點(diǎn)在被廣為傳播的同時(shí)，也引起了極大的爭(zhēng)議，乃至強(qiáng)烈的質(zhì)疑。但庫(kù)茲韋爾堅(jiān)信自己的論斷言之成理，一種“深刻的變化”必然會(huì)發(fā)生。而他所構(gòu)想出的關(guān)于科技進(jìn)化的理論——“加速回歸理論”，能夠解釋為什么在宇宙的總體進(jìn)化中，技術(shù)和進(jìn)化將以指數(shù)的速度向前推移。這也貫穿著在過(guò)去的30年里他逐漸認(rèn)識(shí)到的“一個(gè)重要的基本思想”：改變世界的思想力量其本身也正在加速。換句話(huà)說(shuō)，并不只是科技在飛速地發(fā)展，“發(fā)展”本身也在不斷地躍進(jìn)。

人工智能機(jī)器的潛在智能是真實(shí)且巨大的——將是人類(lèi)的萬(wàn)億個(gè)萬(wàn)億倍?；蜻t或早，科學(xué)會(huì)產(chǎn)生一種和人類(lèi)一樣運(yùn)作的人工生命形式。人工智能問(wèn)題(或者說(shuō)物種支配問(wèn)題)將主宰新世紀(jì)的全球政治。果真如此的話(huà)，那將是人類(lèi)歷史上最大的災(zāi)難，因?yàn)樵僖矝](méi)有歷史了，再也沒(méi)有人類(lèi)了。這是《智能簡(jiǎn)史——誰(shuí)會(huì)替代人類(lèi)成為主導(dǎo)物種》([美]雨果·德·加里斯著，清華大學(xué)出版社，2007)一書(shū)所表述的主要觀點(diǎn)，其作者是用這樣一句短語(yǔ)結(jié)束了本書(shū)：“我們是在制造上帝，還是在制造我們潛在的敵人?”德·加里斯坦言他所從事的工作幾乎讓他精神分裂，并且?guī)е艽蟮呢?fù)罪感，“因?yàn)槲艺J(rèn)為我的工作就是問(wèn)題的一部分。”凱文·渥維克在為《智能簡(jiǎn)史》一書(shū)所寫(xiě)的推薦序中則寫(xiě)道：“幾十年后，如果德·加里斯關(guān)于‘物種主導(dǎo)問(wèn)題將在本世紀(jì)主導(dǎo)全球政治’的言論被證實(shí)是正確的話(huà)，那么他將是21世紀(jì)最主要的思想家之一。”

自20世紀(jì)40年代計(jì)算機(jī)被發(fā)明出來(lái)之后，機(jī)器就一直被寄予厚望，人工智能的先驅(qū)者們大多數(shù)時(shí)候都不認(rèn)為他們的事業(yè)可能會(huì)存在風(fēng)險(xiǎn)。英國(guó)數(shù)學(xué)家歐文·約翰·古德大概是清晰闡述人工智能未來(lái)圖景的第一人，早在1965年他就指出：“我們把超智能機(jī)器定義為具備超越所有聰慧人類(lèi)智能活動(dòng)的機(jī)器。一旦機(jī)器設(shè)計(jì)成為一項(xiàng)智能活動(dòng)，那么，超智能機(jī)器就能設(shè)計(jì)出更好的機(jī)器。毫無(wú)疑問(wèn)，肯定會(huì)出現(xiàn)諸如‘智能爆發(fā)’這樣的局面，人類(lèi)智能會(huì)被遠(yuǎn)遠(yuǎn)地甩在后面。因此，第一臺(tái)超智能機(jī)器將是人類(lèi)制造的最后一臺(tái)機(jī)器。”目前人工智能方面存在的顯著風(fēng)險(xiǎn)，便與前述“智能爆發(fā)”相關(guān)，所以我們必須以最嚴(yán)肅的態(tài)度審視之——《超級(jí)智能：路線(xiàn)圖、危險(xiǎn)性與應(yīng)對(duì)策略》([英]尼克·波斯特洛姆著，中信出版社，2015)一書(shū)如是說(shuō)。該書(shū)詮釋了可能出現(xiàn)的超級(jí)智能帶來(lái)的挑戰(zhàn)，以及我們應(yīng)該如何更好地應(yīng)對(duì)。作者認(rèn)為，這很可能是人類(lèi)面對(duì)的最重要和最可怕的挑戰(zhàn);而且，不管我們成功與否，這大概都是我們將要面對(duì)的最后一個(gè)挑戰(zhàn)。

更重要的一點(diǎn)或許在于，我們?cè)俨荒芤钥创^(guò)去的視野，去理解必將超越它的事物了。

相關(guān)熱詞搜索：