“如果讓我選擇，我也會簽字，抵制人工智能武器應(yīng)用。”昨天，美國辛辛那提大學(xué)講座教授李杰來滬并接受記者專訪，提及日前霍金、馬斯克等一批科學(xué)界、企業(yè)界人士針對人工智能問題公布警告信一事，李杰毫不猶豫地給出自己的答案。他認(rèn)為，除了可能威脅人類生命的軍事應(yīng)用，人工智能在日常應(yīng)用、情感交流方面同樣存在潛在風(fēng)險。不過，在人工智能進(jìn)步的過程中，人類也從未停止思考評估。隨著機(jī)器人自主學(xué)習(xí)、自我進(jìn)化，人類也會制定相應(yīng)的規(guī)矩和界限。

據(jù)悉，李杰的新書《大數(shù)據(jù)與智能制造的新思維》將由上海交通大學(xué)出版社推出。

群體性警惕正是人類啟動的防御機(jī)制之一

科幻小說家阿西莫夫曾提出“機(jī)器人三定律”：機(jī)器人不得傷害人類;除非違背第一法則，機(jī)器人必須服從人類的命令;在不違背第一和第二法則的情況下，機(jī)器人必須保護(hù)自己。

但是，這一定律固若金湯、堅不可摧嗎?不消說大量科幻小說和電影中，機(jī)器人“誤傷”或“攻擊”人類的情節(jié)，現(xiàn)實(shí)世界里相似的悲劇也不幸上演。就在上個月，德國大眾汽車公司一位正在工作中的員工因被機(jī)器人重重壓向一塊金屬板而導(dǎo)致死亡，這一機(jī)器人“殺死”人類的意外引發(fā)了恐慌。

如今，機(jī)器人技術(shù)已成人類世界不可或缺的一環(huán)，但科學(xué)界憂心忡忡的是：人工智能崛起后，未來機(jī)器人會否自主決定傷害人類?對此，李杰的態(tài)度較為樂觀，他認(rèn)為，人類可以拿出相應(yīng)的足夠智慧來應(yīng)對。“對于醫(yī)療、交通等日常生活領(lǐng)域的機(jī)器人應(yīng)用，市場需求所釋放的信號，可以起到檢驗(yàn)智能應(yīng)用優(yōu)劣的作用;歐洲、日本則根據(jù)機(jī)器人三定律對部分機(jī)器人應(yīng)用領(lǐng)域作出了明確限制。看得出，人類依然在控制著智能應(yīng)用的邊界與進(jìn)程。”

換句話說，無論是霍金等科學(xué)家聯(lián)名簽署抵制信件，還是一大批科幻影視、文學(xué)作品中的憂患與反思內(nèi)核，都表明人類已經(jīng)對人工智能可能帶來的危害拉響了警報，“這種群體性警惕，也正是人類所開啟的自我防御機(jī)制的一種”。

當(dāng)人機(jī)間產(chǎn)生高級情感時，人類該怎么辦

如今，智能制造已不僅僅是過去意義上的小電子玩偶或零部件，而是逐步介入人類情感生活，成為孤寡老人的“貼心保姆”、交流障礙人士的“傾訴對象”，或者干脆充當(dāng)起一部分宅男的日常伴侶。當(dāng)然，這些應(yīng)用目前所占比例不大，但科學(xué)界預(yù)測認(rèn)為，未來的這一現(xiàn)象可能變得不再稀奇。

身為美國國家科學(xué)基金會智能維護(hù)系統(tǒng)產(chǎn)學(xué)合作中心主任，李杰與團(tuán)隊發(fā)現(xiàn)，一項(xiàng)新技術(shù)通常在15年左右被接受，30年達(dá)到廣泛應(yīng)用。在接下來的幾十年里，人工智能也會飛速發(fā)展并嫁接到多個領(lǐng)域。很快，機(jī)器將學(xué)習(xí)到人類優(yōu)點(diǎn)和缺點(diǎn)，模擬人類感情。到那時人類應(yīng)當(dāng)如何與機(jī)器共處?

科幻電影《她》中，人類男性與女機(jī)器人愈發(fā)投緣，人機(jī)友誼也最終演變成一段不被世俗理解的奇異愛情。看上去冷冰冰的高科技面紗，被賦予了高度人性化和活色生香的情趣，機(jī)器人不僅掌握高級思維和創(chuàng)作能力，還變得“有心肝”?？苹米骷翼n松在小說《佛性》里，對機(jī)器人參與信仰膜拜，展開了戲謔而又入木三分的勾畫。有評論家認(rèn)為，一旦投射到現(xiàn)實(shí)世界中，超出一定限度的人機(jī)關(guān)系，必然會撬動人類最基本的倫理、婚姻、家庭價值觀。而在電影《機(jī)器姬》中，機(jī)器人表現(xiàn)出對人類的傾慕，結(jié)果只是利用了人類的信任與愛意，到頭來毀滅了曾經(jīng)的親密。這種暗黑式結(jié)尾無疑提醒人們——如何保證機(jī)器人判斷及行為合乎道德倫理，是科學(xué)家乃至社會學(xué)家、心理學(xué)家亟需思考并研究的命題。

“以往我們多是突出機(jī)器人的協(xié)助地位，但未來人機(jī)間的高度平等互動，這將帶來更多前所未有的樂趣和可能性，但無疑也考驗(yàn)著人類的自覺擔(dān)當(dāng)與道義責(zé)任。”李杰說。