每經(jīng)編輯｜每經(jīng)記者 張斯 實習(xí)記者 劉春山 每經(jīng)編輯 盧祥勇    

每經(jīng)記者 張斯 實習(xí)記者 劉春山 每經(jīng)編輯 盧祥勇

在科幻影片里面，人工智能機器人不止一次地實現(xiàn)了自我意識覺醒。以AI為主題的美劇《西部世界》中，男主角雖然知道心愛之人是機器人，依然義無反顧的愛上了它，而機器人也找尋到了“在這個世界唯一的真實的東西”——自由意識。

在關(guān)于人工智能的一系列憂慮中，倫理問題是最主要的一個。在首屆“太和文明論壇”舉行期間，多位行業(yè)人士表示，從目前技術(shù)來看，人工智能尚未面臨失控的局面，人工智能所呈現(xiàn)出來的感情是虛假的。科學(xué)家還沒有研究清晰人類自我意識為何物，實現(xiàn)機器人真正的自我意識很遙遠也很渺茫。

帶來新的情感和隱私問題

新技術(shù)的出現(xiàn)一次次實現(xiàn)人類能力的外延，但是歷史上從未有某一技術(shù)直接和人類大腦進行競爭。

科學(xué)家把“強人工智能”定義為出現(xiàn)真正有自主意識、且可確證其主體資格的“智能”，而不是AlphaGo這樣僅僅比機械計算發(fā)展了更多層次的推理能力和學(xué)習(xí)能力的程序。與強人工智能所對應(yīng)的，是遵循人類計算機算法的弱人工智能。

在微軟亞太研發(fā)集團副總裁商容看來，人工智能需要有理性，也需要有感性，涉及感性就會涉及到倫理和隱私等問題。而聯(lián)想創(chuàng)投董事總經(jīng)理王光熙則認(rèn)為，未來人工智能或許具備情感，這就牽扯到未來人類智慧和機器智能之間的界限在哪，或者是界限會被抹去。

當(dāng)人工智能具備了情感，就會與人類出現(xiàn)戀人、親人等關(guān)系，這將拷問現(xiàn)代倫理規(guī)范。信幀機器人創(chuàng)始人賀江濤認(rèn)為，在實際工作當(dāng)中，曾遇到人類對機器人產(chǎn)生感情的事件。“公司旗下的一款娛樂機器人，其視頻在網(wǎng)絡(luò)上有億次多的點擊量，視頻中這個機器人的頭部被拍打了一下，一位母親在看直播后就憤怒了，她說這是我女兒公司做的機器人，你怎么能打他呢？”這時候賀江濤發(fā)現(xiàn)，人類對這臺機器人產(chǎn)生了感情，與這臺機器人有了某些聯(lián)系。

除了情感，人工智能還涉及到隱私安全問題。之前發(fā)生過美國兩夫妻吵架，而家中智能音響在察覺環(huán)境信息之后，做了自動報警處理事件。這其中，智能音響一直在“竊聽”夫妻的對話，以做出合適的應(yīng)對，很顯然其反饋結(jié)果并非這對夫妻所愿。

擁有自我意識還很遙遠

在今年6月份，一份論文透露了這樣一項實驗：Facebook的研究人員希望通過訓(xùn)練一對聊天機器人，讓它帶著“目的”和人類對話。研究人員發(fā)現(xiàn)，人工智能甚至能夠?qū)Σ幌胍臇|西偽裝出興趣。雖然后來Facebook進行了澄清，這也不得不啟發(fā)我們?nèi)ニ伎既斯ぶ悄軙粫惺Э氐哪且惶欤?/p>

微軟亞洲研究院副院長潘天佑在接受《每日經(jīng)濟新聞》記者專訪時表示，當(dāng)前人工智能的發(fā)展不見得失控，失控聽起來很恐怖。作為一名計算機科技工作者，經(jīng)常向人解釋真實的科學(xué)和科幻電影的差距還非常大。

“很多時候，我們覺得人工智能的某些應(yīng)用呈現(xiàn)出好像有感情、好像有情商，其實這個仍然是虛擬的。比如語音聊天，它從互聯(lián)網(wǎng)上面學(xué)習(xí)很多人類的聊天方式，它回答的某一句話，可能讓人覺得有感情。但這個感情，還是通過機器學(xué)習(xí)而實現(xiàn)的，還沒有自我意識的發(fā)生。”潘天佑說道，我們自己還沒有探討清楚人類的意識是什么？怎么去設(shè)計出一個東西有感情呢？

根據(jù)專家的觀點，無論當(dāng)前人工智能系統(tǒng)如何模仿人腦“神經(jīng)網(wǎng)絡(luò)”，對話、行動等方面如何像人，只要人類心智現(xiàn)象的最終解釋沒有取得突破性進展，關(guān)于人工智能是否逼近人類的設(shè)問就缺少必要的前提。

從發(fā)展程度上來說，目前我們發(fā)展的還是弱人工智能，強人工智能技術(shù)是否能實現(xiàn)尚未可知。潘天佑對《每日經(jīng)濟新聞》記者表示，未來的事情沒有人真的知道，從現(xiàn)在的狀態(tài)來看，人工智能的感情還僅僅是虛擬的，不用擔(dān)心人工智能可以做到像人類一樣擁有自我意識、個人感情。

《互聯(lián)網(wǎng)進化論》作者、計算機博士劉鋒對《每日經(jīng)濟新聞》記者表示，如果人工智能被看作與人類同等地位的智慧生命體，它與人類社會的關(guān)系存在倫理道德問題。如果人工智能本質(zhì)上與菜刀一樣屬于工具，那么工具本身并不存在倫理問題。

但有一點不可否認(rèn)，人工智能已經(jīng)悄然影響著人類的思維方式。正如太和智庫副理事長兼秘書長伊迪所說，人工智能在某一個領(lǐng)域或者是某種程度上來說已經(jīng)超越了人類大腦，可以做到人所不能的事情，對人類的思維方式產(chǎn)生影響。比如，人類思考問題的方式主要為因果關(guān)系，未來人工智能包括大數(shù)據(jù)的發(fā)展更強調(diào)相關(guān)性。