超級(jí)人工智能很可能威脅人類生存！牛津大學(xué)、谷歌AI研究人員發(fā)出警告→

每經(jīng)編輯｜王月龍 高涵 易啟江    

牛津大學(xué)和谷歌人工智能部門 DeepMind 的研究人員聲稱， 高級(jí)形式的人工智能很有可能 “對(duì)地球上的生命構(gòu)成威脅” 。

在他們合著的一篇發(fā)表于同行評(píng)審期刊 AI Magazine 的論文中，研究人員警告稱，如果某些人工智能體的發(fā)展繼續(xù)下去，將會(huì)產(chǎn)生“災(zāi)難性后果”。

該論文提出一個(gè)場(chǎng)景， 人工智能為了獲得預(yù)先編程時(shí)所設(shè)置的獎(jiǎng)勵(lì)，可能會(huì)發(fā)展出作弊策略。實(shí)驗(yàn)認(rèn)為人類最終會(huì)與人工智能爭(zhēng)奪資源。

“在我們已確定的條件下，我們得出的結(jié)論比以往發(fā)表的任何文章都要確鑿得多——‘生存災(zāi)難’不僅可能發(fā)生，而是很有可能。”來自牛津大學(xué)的論文合著者科恩此前在推特上寫道。“這些可能性，盡管是理論上的，都意味著我們?cè)陂_發(fā)更強(qiáng)大的人工智能上，步調(diào)應(yīng)該放緩。”

圖片來源：攝圖網(wǎng) 400094444

DeepMind 已經(jīng)提出針對(duì)這種可能性的保護(hù)措施。在 2016 年題為“安全中斷代理”的論文中， 該公司勾勒了一個(gè)框架，用于防止高級(jí)機(jī)器忽略關(guān)閉命令，成為失控的流氓代理。

值得注意的是，據(jù)界面新聞報(bào)道，為期三天的全球人工智能峰會(huì)于9月13日正式在沙特阿拉伯利雅得開幕，該峰會(huì)由沙特?cái)?shù)據(jù)和人工智能局（SDAIA）舉辦，由來自世界各國(guó)民營(yíng)企業(yè)領(lǐng)導(dǎo)者、政府官員和知名學(xué)者共商人工智能未來。

峰會(huì)上發(fā)布了《利雅得人工智能行動(dòng)宣言》，概述了數(shù)字合作組織（DCO）運(yùn)用人工智能技術(shù)來造福人類、社區(qū)、國(guó)家和全世界的長(zhǎng)期愿景。沙特阿拉伯也發(fā)布《人工智能道德準(zhǔn)則》，該框架由沙特?cái)?shù)據(jù)與人工智能局（SDAIA）基于全球和沙特的標(biāo)準(zhǔn)制定， 是把人工智能道德納入整個(gè)人工智能系統(tǒng)開發(fā)生命周期的實(shí)用指引。

編輯|王月龍 ?高涵 易啟江

校對(duì)|程鵬

每日經(jīng)濟(jì)新聞綜合自每經(jīng)網(wǎng)（記者 蘭素英）、界面新聞