人工智能“黑箱算法”致安全性隱患 業(yè)內(nèi)建言治理與發(fā)展同步

每經(jīng)記者｜可楊    實(shí)習(xí)生 湯小權(quán)    每經(jīng)編輯｜梁梟    

“人工智能技術(shù)發(fā)展的過(guò)程中出現(xiàn)了一個(gè)全新的問題，也就是安全問題，這主要來(lái)源于算法本身的不安全性，因而是非常難以解決的。”中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)、瑞萊智慧首席科學(xué)家張鈸認(rèn)為。

人工智能在為人們生活不斷帶來(lái)便利的同時(shí)，數(shù)據(jù)隱私、算法偏見、技術(shù)濫用等安全性問題給社會(huì)公共治理與產(chǎn)業(yè)智能化轉(zhuǎn)型帶來(lái)不容忽視的挑戰(zhàn)。

8月3日，由北京市經(jīng)濟(jì)和信息化局和海淀區(qū)人民政府主辦的“2021人工智能產(chǎn)業(yè)治理論壇”在京召開，會(huì)上發(fā)布了《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》。

瑞萊智慧CEO田天在會(huì)后接受《每日經(jīng)濟(jì)新聞》專訪時(shí)表示，讓人工智能更好地服務(wù)于人類，是產(chǎn)業(yè)共同的目標(biāo)，人工智能科技公司應(yīng)該具備社會(huì)責(zé)任感和自律意識(shí)，積極主動(dòng)開展自治工作，同時(shí)開放共享、協(xié)同治理。

第二代人工智能算法存在脆弱性

田天在接受《每日經(jīng)濟(jì)新聞》記者專訪時(shí)指出，人工智能安全問題的緊迫性正在提升。

具體而言，從直觀感受上，各類人工智能安全問題正集中出現(xiàn)，比如人臉識(shí)別的濫用、大數(shù)據(jù)“殺熟”、個(gè)人信息的不當(dāng)索取、算法對(duì)外賣騎手的控制等問題正引發(fā)越來(lái)越多關(guān)于人工智能安全性問題的爭(zhēng)議。

而另一方面，伴隨人工智能產(chǎn)業(yè)化已經(jīng)從點(diǎn)覆蓋到面，滲透到更多行業(yè)特定場(chǎng)景，尤其是一些高價(jià)值、高復(fù)雜度的場(chǎng)景，安全問題的“危險(xiǎn)性”被隨之放大，。

張鈸在演講中闡述觀點(diǎn)稱，人工智能發(fā)展過(guò)程中出現(xiàn)的安全性問題，主要是第二代人工智能算法本身的不安全性造成的。

“第二代人工智能的算法是‘黑箱算法’。這種深度學(xué)習(xí)算法本身就是不安全的，容易受到攻擊。”張鈸以識(shí)別一匹馬來(lái)舉例，人工智能是通過(guò)馬的各種各樣的局部特征在連續(xù)數(shù)據(jù)空間里面進(jìn)行分類，以達(dá)到和其他動(dòng)物區(qū)分開來(lái)的目的，人工智能的識(shí)別和人類視覺的認(rèn)識(shí)完全不同，人工智能的算法非常脆弱，容易受到欺騙。

張鈸認(rèn)為，解決人工智能的不安全性有兩個(gè)途徑。其一是治理，從法律法規(guī)、倫理規(guī)范、行業(yè)共識(shí)等不同層面去“治標(biāo)”；其二是創(chuàng)新發(fā)展，克服人工智能算法本身的不安全性，從技術(shù)創(chuàng)新層面“治本”。

治理包含兩個(gè)方面：防止對(duì)人工智能技術(shù)無(wú)意識(shí)的誤用和有意識(shí)的濫用。無(wú)意識(shí)的誤用是指人工智能算法本身帶來(lái)不安全問題是很難被預(yù)先發(fā)現(xiàn)或覺察的，使用時(shí)要避免錯(cuò)用造成嚴(yán)重的后果；有意識(shí)的濫用是指利用人工智能的算法的不安全性進(jìn)行惡意攻擊，需要用法律法規(guī)加以制止。而創(chuàng)新發(fā)展則指的是發(fā)展第三代人工智能，更加任重道遠(yuǎn)，

不存在治理阻礙發(fā)展的矛盾

人工智能的發(fā)展是為了人類。縱覽人工智能技術(shù)近10年的發(fā)展，人工智能在金融、醫(yī)療、安防、教育、交通等多個(gè)領(lǐng)域?qū)崿F(xiàn)落地，且應(yīng)用場(chǎng)景也愈加豐富。

國(guó)家新一代人工智能治理專委會(huì)委員、聯(lián)合國(guó)教科文組織人工智能倫理特設(shè)專家組專家曾毅在論壇中表示：“我們（指行業(yè)）希望人工智能以人類為本，希望它能夠賦能可持續(xù)的發(fā)展”，他闡述，“可持續(xù)的人工智能”包括技術(shù)本身的可持續(xù)性和全球可持續(xù)發(fā)展目標(biāo)的實(shí)現(xiàn)。

“2021人工智能產(chǎn)業(yè)治理論壇”現(xiàn)場(chǎng)

圖片來(lái)源：每經(jīng)記者 可楊 攝

“很多人說(shuō)到底是治理先行還是發(fā)展優(yōu)先？它們之間從來(lái)不是競(jìng)爭(zhēng)關(guān)系。”曾毅指出，人工智能的治理并不存在發(fā)展優(yōu)先還是治理先行的矛盾，人工智能穩(wěn)健發(fā)展的兩大前提是可持續(xù)發(fā)展和人工智能的善治，兩者深度協(xié)同。

中國(guó)社科院科技哲學(xué)研究室主任、科學(xué)技術(shù)和社會(huì)研究中心主任段偉文在演講中則重點(diǎn)談到了數(shù)字時(shí)代的社會(huì)信任危機(jī)與重建。他認(rèn)為，數(shù)字技術(shù)與人工智能產(chǎn)業(yè)發(fā)展的倫理風(fēng)險(xiǎn)帶來(lái)了諸多社會(huì)信任問題，面對(duì)既先發(fā)制人也溯及既往的數(shù)字治理趨勢(shì)，人工智能企業(yè)應(yīng)直面社會(huì)許可的挑戰(zhàn)，認(rèn)真感知公眾對(duì)科技企業(yè)的認(rèn)知和評(píng)價(jià)。

段偉文建議，人工智能企業(yè)不應(yīng)回避社會(huì)監(jiān)督，而是不斷思考、重塑科技的社會(huì)印象，技術(shù)改進(jìn)和倫理設(shè)計(jì)要齊頭并進(jìn)，攜手走向共建性的人工智能倫理治理。

基于可持續(xù)發(fā)展的愿望，《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》發(fā)布。宣言由北京智源人工智能研究院、瑞萊智慧聯(lián)合發(fā)起，百度、華為、螞蟻集團(tuán)、寒武紀(jì)、愛筆科技、第四范式、出門問問等人工智能行業(yè)的核心骨干企業(yè)、學(xué)術(shù)研究機(jī)構(gòu)共同參與。

“我想不是所有的問題在30年之內(nèi)就能夠找到答案，所以需要我們企業(yè)需要我們的學(xué)術(shù)機(jī)構(gòu)形成真正多方共治的共同體，來(lái)面對(duì)人工智能將面臨的近期、遠(yuǎn)期的問題，真正使人工智能賦能由我們?nèi)祟惡推渌?、環(huán)境構(gòu)成的未來(lái)的和諧共生的社會(huì)。”曾毅認(rèn)為，行業(yè)內(nèi)亟須同步倫理監(jiān)管、技術(shù)規(guī)范、應(yīng)用評(píng)估等治理共識(shí)。

封面圖片來(lái)源：視覺中國(guó)