超1000人公開信呼吁停止AI訓練，OpenAI創始人也簽名了？真相是……

每經編輯｜黃勝    

人工智能風口正盛，一封呼吁暫停大型AI研究的公開信在硅谷科技圈流傳開來，激起千層浪。

最具戲劇性的是，OpenAI CEO Sam Altman的名字也曾赫然出現在公開信上。《每日經濟新聞》注意到，在簽名名單里的尾部，赫然出現了阿爾特曼的名字。簽名中OpenAI最后一個字母為小寫，或有故意之嫌疑。

圖片來源：futureoflife.org

簽署人之一、紐約大學著名AI研究者Gary Marcus也在推特上發問：“是你嗎，山姆？”

圖片來源：GaryMarcus@twitter

據華爾街見聞，不過周三晚些時候被證實是虛假簽名，Altman在接受媒體采訪時，他并沒有計劃呼吁暫停人工智能的開發。

Altman并不同意這封信的觀點，他指出：OpenAI不僅非常重視AI安全，而且比業內其他公司更重視。我們談論這些問題的聲音最大、強度最大、時間最長。

“馬斯克們”呼吁暫停，OpenAI創始人：AI需要政府與社會的共同監管

北京時間3月29日，由圖靈獎得主、深度學習三巨頭之一約書亞·本吉奧（Yoshua Bengio），埃隆·馬斯克，《人類簡史》作者尤瓦爾·赫拉利等人聯名發表公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統，為期至少6個月，以確保人類能夠有效管理其風險。暫停工作應該是公開且可以證實的，如果AI實驗室不能快速暫停，各國政府應該實行暫停令。

值得注意的是，馬斯克作為OpenAI的共同創始人之一，一直也毫不掩蓋他對OpenAI的敵意，認為其過商業化，從開源變成了“閉源”，已經忘了非盈利和開放的“初心”。但最近也有新聞指出，馬斯克之所以如此敵視OpenAI，是因為2018年爭奪OpenAI經營權失敗，所以撤資走人。

此外，簽名人還包括蘋果聯合創始人史蒂夫·沃茲尼亞克、2020年美國總統選舉民主黨初選候選人楊安澤、AI經典教科書《人工智能: 一種現代方法》作者Stuart Russell、AI領軍公司DeepMind的一眾研究人員等。

截至29日，這份公開信已經征集到1128份簽名。

圖片來源：futureoflife.org

公開信指出，AI現在已經能和人類競爭，將給人類社會帶來深刻的變革。在這個關鍵時刻，我們必須思考AI的潛在風險：假新聞和宣傳充斥信息渠道、大量工作被自動化取代、人工智能甚至有一天會比人類更聰明、更強大，讓我們失去對人類文明的掌控。這些問題不應該交給“未經民選的科技領袖”來決定。

然而，各大AI實驗室為了開發和應用更加強大的人工智能，最近幾個月已經陷入了“失控”的競賽，甚至連AI系統的創始人也并不能完全理解、預測和有效控制其風險，相應的計劃和管理工作沒有跟上。

實際上，面對OpenAI產品在全球的火爆程度，OpenAI創始人兼CEO山姆·阿爾特曼自己也感到有些害怕。他近日在接受媒體采訪時表示，自己對AI如何影響勞動力市場、選舉和虛假信息的傳播有些“害怕”。AI需要政府和社會共同參與監管，用戶反饋和規則制定對抑制AI的負面影響非常重要。

OpenAI CEO：“AI確實可能殺死人類”

據澎湃新聞3月28日報道，OpenAI CEO山姆·奧特曼稱，并不否認過分強大的AGI“可能殺死人類”這一觀點。必須承認，（AI殺死人類）有一定可能性。很多關于AI安全和挑戰的預測被證明是錯誤的，我們必須正視這一點，并盡早嘗試找到解決問題的方法。

圖片來源：視覺中國

值得注意的是，據財聯社報道，近日，挪威機器人公司1X Technologies宣布完成A2輪融資，共籌集到2350萬美元。OpenAI旗下創業基金領投此輪融資，Tiger Global以及一群挪威投資者也參與其中。

獲得融資后，該公司創始人進一步表示，“1X很高興能得到OpenAI的領投，因為我們的使命是一致的：將新興技術有意識地融入人們的日常生活。在我們投資者的支持下，我們將繼續在機器人領域取得重大進展，并增強全球勞動力市場。”

值得注意的是，人形機器人也是馬斯克十分關注的方向。去年9月30日舉辦的特斯拉AI日上，馬斯克展示了外界引頸期盼的人形機器人Optimus，馬斯克曾表示，機器人業務將比汽車更具價值。

彼時，馬斯克在發布會上表示，目前的人形機器人沒有“大腦”，沒有能在現實世界中導航的智能，而且非常昂貴且產量低。如今，OpenAI與人形機器人的牽手則讓人期待。

每日經濟新聞綜合華爾街見聞、每經網（記者：李孟林）、澎湃新聞、財聯社

封面圖片來源：視覺中國-VCG41N1356593648