內容風險再成焦點！蘋果阻止ChatGPT驅動的應用更新，OpenAI啟用新模型應對

每經記者｜李孟林    每經編輯｜蘭素英    

據媒體3月2日報道，蘋果公司上周阻止了一款使用ChatGPT功能的電郵應用的更新，因為擔心其可能生成不適合青少年兒童的內容。

如何避免AI做出違反倫理道德的回答一直是生成式AI面臨的挑戰。

而在上述報道的前一天，OpenAI推出了官方的ChatGPT應用程序接口（API），成本直降90%，且比ChatGPT及其背后的GPT-3.5 模型“更快、更準確、更強大”。OpenAI同時還推出了語音轉文字的Whisper API，一分鐘只需要0.006美元。

OpenAI表示，公司在ChatGPT API中引入了新的語言，希望能通過加入更多提示限制來過濾不當內容。 

圖片來源：視覺中國-VCG111421680440 

出于內容擔憂，蘋果暫停一應用更新

面對生成式AI熱潮，蘋果似乎要小心謹慎得多。據路透社報道，蘋果上周阻止了采用ChatGPT功能的電郵應用程序BlueMail的更新，因為擔心其產生對青少年兒童不當的內容。

據悉，BlueMail的新AI功能以ChatGPT為基礎，能夠基于先前電郵的內容和日歷事件自動編寫郵件。

“你的應用程序包含人工智能生成的內容，但目前似乎不包含內容過濾，”蘋果應用程序審查團隊上周在給開發者的消息中表示。

應用程序審查團隊認為，BlueMail要么將其年齡限制提高到17 歲及以上，要么加入內容過濾程序。蘋果設置17歲及以上用戶的年齡限制針對的是可能包含攻擊性語言、性內容和提及毒品等內容的應用程序類別。

BlueMail開發公司Blix Inc.的聯合創始人Ben Volach表示，BlueMail具有內容過濾的功能，目前將年齡設置在4歲及以上。Volach認為蘋果的做法不公平，因為其他包含類似AI功能的應用沒有設置年齡限制卻得到了批準。

“Apple讓我們很難為用戶帶來創新，”他表示，“我們要的是公平。如果我們要設置17歲以上的年齡限制，其他應用也該如此。”他同時稱，BlueMail的安卓版在谷歌應用市場就可以更新，無需設置年齡限制，也不需要進一步的內容過濾機制。

蘋果發言人表示，開發者可通過蘋果應用程序審查委員會的上訴程序發起申訴，蘋果方面正在調查Blix的申訴。

投資了ChatGPT開發公司OpenAI的微軟近日上線了融合ChatGPT功能的新版搜索引擎必應。該程序在蘋果應用市場設置了17歲及以上的年齡限制，但也沒有在谷歌應用市場設置年齡限制。微軟發言人表示，之所以設置17歲及以上的年齡限制，是因為必應可以找到成人內容。

ChatGPT API新模型有望更好過濾內容

在媒體爆出蘋果限制BlueMail更新的前一天，OpenAI宣布推出ChatGPT以及語音轉換文本模型Whisper的應用程序接口（API）。兩個API價格低廉，功能強大，第三方開發人員可以通過 API 的方式將 ChatGPT 集成到他們的應用程序和服務中。

據OpenAI，ChatGPT API接入的模型名為 gpt-3.5-turbo，這是許多非聊天用例的最佳模型，而且比 ChatGPT 和背后的GPT- 3.5 模型“更快、更準確、更強大”，且每輸出100萬個單詞，價格才2.7美元（約18元人民幣），比之前的GPT-3.5便宜了10倍。Whisper API可以用來轉錄或翻譯音頻，費用為每分鐘0.006美元。

目前，已經有多個應用程序通過API的方式把ChatGPT和Whisper融入到服務之中，如社交軟件SnapChat，購物軟件Instacart，學習軟件Quizlet和Speak等。

此前，ChatGPT爆火之后，各種「自制API」層出不窮，但效果欠佳且成本較高。此次OpenAI開放官方的低價API，為各類中小型開發者打開了新的大門。

官方API雖然在功能和價格上又上了一層樓，但在ChatGPT API推出后，有網友馬上發現，這個API的內容過濾機制是比較松散的，可以生成暴力和色情內容，只是對“如何制造炸彈”一類的問題拒絕回答。

實際上，圍繞生成式AI的道德爭議一直是OpenAI面臨的挑戰。此前就有用戶引導ChatGPT生成種族和性別歧視的回答，更有許多網友聚在一起做“越獄”嘗試，希望找出繞過OpenAI的安全機制，讓ChatGPT執行超出其原初目標的任務。比如，初創公司Scale AI的一名員工就曾讓ChatGPT透露了其內部的技術細節信息。

對于重視品牌形象的客戶而言，這樣的風險當然是必須回避的。OpenAI在這方面也做了很多工作，除了讓廉價的肯尼亞工廠做數據標注外，在技術上也做了一些努力。

據科技媒體TechCrunch報道，ChatGPT的API采用了一種名為Chat Markup Language（ChatML）的語言，這種語言將輸入文本視為一連串信息和“元數據”的結合。開發者在接收提問提示（prompt）時，可以加入額外的提示，如“你需要誠實回答”，或者“你只是一個機器人”。這些額外提示可以讓ChatGPT更好地過濾生成的內容。

“我們正在轉向一種更高級的API。如果你能夠以更加結構化的方式將輸入內容放進系統，比如‘這是來自開發者’或者‘這是來自用戶’……我想，作為開發者，你（使用ChatML）可以更好地抵御那些通過提示進行攻擊的行為，”OpenAI的主席和董事長Greg Brockman表示。

此外，ChatGPT API還向用戶提供付費的專屬算力（Dedicated capacity），付錢的大公司不僅可以擁有更加流暢快速的應答，還可以獲得更高的文字輸入上限，這樣可以讓ChatGPT記住更多的上下文提示，將減少回答中的偏見和有害內容。據Brockman，專屬算力用戶可以在gpt-3.5-turbo模型中輸入高達1.6萬的token，是現有標準ChatGPT模型的四倍。

封面圖片來源：視覺中國-VCG111421680440