時隔5個月，Kimi從20萬字到200萬字，月之暗面“長文本時代”一路狂奔

每經記者｜楊昕怡    每經編輯｜劉雪梅    

“通往AGI（通用人工智能）的話，長上下文會是一個很重要的點，從某種程度上看，所有問題都是上下文長度問題。”在今年2月末接受《每日經濟新聞》記者采訪時，AI創業公司月之暗面方面曾指出了突破長文本處理技術的重要意義。

3月18日，月之暗面宣布在大模型長上下文窗口技術上取得新的突破，其自研的Kimi智能助手已支持200萬字超長無損上下文，并于今日開啟產品內測。

在去年10月首次亮相時，Kimi智能助手可支持的無損上下文長度最多為20萬漢字，是彼時大模型產品里所能支持的最長上下文輸入長度。時隔五個月，月之暗面已將該產品的這一能力提升到了全新的數量級。

據了解，按OpenAI的計算標準，Kimi智能助手最初支持的20萬漢字約為40萬token（語言模型中用來表示最小文本單元），同期大模型Claude支持的最大長文本為10萬token。今年2月27日，零一萬物發布Yi大模型API，其中Yi-34B-Chat-200K支持處理約20萬～30萬個中英文字符。

同時，在國內AI產品中，Kimi智能助手的用戶增速顯著。“AI產品榜（aicpb.com）”統計的數據顯示，Kimi智能助手在2024年2月的訪問量達305萬，1月的訪問量達142萬，連續兩個月均僅次于文心一言和通義千問，在大模型創業公司產品中居于首位。

當大模型的無損上下文長度得以數量級提升，用戶會有哪些全新的應用體驗呢？

月之暗面介紹，上下文長度的提升也會進一步幫助用戶打開對AI應用場景的想象力，包括完整代碼庫的分析理解、可以自主幫人類完成多步驟復雜任務的Agent（智能體）、不會遺忘關鍵信息的終身助理、真正統一架構的多模態模型等。

對于新升級后的模型能力，月之暗面用了一個可以量化的簡單例子說明：過去要10000小時才能成為專家的領域，現在只需要10分鐘，Kimi智能助手就能接近任何一個新領域的初級專家水平。

與此同時，指令遵循能力也是大模型的一大代表性涌現能力，和上下文學習能力有著密切的關系。

月之暗面方面此前對《每日經濟新聞》記者表示，在投資機構和大廠的內部綜合評測中，Kimi智能助手在理解和生成中文內容方面表現出色，“中文實力直追OpenAI”。

月之暗面方面表示，從產品推出以來的用戶反饋來看，Kimi智能助手的多輪交互和超長指令遵循能力也是產品的一項核心優勢。

《每日經濟新聞》記者了解到，目前月之暗面團隊超過80人，其中大部分是技術人員，團隊規模還在持續擴大。

“正在造一架火箭，每天討論往火箭里加什么燃料跑得更快。”在今年3月上旬的最新一輪招聘中，月之暗面在官方公眾號這樣寫道。從20萬漢字到200萬漢字的模型能力提升，足可見，月之暗面正在向著大模型應用的“長文本時代”一路狂奔。