在智譜AI技術開放日(Zhipu DevDay)上,啟明創(chuàng)投投資企業(yè)智譜AI推出新一代基座大模型GLM-4,并發(fā)布All Tools、GLMs、MaaS API、大模型科研基金、大模型開源基金以及“Z計劃”創(chuàng)業(yè)基金等內容。
01/
GLM-4
新一代基座大模型GLM-4,整體性能相比GLM-3全面提升60%,逼近GPT-4;支持更長上下文;更強的多模態(tài);支持更快推理速度,更多并發(fā),大大降低推理成本;同時GLM-4增強了“智能體”能力。
基礎能力(英文):GLM-4在MMLU、GSM8K、MATH、BBH、HellaSwag、HumanEval等數(shù)據(jù)集上,分別達到GPT-4的94%、95%、91%、99%、90%、100%的水平。
指令跟隨能力:GLM-4在IFEval的prompt級別上中、英分別達到GPT-4的88%、85%的水平,在Instruction級別上中、英分別達到GPT-4的90%、89%的水平。
對齊能力:GLM-4在中文對齊能力上整體超過GPT-4。
長文本能力:智譜AI在LongBench(128K)測試集上對多個模型進行評測,GLM-4性能超過Claude 2.1;在“大海撈針”(128K)實驗中,GLM-4的測試結果為128K以內全綠,做到100%精準召回。
多模態(tài)-文生圖:CogView3在文生圖多個評測指標上,相比DALLE3約在91.4%-99.3%的水平之間。
02/
ALL Tools
GLM-4實現(xiàn)自主根據(jù)用戶意圖,自動理解、規(guī)劃復雜指令,自由調用網(wǎng)頁瀏覽器、Code Interpreter代碼解釋器和多模態(tài)文生圖大模型,以完成復雜任務。
簡單來講,即只需一個指令,GLM-4會自動分析指令,結合上下文選擇決定調用合適的工具。
All Tools-文生圖:GLM-4能夠結合上下文進行AI繪畫創(chuàng)作(CogView3),如下圖所示,大模型能夠遵循人的指令來不斷修改生成圖片的結果:
All Tools-代碼解釋器:GLM-4能夠通過自動調用python解釋器,進行復雜計算(例如復雜方程、微積分等),在GSM8K、MATH、Math23K等多個評測集上都取得了接近或同等GPT-4 All Tools的水平。
同樣GLM-4也可以完成文件處理、數(shù)據(jù)分析、圖表繪制等復雜任務,支持處理Excel、PDF、PPT等格式文件。
All Tools-網(wǎng)頁瀏覽:GLM-4能夠自行規(guī)劃檢索任務、自行選擇信息源、自行與信息源交互,在準確率上能夠達到78.08,是GPT-4 All Tools的116%。
All Tools-Function Call:GLM-4能夠根據(jù)用戶提供的Function描述,自動選擇所需Function并生成參數(shù),以及根據(jù)Function的返回值生成回復;同時也支持一次輸入進行多次Function調用,支持包含中文及特殊符號的Function名字。這一方面GLM-4 All Tools與GPT-4 Turbo相當。
All Tools-多工具自動調用:除了以上單項工具自動調用外,GLM-4同樣能夠實現(xiàn)多工具自動調用,例如結合網(wǎng)頁瀏覽、CogView3、代碼解釋器等的調用方式。
03/
GLMs與MaaS API
GLM-4的全線能力提升使得智譜AI有機會探索真正意義上的GLMs。用戶可以下載(更新)智譜清言App,進行體驗,快速創(chuàng)建和分享自己的“智能體”。
同樣,MaaS平臺也將全網(wǎng)開放GLM-4、GLM-4V、CogView3等模型API,并邀請內測GLM-4 Assistant API。
04/
智譜AI期待與研究者和開發(fā)者
共同探索大模型的未來
智譜AI一直在路上,期待與所有研究者和開發(fā)者共同探索大模型的未來,為社會創(chuàng)造價值。
從ChatGLM一代、二代、三代以來,智譜AI幾乎開源了所有內核模型,包括千億級基座GLM-130B、搜索增強模型WebGLM、圖形理解模型VisualGLM、代碼模型CodeGeeX1、2,文生圖模型CogView1、2,圖形增強理解模型CogVLM還有可視化認知Agent模型CogAgent。智譜AI希望這些模型能夠幫助研究者和開發(fā)者深入認知大模型技術,而不是簡單調用。
大模型科研基金
智譜AI重視科研突破、重視源頭創(chuàng)新,也希望無私地回饋科研界。
智譜AI聯(lián)合CCF中國計算機學會發(fā)起了CCF-智譜大模型基金,圍繞預訓練大模型理論、算法、模型、應用等相關研究提供資助;通過降低大模型研究的門檻,立足每一個計算機領域科研工作者均有機會參與大模型的研究,推進大模型技術和應用的創(chuàng)新落地。
智譜AI聯(lián)合中國中文信息學會社會媒體處理專委會聯(lián)合發(fā)起SMP-智譜大模型交叉學科基金。支持探索大模型與各領域交叉創(chuàng)新,促進大模型與各類學科的有機融合。所有的科研基金參與者擁有自己研發(fā)的知識產(chǎn)權。
2023年已經(jīng)有來自全國三十余所高校參與了41個研究項目,累計提供了超1000萬元現(xiàn)金和算力資源(合作伙伴)的科研支持。
2024年,智譜AI對學術研究的支持還將繼續(xù)。
大模型開源基金
智譜AI認為,一個健康的大模型生態(tài)系統(tǒng)絕不僅依賴少數(shù)公司的研發(fā),而是需要眾多研究者和開發(fā)者的想象力和創(chuàng)造力共同參與。
為了促進大模型生態(tài)的健康發(fā)展,智譜AI將發(fā)起開源開放的“大模型開源基金”,這包括三個“一千”:
第一個“一千”,是1000張卡。智譜AI將為大模型開源社區(qū)提供一千張卡,助力開源開發(fā);
第二個“一千”,是1000萬元人民幣。智譜AI將提供1000萬元的現(xiàn)金用來支持與大模型相關的開源項目。
第三個“一千”是1000億tokens。智譜AI將為優(yōu)秀的開源開發(fā)者提供1000億免費API tokens。
“大模型開源基金”的目的在于推動大模型研發(fā)的大進展,促進大模型整個開源生態(tài)的大繁榮。一枝獨秀不是春,中國的人工智能事業(yè)要繁榮、要發(fā)展,需要所有的參與者、產(chǎn)業(yè)鏈上下游合作伙伴、開發(fā)者社區(qū)、學術界一同努力。
“Z計劃”創(chuàng)業(yè)基金
面向全球,智譜AI發(fā)布“Z計劃”,支持大模型早期創(chuàng)業(yè)者的創(chuàng)新探索。大模型創(chuàng)業(yè)是長征路?!癦計劃”是智譜聯(lián)合生態(tài)伙伴發(fā)起的大模型創(chuàng)業(yè)基金,總計10億元人民幣;專門支持大模型原始創(chuàng)新,覆蓋大模型算法、底層算子、芯片優(yōu)化、行業(yè)大模型和超級應用等方向。
在2024年,乃至更長遠的未來里,智譜AI都將堅持更開放的心態(tài),團結更廣泛的生態(tài)伙伴,共創(chuàng)人工智能美好未來。