?日前,高通驍龍峰會(huì)在夏威夷毛伊島開(kāi)幕。峰會(huì)匯集了業(yè)界最尖端的技術(shù)與創(chuàng)新理念,生成式人工智能與端側(cè)設(shè)備的融合成為熱議的話題。啟明創(chuàng)投投資企業(yè)智譜AI與高通技術(shù)公司(下稱“高通”)宣布合作,將GLM-4V端側(cè)視覺(jué)大模型面向驍龍8至尊版進(jìn)行深度適配和推理優(yōu)化,支持豐富的多模態(tài)交互方式,進(jìn)一步推動(dòng)多模態(tài)生成式AI在終端側(cè)的部署和推廣,賦能更加情境化、個(gè)性化的終端側(cè)智能體驗(yàn)。
01/
智譜AI攜手高通發(fā)布端側(cè)智能助手
推動(dòng)智能生活體驗(yàn)革新
驍龍8至尊版移動(dòng)平臺(tái)搭載全新第二代高通?Oryon CPU和高通?Hexagon? NPU,終端側(cè)AI能力再次實(shí)現(xiàn)突破,能夠賦能規(guī)模更大且更加復(fù)雜的多模態(tài)生成式AI用例在終端側(cè)高效運(yùn)行。充分利用驍龍8至尊版的強(qiáng)大終端側(cè)AI性能和高通AI軟件棧為模型帶來(lái)的性能優(yōu)化,GLM-4V端側(cè)視覺(jué)大模型能夠以小巧的尺寸實(shí)現(xiàn)令人驚嘆的處理能力,以超過(guò)70 tokens/秒的速度在終端側(cè)高速運(yùn)行。
通過(guò)與驍龍8至尊版進(jìn)行深度適配和推理優(yōu)化,終端側(cè)多模態(tài)應(yīng)用ChatGLM能夠支持三種終端側(cè)交互方式:使用相機(jī)進(jìn)行實(shí)時(shí)語(yǔ)音對(duì)話、上傳照片進(jìn)行對(duì)話、上傳視頻進(jìn)行對(duì)話。豐富的多模態(tài)輸入輸出方式賦能智能助手ChatGLM實(shí)現(xiàn)了跨家庭、出行、工作和教育等多個(gè)場(chǎng)景的應(yīng)用,例如通過(guò)手機(jī)攝像頭獲取穿搭建議,利用視覺(jué)信息實(shí)現(xiàn)智能導(dǎo)航,通過(guò)車內(nèi)攝像頭識(shí)別遺留物品,拍攝畫(huà)作進(jìn)行風(fēng)格解析等。
智譜AI COO張帆表示:“驍龍8至尊版移動(dòng)平臺(tái)提供了卓越的AI算力,結(jié)合高通AI軟件棧推理框架的性能優(yōu)化,使得智譜AI的終端側(cè)大模型可以在設(shè)備端實(shí)現(xiàn)高速推理。我們相信,終端側(cè)算力平臺(tái)的性能躍遷結(jié)合大模型能力的進(jìn)步,會(huì)將生成式AI帶入新的時(shí)代。終端側(cè)運(yùn)行的生成式AI,在為用戶提供變革性體驗(yàn)的同時(shí),能更好地保護(hù)用戶隱私安全,真正讓AI變革用戶的日常生活?!?/span>
GLM-4V-Mini、GLM-4V-Nano端側(cè)視覺(jué)大模型和GLM-4-9B模型即將在高通AI Hub上線,搭載驍龍8至尊版的商用手機(jī)均可支持。
02/
展望未來(lái)
構(gòu)建端側(cè)智能新生態(tài)
峰會(huì)期間,智譜AI還宣布將開(kāi)源一系列端側(cè)大語(yǔ)言及多模態(tài)模型,為開(kāi)發(fā)者和合作伙伴提供持續(xù)賦能,加速各類應(yīng)用場(chǎng)景的落地與技術(shù)普及,促進(jìn)行業(yè)創(chuàng)新,進(jìn)一步豐富用戶的智能交互體驗(yàn),推動(dòng)整個(gè)行業(yè)向著更加智能化、個(gè)性化的設(shè)備生態(tài)邁進(jìn)。
智譜AI始終秉持“讓機(jī)器像人一樣思考”的愿景,致力于推動(dòng)下一代認(rèn)知智能模型的創(chuàng)新與應(yīng)用。未來(lái),智譜AI與高通將繼續(xù)在多模態(tài)技術(shù)和大語(yǔ)言模型領(lǐng)域深化合作,進(jìn)一步探索包括智能手機(jī)、智能車艙、智能家居、智能辦公在內(nèi)的更多應(yīng)用場(chǎng)景。通過(guò)端云協(xié)同的架構(gòu),智譜AI和高通將共同推動(dòng)設(shè)備的智能化升級(jí),增強(qiáng)多設(shè)備的無(wú)縫互聯(lián),全面提升用戶的使用體驗(yàn),構(gòu)建智能生活方式的全新生態(tài)。伴隨技術(shù)迭代,智譜AI也將繼續(xù)與高通攜手推進(jìn)生成式AI創(chuàng)新,構(gòu)建更加完善和豐富的端側(cè)智能生態(tài),推動(dòng)智能設(shè)備向更加智能、更加個(gè)性化的未來(lái)邁進(jìn)。