手機(jī)端側(cè)AI輕量化演進(jìn)：3B模型漸成主流 智能體標(biāo)準(zhǔn)亟待完善

《科創(chuàng)板日?qǐng)?bào)》10月11日訊（記者 黃心怡）端側(cè)AI經(jīng)過兩年多的手機(jī)善發(fā)展，大模型正向更輕量化方向演進(jìn)。端側(cè)待完當(dāng)前，輕量足球下賭注平臺(tái)3B模型正逐步取代7B模型，化演成為端側(cè)AI應(yīng)用的進(jìn)B漸成主流選擇。

在2025 vivo開發(fā)者大會(huì)上，模型vivo發(fā)布了專為端側(cè)智能體打造的主流智能準(zhǔn)亟3B多模態(tài)推理大模型，該模型具備128K長(zhǎng)上下文處理能力，體標(biāo)極限出詞速度超過每秒200個(gè)token。手機(jī)善OpenAI也持續(xù)布局輕量化，端側(cè)待完不久前推出的輕量輕量語音模型GPT-realtime-mini，適用于移動(dòng)端與邊緣設(shè)備。化演

展望未來，進(jìn)B漸成手機(jī)AI與操作系統(tǒng)的模型深度融合，將為用戶打造高度“個(gè)人化”的主流智能準(zhǔn)亟足球下賭注平臺(tái)服務(wù)體驗(yàn)。然而，實(shí)現(xiàn)這一愿景也對(duì)手機(jī)的算力、內(nèi)存和功耗提出了更高要求。此外，端側(cè)AI還需進(jìn)一步融入日常剛性場(chǎng)景，并解決安全授權(quán)等行業(yè)標(biāo)準(zhǔn)不完善等問題。

▍端側(cè)大模型從7B走向3B

vivo AI全球研究院院長(zhǎng)周圍在接受《科創(chuàng)板日?qǐng)?bào)》采訪時(shí)表示，今年vivo重點(diǎn)聚焦于3B模型上進(jìn)行各種多模態(tài)的實(shí)現(xiàn)和聚合。相較13B和7B模型，3B模型所占用的內(nèi)存更少，對(duì)高端機(jī)性能影響更小。

“去年我們做了13B和7B端側(cè)模型的實(shí)現(xiàn)，發(fā)現(xiàn)其實(shí)只有7B勉強(qiáng)能上線，但是7B模型在手機(jī)上跑得不太理想，因?yàn)檎嫉膬?nèi)存比較大。直到今年發(fā)現(xiàn)3B端側(cè)模型效果不錯(cuò)，我們把內(nèi)存做到只占2G，并大幅度增強(qiáng)推理能力，幾乎可以用于做意圖中控和任務(wù)拆解的中臺(tái)。”

除了3B模型外，vivo還在探索更低功耗的1B模型。“3B的模型在運(yùn)行時(shí)要750毫安（功耗）。而端側(cè)大模型對(duì)手機(jī)的應(yīng)用遠(yuǎn)比我們想象要廣得多，需要一個(gè)大模型24小時(shí)都在線，實(shí)現(xiàn)對(duì)本機(jī)的實(shí)時(shí)監(jiān)測(cè)和記憶，這可以交給1B模型。”

周圍透露，vivo正在推動(dòng)圖像識(shí)別、聲音識(shí)別，包括同傳、方言識(shí)別等全部端側(cè)化，這對(duì)于手機(jī)內(nèi)存提出了更高的要求。“端側(cè)化有一個(gè)問題，就是平臺(tái)的算力要夠，內(nèi)存配置要夠，至少達(dá)到8G以上的配置。如果4G內(nèi)存的中低端手機(jī)，用戶可能用的是云端功能，而云端功能在某種意義上是要消耗大量的成本。”

▍模型參數(shù)量與性能指標(biāo)如何取得平衡？

一名手機(jī)業(yè)內(nèi)人士表示，大模型落地到端側(cè)，最關(guān)鍵的難點(diǎn)在于模型的參數(shù)量與性能指標(biāo)之間的平衡。“手機(jī)端的硬件資源非常有限，包括芯片算力、內(nèi)存都很有限。而手機(jī)的功耗也是非常重要的指標(biāo)。模型參數(shù)量越大，就意味著消耗的計(jì)算量越大，對(duì)功耗也就越高。”

“如何平衡模型效果與手機(jī)上的這些體驗(yàn)指標(biāo)，是一大問題。如果把模型參數(shù)量選的非常大，那么計(jì)算量就很高，直接帶來的問題是速度變慢，用戶體驗(yàn)的延遲就會(huì)非常久。另外，內(nèi)存占用也會(huì)很大，比如7B模型的內(nèi)存占用可能在 3-4GB 左右，這會(huì)導(dǎo)致系統(tǒng)的流暢性會(huì)受到一些影響，功耗隨之升高，手機(jī)掉電非常快，發(fā)熱也會(huì)變嚴(yán)重。”上述業(yè)內(nèi)人士稱。

《科創(chuàng)板日?qǐng)?bào)》注意到，為了推動(dòng)AI落地，蘋果最新發(fā)布的iPhone 17系列的Air、Pro、Pro Max三款機(jī)型升級(jí)至12GB，以實(shí)現(xiàn)更強(qiáng)大的端側(cè)AI支持。

IDC中國研究經(jīng)理郭天翔表示，手機(jī)廠商這幾年已逐漸從最開始的7B端側(cè)模型，轉(zhuǎn)換到3B模型，原因就在于該量級(jí)的模型對(duì)算力的要求、功耗、輸出速度等可以獲得更好的均衡。

▍AI與操作系統(tǒng)逐步融合

除了vivo外，OPPO、榮耀等廠商也在積極推動(dòng)端側(cè)AI的落地。榮耀在今年7月發(fā)布的Magic V5是搭載了阿里通義大模型和飛豬旅行、高德地圖等AI智能體手機(jī)。

周圍認(rèn)為，端側(cè)AI的終局是Agent（智能體）。vivo希望進(jìn)一步深化AI和操作系統(tǒng)的融合，深度理解用戶個(gè)人情景和偏好，創(chuàng)造“個(gè)人化”服務(wù)體驗(yàn)。

vivo AI產(chǎn)品總經(jīng)理關(guān)巖冰透露，目前正在于與高德、百度、支付寶、飛豬等互聯(lián)網(wǎng)企業(yè)在智能體方面開展合作，未來一個(gè)月原系統(tǒng) 6（OriginOS 6）會(huì)有大量智能體逐步上線。

不過，智能體在安全授權(quán)方面仍存在權(quán)責(zé)界定不清的問題，尤其在用戶隱私保護(hù)、數(shù)據(jù)使用規(guī)范以及權(quán)限邊界劃分等方面尚缺乏明確標(biāo)準(zhǔn)，相關(guān)行業(yè)規(guī)范仍有待逐步建立與完善。

“當(dāng)智能體，特別是手機(jī)智能體要做任務(wù)的時(shí)候，如果只做廠商自己的功能和應(yīng)用，比如說秀一下是否流暢、調(diào)一下亮度、連接一下Wi-Fi。都沒有問題，但是想跨應(yīng)用，那么安全授權(quán)的標(biāo)準(zhǔn)仍有待探討。我們作為終端廠商，也在積極推動(dòng)行業(yè)標(biāo)準(zhǔn)的建立。”周圍說。

此外，關(guān)巖冰也坦言，智能體在響應(yīng)用戶需求方面，尚未能有效解決用戶的實(shí)際問題。“我們正將資源和精力集中于為用戶解決問題的場(chǎng)景上，并持續(xù)加大投入。”

郭天翔認(rèn)為，端側(cè)模型的應(yīng)用將主要通過Agent來體現(xiàn)，但是對(duì)于消費(fèi)者來說使用感知依然不是特別明確，并沒有完全融入到日常的剛性使用場(chǎng)景中。他表示，未來手機(jī)AI 將與 OS完全融合，由一個(gè)經(jīng)過訓(xùn)練的個(gè)性化的私人Agent作為手機(jī)使用者的助手，可以給使用者主動(dòng)提出建議，執(zhí)行多重復(fù)雜任務(wù)。