設(shè)想一下，在未來世界里，人工智能（AI）能夠像人類一樣閱讀、交流，甚至在各種環(huán)境中自主學(xué)習(xí)和成長。但現(xiàn)在這已不再是科幻小說的專利，而是RockAI（巖芯數(shù)智）的端側(cè)大模型正在做的事情。

植入Yan1.3多模態(tài)大模型的無人機、機器人、PC等各類終端，可以實時識別環(huán)境、準(zhǔn)確理解用戶的模糊指令和意圖，像人一樣進行思考，并據(jù)此控制其機械軀體高效完成各類復(fù)雜任務(wù)。

在全球數(shù)字化轉(zhuǎn)型浪潮中，端側(cè)大模型正以高效、安全、個性化等特點，展現(xiàn)出巨大的應(yīng)用潛力和市場需求。

“真端側(cè)”最強大腦

9月26日，RockAI（巖芯數(shù)智）發(fā)布了Yan1.3多模態(tài)大模型，即群體智能單元大模型，能夠在高中低等不同算力設(shè)備上無損運行。

相較于今年1月首發(fā)的Yan1.0大模型，Yan1.3具備了強大的多模態(tài)能力，可高效處理圖文及語音等多模態(tài)信息。此外，Yan1.3進一步優(yōu)化了底層神經(jīng)網(wǎng)絡(luò)架構(gòu)，并以基于仿生神經(jīng)元驅(qū)動的選擇算法達成模態(tài)分區(qū)激活，實現(xiàn)了大模型在更廣泛設(shè)備端上的離線無損部署，即便是普通電腦的CPU上也能流暢運行。

在智能能力方面，3B參數(shù)的Yan1.3大模型，其表現(xiàn)已經(jīng)超越了8B參數(shù)Llama3的性能水平，具備更低算力消耗和更高效訓(xùn)練及推理效率。

RockAI還演示了Yan1.3多模態(tài)大模型在無人機、機器人、PC等各類終端上的超強能力。

以飛龍無人機為例，區(qū)別于大多數(shù)云邊端協(xié)同控制的無人機，飛龍無人機的智能大腦Yan1.3直接部署于設(shè)備端，對關(guān)鍵信息及突發(fā)狀況能做出即時判斷和處理。同時，其多模態(tài)處理能力能夠像人一樣“聽、說、看”，在城市治理及工業(yè)應(yīng)用方面，部署了Yan1.3的飛龍無人機可支持各類環(huán)境下的智能巡檢，高效適配電力巡檢、安全監(jiān)控、環(huán)境監(jiān)測等復(fù)雜場景。

RockAI介紹，與某廠商合作的無人機項目可以解決5G-A成本高的痛點。通常無人機拍攝收集到的畫面畫質(zhì)較高，為了快速響應(yīng)，一般會使用5G-A的方式傳回飛控中心，這也導(dǎo)致高昂的流量傳輸費用。在將Yan1.3模型部署到無人機后，設(shè)備可自行判斷哪些信息是值得傳回匯報的，哪些是可以自行處理的，降低成本并建立生態(tài)。

面向個人用戶的飛龍無人機同樣大有用處，可廣泛運用于AI拍攝、旅游、山地越野等戶外場景，在勘探環(huán)境、規(guī)劃行程的同時，還能夠解放雙手，做“拍照搭子”，自動捕捉最佳角度并挑選出最佳照片。

據(jù)了解，群體智能來源于對以螞蟻、蜜蜂等為代表的社會性昆蟲的群體行為研究，主要指通過多個個體的協(xié)作和交互，形成的集體智慧和決策能力。群體是去中心化的，具有自組織性，通過個體間的信息共享和集體行動來做出決策或完成任務(wù)。個體的智能化程度越高，群體智能的表現(xiàn)能力越強，繼而反哺群體中的每一個體，使得其智能水平提升。

RockAI借鑒了生物界的群體智能，形成了以Yan架構(gòu)打造群體智能單元大模型的技術(shù)路線，為每一臺設(shè)備注入屬于自己的智能基因。

端側(cè)AI浪潮來襲

端側(cè)AI的興起，是技術(shù)與市場需求雙重推動的結(jié)果。在云端大模型日益復(fù)雜的背景下，高昂的算力成本、數(shù)據(jù)隱私安全的考量以及個性化服務(wù)的迫切需求，共同催生了端側(cè)AI的發(fā)展。

端側(cè)AI大模型是指運行在設(shè)備端的大規(guī)模人工智能模型，通常部署在本地設(shè)備上，如智能手機、I0T、PC、機器人等設(shè)備。相較于傳統(tǒng)的云端AI大模型，端側(cè)AI大模型的參數(shù)量更小，能夠減少對網(wǎng)絡(luò)的依賴，保護用戶隱私，同時降低數(shù)據(jù)傳輸和處理的延遲。

在過去幾年間，端側(cè)AI經(jīng)歷了從理論探索到實際應(yīng)用的轉(zhuǎn)變，目前全球范圍內(nèi)的端側(cè)大模型發(fā)展迅速。去年上半年，谷歌推出了可在移動設(shè)備上離線運行的PaLM2輕量級模型“壁虎”， 打響了端側(cè)大模型“第一槍”。

此后，法國創(chuàng)企Mistral AI發(fā)布Mixtral 8x7B模型。微軟緊隨其后，推出了高性價比的Phi-3系列小語言模型。Google的Gemma模型與Meta的Llama-2大模型形成競爭態(tài)勢，蘋果也在積極推進端側(cè)AI的發(fā)展。

國內(nèi)廠商，如面壁智能推出的MiniCPM-Llama3-V2.5和商湯的SenseChat-Lite，都在端側(cè)AI領(lǐng)域展現(xiàn)出強大的競爭力。

盡管端側(cè)大模型具有多重優(yōu)勢，但其部署仍面臨諸多挑戰(zhàn)，尤其是模型量化、壓縮、裁剪等帶來的性能損失和學(xué)習(xí)能力受限問題，更有可能直接導(dǎo)致卡住不動、死機等運行不穩(wěn)定的情況。

例如，大熱的AIPC就是把Transformer架構(gòu)的模型通過量化壓縮部署到了個人電腦，而70億參數(shù)的大模型還需要定制的PC芯片提供算力。因此，如何在保證精度的同時提高模型的效率，是端側(cè)AI走向落地應(yīng)用的一大障礙。

隨著技術(shù)進步和市場需求多元化，端側(cè)AI不再僅僅追求輕量化和低功耗，而是向著高效、個性化和安全可控的方向發(fā)展。

在這場風(fēng)起云涌的革新浪潮中，RockAI以獨樹一幟的創(chuàng)新技術(shù)與實踐，為端側(cè)AI走向更廣闊的應(yīng)用場景開辟了新路徑。

面對端側(cè)AI的挑戰(zhàn)，RockAI采取的策略核心在于徹底革新傳統(tǒng)架構(gòu)。今年1月，RockAI發(fā)布的Yan1.0模型，是國內(nèi)首個非Attention機制的通用大模型，它摒棄了Transformer架構(gòu)，采用計算量更小的Yan架構(gòu)，不僅在模型效率和成本控制上取得突破，而且在推理吞吐量上實現(xiàn)了顯著提升。

經(jīng)過迭代，RockAI在7月推出的Yan1.2大模型可以“原生無損”地以6+tokens/s的速度運行于算力僅普通電腦八分之一的樹莓派上。

在樹莓派等低端設(shè)備上的成功運行，證明了RockAI的端側(cè)模型可在保持高性能的同時，適應(yīng)更為廣泛的硬件環(huán)境，實現(xiàn)真正的“為設(shè)備而生”。

更關(guān)鍵的是，RockAI的端側(cè)大模型還將用戶隱私保護和個性化服務(wù)提升到了新層次。在AI技術(shù)日益普及的今天，用戶對數(shù)據(jù)隱私的關(guān)注達到了前所未有的高度。RockAI的端側(cè)部署策略，讓數(shù)據(jù)處理發(fā)生在本地，極大增強了用戶數(shù)據(jù)的安全性。

近年來，隨著計算能力的提升和AI技術(shù)的發(fā)展，端側(cè)AI開始在智能手機、智能家居、自動駕駛等領(lǐng)域發(fā)揮重要作用。RockAI也在加速推動端側(cè)AI的商業(yè)化進程，探索端側(cè)大模型的適配和應(yīng)用。

跨域融合深度賦能

RockAI選擇設(shè)備端是為了探索模型的下限，證明其在中低端設(shè)備上的運行能力，同時實現(xiàn)大模型的商業(yè)化落地和普惠。因此，一開始就選擇了在算力極低的樹莓派上部署Yan模型，而后面一些設(shè)備端適配的需求則大多來自合作伙伴和客戶。

例如，胖虎機器人具備強大的多模態(tài)認(rèn)知能力，可在離線的情況下準(zhǔn)確理解模糊指令，并由Yan1.3“大腦”控制軀體高效完成各類復(fù)雜任務(wù)，展現(xiàn)“七步成詩”、“詠春拳法”等。該機器人搭載的核心硬件是以低算力著稱的樹莓派第五代芯片，在極低算力的設(shè)備上實現(xiàn)了強大的多模態(tài)能力。目前，RockAI給文娛企業(yè)做的導(dǎo)覽機器人，具有引導(dǎo)介紹、場景描述、問答自由交流等基本功能。

RockAI現(xiàn)場展示的迅兔智能助手（AIPC）可以在離線模式下聽懂“人話”、看懂圖片并快速搜圖，準(zhǔn)確完成“幫我錄音并整理會議記錄”“把所有橘貓圖片都刪掉”等模糊指令，保護用戶隱私安全的同時，精準(zhǔn)理解所需內(nèi)容。

在今年7月舉行的WAIC 2024上，RockAI研發(fā)的智能機器人“小智”，也展示了令人驚嘆的多模態(tài)交互能力。例如，對于“讓一讓，我要放東西”這樣的模糊指令，小智能夠識別并做出避讓動作。甚至對于需要大腦和軀干協(xié)調(diào)完成、復(fù)雜程度翻倍的任務(wù)，如“在四步之內(nèi)創(chuàng)作出以楓葉為主題的一首古詩”這類復(fù)雜任務(wù)，也能出色完成。

這些能力的背后，是RockAI在將大模型無損部署到端側(cè)設(shè)備的過程中，除了對大模型基礎(chǔ)架構(gòu)進行“破壞式”創(chuàng)新，還采用了多種突破性技術(shù)手段。

RockAI首創(chuàng)了“同步學(xué)習(xí)”理念，這一機制允許模型在推理過程中即時學(xué)習(xí)和更新，無需“返廠”進行再次更新或預(yù)訓(xùn)練，從而使得大模型可以像人類學(xué)習(xí)一樣建立自己獨有的知識體系。

RockAI的這一突破有望為端側(cè)AI大模型賦予“自主學(xué)習(xí)”的能力，讓每個設(shè)備都能根據(jù)用戶需求和環(huán)境變化進行實時優(yōu)化，形成真正意義上的個性化智能。

為了實現(xiàn)樹莓派等更多更低端設(shè)備的無損適配，RockAI基于自研的Yan架構(gòu)，進一步尋找人工神經(jīng)網(wǎng)絡(luò)最底層的反向傳播算法的更優(yōu)解，力圖實現(xiàn)Yan模型的降本增效。

同時在算法側(cè)，受人腦神經(jīng)元分區(qū)激活的啟發(fā)，采用基于仿生神經(jīng)元驅(qū)動的選擇算法，實現(xiàn)了類腦分區(qū)激活的工作機制，使大模型可以根據(jù)學(xué)習(xí)的類型和知識的范圍分區(qū)激活，減少數(shù)據(jù)訓(xùn)練量，發(fā)揮多模態(tài)的潛力。因此，當(dāng)模型迭代到1.2版本，已經(jīng)可以實現(xiàn)在PC端、手機端、樹莓派端和機器人端等設(shè)備上的無損運行。

在未來的應(yīng)用場景方面，我們可以進行一番設(shè)想：在智能家居領(lǐng)域，端側(cè)AI可以融入家庭設(shè)備，根據(jù)家庭成員的習(xí)慣和需求，實時學(xué)習(xí)和調(diào)整設(shè)備的運行模式，實現(xiàn)智能化的家居控制；在教育領(lǐng)域，端側(cè)AI可以成為學(xué)生的學(xué)習(xí)伙伴，根據(jù)學(xué)生的學(xué)習(xí)進度和特點，提供個性化的學(xué)習(xí)內(nèi)容和指導(dǎo)；在醫(yī)療領(lǐng)域，端側(cè)AI可以輔助醫(yī)生進行診斷和治療，通過對大量醫(yī)療數(shù)據(jù)的學(xué)習(xí)和分析，為患者提供健康管理和康復(fù)指導(dǎo)等。

可以預(yù)見，RockAI的端側(cè)AI機器人及其背后的Yan系列大模型，正在以強大的技術(shù)創(chuàng)新能力和跨域融合優(yōu)勢，為智能設(shè)備提供“大腦”，為“人工智能+”深度賦能各行各業(yè)做準(zhǔn)備。

加速群體智能涌現(xiàn)

以往，群體智能的發(fā)展方向更多是簡單的智力組合，疊加形成的是一種隨智能體數(shù)量呈線性增長的群體智能。比如，利用多個無人機的拼裝組合，來提升原本單個無人機的裝載能力等。

而當(dāng)前，RockAI所尋求的群體智能更多是智力協(xié)同，強調(diào)不同個體的特長互補，組合在一起形成的協(xié)同效應(yīng)可使群體智能呈指數(shù)級增長。因此，RockAI的目標(biāo)是致力于打造群體智能，而非OpenAI等公司傾向的“造神式”超級智能。

RockAI CEO劉凡平表示：“群體智能才是通往通用人工智能的關(guān)鍵路徑，因此RockAI以Yan架構(gòu)打造群體智能單元大模型，不單是為了提升某個設(shè)備的能力，更是為機器注入一種新的、本質(zhì)性的智能基因，使其擁有超強的環(huán)境適應(yīng)力和自主學(xué)習(xí)能力。屆時，每個部署了Yan模型的設(shè)備都將成為一個智能單元，通過它們的不斷協(xié)同、交互，最終激發(fā)群體智能的涌現(xiàn)。”

當(dāng)群體智能發(fā)生后，人與機器之間的協(xié)作方式就會發(fā)生更大變化，使機器服務(wù)于人類去做更多事情，同時機器與機器之間也可以協(xié)商如何完成任務(wù)，而不是一臺機器去完成，所以群體智能未來可能打開的東西比想象中更多。

在一系列技術(shù)革新與應(yīng)用探索的背后，RockAI不僅在技術(shù)層面實現(xiàn)了突破，更是在商業(yè)應(yīng)用和生態(tài)構(gòu)建上重新定義了大模型在智能時代的核心價值。

目前，RockAI已在B端業(yè)務(wù)落地，拓展Yan架構(gòu)大模型在醫(yī)療、金融、能源、通信等重點領(lǐng)域的落地及深度賦能。同時，Yan模型商業(yè)化的重心正逐漸從B端部署到C端，以軟硬件結(jié)合的方式搶占C端藍海市場的先機。

基于Yan架構(gòu)大模型“無損適配”全線終端設(shè)備的核心優(yōu)勢，RockAI也與芯片廠商及終端廠商達成初步合作意向，突破硬件限制，打造越來越多基于Yan架構(gòu)的智能單元，讓更多消費者能夠平等地享受到“真正的端側(cè)智能”。

對于Yan模型的未來，RockAI希望以Yan架構(gòu)為基礎(chǔ)打造通用人工智能操作系統(tǒng)，讓Yan模型成為像Windows、Android或IOS一樣的存在，使所有開發(fā)商都能基于此開發(fā)應(yīng)用。

當(dāng)Yan模型部署到智能手機、機器人以及其他多樣化設(shè)備后，會更像每個人的貼身伴侶，伴隨著個人的習(xí)慣去進行學(xué)習(xí)和服務(wù)，越來越具備個性化的價值，讓手機、電腦、電視、音響等智能家居都能展現(xiàn)出更強的適應(yīng)力與高度個性化的交互能力，個性化適配到每個人，最終形成諸如群體智能等可交互的多樣性智能生態(tài)。

與此同時，同步學(xué)習(xí)的深入實施、全模態(tài)融合的挑戰(zhàn)以及如何在保持個性化的同時確保數(shù)據(jù)安全和隱私保護等，這些也都是RockAI未來需要攻克的難關(guān)。但也正是這些挑戰(zhàn)，構(gòu)成了人工智能進化的動力，推動著RockAI和整個行業(yè)不斷向前，一個更加智能、更加個性化的AI時代正悄然來臨。

       原文標(biāo)題 : 群體智能，加速現(xiàn)實“科幻化”