邊緣AI新突破，從“云端排隊(duì)”到“私人Co-Pilot”

近日，國內(nèi)領(lǐng)先的RISC-V架構(gòu)SoC芯片公司躍昉科技宣布，其自主研發(fā)的AI Mini Computer（AMC）成功實(shí)現(xiàn)DeepSeek系列蒸餾模型的本地化運(yùn)行，以U盤形態(tài)重塑了AI計(jì)算方式?；赗ISC-V架構(gòu)的開放性和AMC本地化計(jì)算能力，躍昉科技讓AI計(jì)算由傳統(tǒng)的云端模式邁向邊緣端，使普通電腦秒變AI工作站，讓AI隨時(shí)待命，為用戶提供高效的智能助手（Co-Pilot）。

這一創(chuàng)新降低了AI計(jì)算的使用門檻，并在數(shù)據(jù)安全、本地推理和個(gè)性化應(yīng)用方面展現(xiàn)潛力。用戶無需再受網(wǎng)絡(luò)限制或云端排隊(duì)影響，即可享受穩(wěn)定的AI體驗(yàn)，讓AI真正融入日常工作與生活。這無疑再次驗(yàn)證了RISC-V架構(gòu)在AI計(jì)算領(lǐng)域的潛力，展現(xiàn)了其開放、靈活、高效的優(yōu)勢(shì)，為邊緣端智能計(jì)算拓展了更多空間。

AMC 實(shí)拍 | 口袋里的專屬智能助手

RISC-V助力邊緣AI計(jì)算，邁入本地化新階段

長(zhǎng)期以來，AI計(jì)算主要依賴云端，但算力成本、網(wǎng)絡(luò)延遲及數(shù)據(jù)隱私等問題限制了其在邊緣端的應(yīng)用。躍昉科技基于自研RISC-V架構(gòu)芯片，打造了AMC低功耗計(jì)算設(shè)備，并初步驗(yàn)證了其在邊緣端運(yùn)行輕量級(jí)AI模型的能力。AMC具備以下核心優(yōu)勢(shì)：

即插即用：可通過USB直連，無需服務(wù)器，快速完成環(huán)境部署，用戶體驗(yàn)更便捷。

超低功耗：僅3W功耗，在邊緣計(jì)算場(chǎng)景下兼具節(jié)能和高效的優(yōu)化潛力。

網(wǎng)頁本地化訪問：相比云端排隊(duì)、等待響應(yīng)，你的AI助手隨時(shí)在線。目前已在AMC上成功運(yùn)行部分輕量化AI模型，但計(jì)算能力仍有限，適配更復(fù)雜任務(wù)的模型仍在開發(fā)中。

本地私有知識(shí)庫：保護(hù)數(shù)據(jù)隱私，隨身攜帶，安全可控。目前仍處在開發(fā)驗(yàn)證階段，未來將推出本地私有知識(shí)庫方案，增強(qiáng)數(shù)據(jù)隱私保護(hù)。

目前，AMC主要適用于輕量化AI推理，仍在不斷優(yōu)化模型適配能力，以支持更復(fù)雜的AI任務(wù)。

已經(jīng)實(shí)際部署運(yùn)行成功的模型

UI 界面：設(shè)計(jì)簡(jiǎn)潔直觀，用戶可快速上手，無需復(fù)雜配置，Less is More！

OTA+場(chǎng)景化模型，開啟邊緣AI計(jì)算新范式

在推動(dòng)DeepSeek系列蒸餾模型在AMC本地化運(yùn)行的過程中，躍昉科技還提出一個(gè)全新的邊緣AI計(jì)算應(yīng)用概念——“OTA（Over-the-Air）+場(chǎng)景化模型”。目前正在進(jìn)行相關(guān)技術(shù)驗(yàn)證，以評(píng)估其在邊緣AI計(jì)算中的可行性：

場(chǎng)景化模型適配：針對(duì)教育、工業(yè)、辦公、個(gè)人助手等不同場(chǎng)景，訓(xùn)練更精巧的 AI 模型，以適配本地場(chǎng)景化的應(yīng)用需求。

OTA動(dòng)態(tài)部署：設(shè)想是突破傳統(tǒng)OTA僅用于軟件升級(jí)的局限，AMC可按需拉取和更新最適合當(dāng)前應(yīng)用場(chǎng)景的AI模型，優(yōu)化邊緣設(shè)備的智能交互體驗(yàn)。

開放生態(tài)構(gòu)建：希望打造可訂閱、可迭代的模型市場(chǎng)，促進(jìn)開發(fā)者和用戶形成良性互動(dòng)，推動(dòng)AI計(jì)算生態(tài)持續(xù)優(yōu)化，目前仍在規(guī)劃階段。

這一全新計(jì)算模式不僅有望降低用戶的AI使用成本，同時(shí)也為開發(fā)者提供了更大的創(chuàng)新空間，讓AI從“大而全”向“小而精”轉(zhuǎn)變，真正實(shí)現(xiàn)按需適配、精準(zhǔn)計(jì)算。

讓AI成為個(gè)性化的智能伙伴

AMC的便攜性與在計(jì)算能力方面展示出的潛力，使其不僅僅是一款A(yù)I計(jì)算設(shè)備，更有望成為用戶長(zhǎng)期成長(zhǎng)的智能伙伴：

離線運(yùn)行，隨時(shí)調(diào)用：無論是在辦公、學(xué)習(xí)還是工業(yè)應(yīng)用場(chǎng)景，AI即插即用，不受云端依賴的限制，但完整大模型推理能力仍在測(cè)試中。

數(shù)據(jù)存儲(chǔ)與回傳：AMC具備32GB本地存儲(chǔ)，可將使用過程中的數(shù)據(jù)本地化存儲(chǔ)，同時(shí)支持同步至個(gè)人主機(jī)，形成用戶專屬的AI記憶。但目前知識(shí)庫儲(chǔ)存與數(shù)據(jù)同步功能仍在研發(fā)階段，后續(xù)將視技術(shù)進(jìn)展進(jìn)行優(yōu)化。

個(gè)性化成長(zhǎng)：未來AI可長(zhǎng)期學(xué)習(xí)用戶的知識(shí)、經(jīng)驗(yàn)和決策方式，逐步形成個(gè)人數(shù)字孿生（Digital Twins），讓AI真正理解用戶需求，成為長(zhǎng)期的智能助手。

這一模式使AI助手不再是千篇一律的通用工具，而是可以隨用戶需求不斷優(yōu)化，逐步形成個(gè)性化智能助手，提升日常工作與生活體驗(yàn)。

推動(dòng)RISC-V架構(gòu)在邊緣AI計(jì)算的應(yīng)用探索

躍昉科技始終致力于RISC-V架構(gòu)在AI計(jì)算、邊緣計(jì)算及智能互聯(lián)領(lǐng)域的創(chuàng)新融合，并通過AMC這一產(chǎn)品形態(tài)，嘗試推進(jìn)邊緣端大模型推理的可行性。目前，部分功能仍處在開發(fā)或概念驗(yàn)證階段，但躍昉科技將繼續(xù)圍繞低功耗、高效能、場(chǎng)景化AI計(jì)算進(jìn)行深度優(yōu)化，推動(dòng)邊緣AI計(jì)算生態(tài)的持續(xù)演進(jìn)。

未來，AI計(jì)算不應(yīng)僅存在于云端，而是應(yīng)成為一種更普惠、更個(gè)性化、更靈活的智能能力，賦能千行百業(yè)。躍昉科技將持續(xù)探索“OTA +場(chǎng)景化模型”的應(yīng)用，推動(dòng)邊緣AI計(jì)算的優(yōu)化升級(jí)，助力AI計(jì)算向更靈活、更個(gè)性化的方向發(fā)展。

注：目前部分功能仍處在研發(fā)或概念驗(yàn)證階段，如AMC適配的AI模型主要為輕量級(jí)模型，完整大模型推理能力仍在優(yōu)化中；OTA場(chǎng)景化模型、知識(shí)庫存儲(chǔ)等功能仍在研發(fā)和概念驗(yàn)證階段，未來將根據(jù)技術(shù)進(jìn)展逐步探索落地。部分功能如本地網(wǎng)頁訪問仍處于測(cè)試階段，性能和用戶體驗(yàn)仍需進(jìn)一步優(yōu)化。本文中提及的功能和應(yīng)用方向部分仍為探索性內(nèi)容，具體技術(shù)進(jìn)展將依據(jù)研發(fā)進(jìn)度持續(xù)更新。