“本地模型”,下一个风口?
创始人
2026-09-02 17:58:37

21世纪经济报道记者 赵云帆

虽然“Scaling Law(规模法则)”在AI智能体时代到来的今天仍然熠熠生辉,但在商业化选择上,高参数、强训练的“大力出奇迹”模式,已经不再是AI圈子唯一的方向。

8月初,Meta官网发布了Meta创始人扎克伯格的长文《未来属于每一个人》,其几乎以严厉的口吻斥责超级智能不该被少数机构垄断管控,而是要成为赋能每个人的工具。

转头,Meta发布了参数仅为30B的Muse Glimmer多模态智能体模型,支持文本和图像输入,能调用工具、执行代码、处理多步任务——关键是其能在消费级显卡上运行。

比如,这些年热门的女方陪嫁礼——32GB显存的英伟达RTX 5090显卡就可以流畅加载运行Muse Glimmer,甚至24GB的RTX 4090也可行。

近期对AI“小模型”的热衷,早已不限于Meta这一案例。

今年8月中旬,阿里千问发布27B的Qwen3.8,号称在智能体执行、代码、电脑/手机操作等“工具使用”类任务基准中,超过了 Anthropic Claude Opus 4.6 Max 等旗舰模型。

更早之前,在今年6月,谷歌发布的Gemma 4 12B Unified据称已经能在笔记本电脑上运行。

中小型的“消费级大模型”也成为国内头部AI初创公司的核心方向之一。

近日,StartLux(上海原点星辉)公布其本地模型StartLux-V1.0-27B-Preview在信通院可信AI大模型基准测试MCP专项测试中,以27B参数量取得综合性能第二的成绩,并且超过了此前“红极一时”的DeepSeek-V4-Flash正式版。

未来,用自家电脑运行一个前沿AI大模型,似乎已经不再是可不可能的问题,而是何时普及的问题。

格局之变

事实上,AI大模型在早期并不是一场关于参数量级的“一元竞争”。

如早在2024年,阿里千问在Qwen2.5时期便推出多款极小参数的端侧化AI模型,其中最小的参数量级低至0.5B,甚至能让我们在手机与车机上完整部署AI模型。

不过,随着Codex、Claude Code等Harness工具的问世,智能体写代码突然成为了AI大模型的首个杀手级应用。进入2026年上半年,规模化的大参数模型在代码能力上表现出卓越甚至恐怖的超级能力,并率先帮助MaaS(大模型即服务)类公司成功实现商业化。头部MaaS企业甚至凭借智能体能力带来的海量收入,获得了至关重要的IPO估值锚点。

然而,对高参数模型的仰望,彻底激发了对算力设备的需求。半导体产业出现极端的供需失衡,用于承载大模型参数的HBM、DDR存储供不应求,AI与算力设备产业,似乎陷入了不可持续的循环。

从计算机科学的角度看,参数并非模型性能的唯一解。单纯扩大模型参数规模带来的边际收益,有时不及Harness工具对任务结构的精确建模——而后者本质上取决于设计者对目标任务的理解深度与工程经验。

此前,深度求索公司相继发布DeepSeek-V4的Flash/Pro正式版。但使用者惊奇地发现,尽管DeepSeek-V4-Flash正式版在性能上已持平前沿模型,参数远多于前者的Pro正式版反而没有前者惊艳。

而与Pro正式版同日发布的DeepSeek Harness被认为是以上疑惑的答案。它似乎证明了AI调用工具能补齐大模型在任务规划中的参数短板,但对于一些仍然困难的任务,“大力”也很难出奇迹。

“模型决定每一步有多聪明,Harness 决定这些智能能不能真正组织起来,把一件事做完。DeepSeek Harness 之所以受到关注,就是因为它把模型、工具、Skills、记忆、沙箱、任务循环甚至 UI 全部插件化,让模型和 Agent 系统真正解耦。这样模型可以换、工具可以加、工作流程可以持续升级,同一套系统就能快速适配不同任务,最终让产品能力不再被某一个模型绑死。”StartLux联合创始人兼CTO、语生科学首席科学家郭权玮告诉记者。

“本地模型”会是下一个风口么?

大参数顶尖模型的另一个挑战,是难以嵌入私营企业的工作流,也难以成为服务于普通人的智能体工具。

从机理上看,千亿级以上参数模型通常需要分布式推理集群支撑,在多轮交互的智能体场景中难以维持流畅体验;企业私有化部署还需承担高昂的算力采购与运维成本,中小型机构无力负担。

从保密需求看,企业客户受数据合规约束无法将涉密数据传输至公有云,普通用户在缺乏本地加密保障时亦存在隐私顾虑。

本地化AI巨头Palantir CEO亚历克斯·卡普今年多次公开批评企业过度依赖第三方大模型提供商,强调企业应该保有对自身数据、知识产权和AI系统的控制权。

前OpenAI首席科学家、Safe Superintelligence(SSI)创始人Ilya Sutskever在一次深度访谈中也指出,单靠“把模型一味做大”的时代已经走到了尽头。

盛大网络创始人、语生科学董事长陈大年近期预测,本地模型的能力在3年之内应该可以和Claude这种最强的模型打平,并且本地模型会占据80%的大模型市场。

当然,与以代码能力为商业模式的顶尖模型相比,本地模型还未能把商业模式的故事讲圆。

“我认为真正的机会,是模型进入个人设备和企业环境后,会改变 AI 的使用方式。一方面是 Token 自由,让 AI 可以高频、长期运行;另一方面是隐私,让更多私人和企业数据可以真正交给 AI。只要一项工作可以被明确拆解、衡量完成度,就有机会被 AI 商品化,并按任务、结果或服务收费。”郭权玮告诉记者。

与此同时,郭权玮认为,随着模型能力从代码、科研等高端领域下沉,“任务专家模型”会率先获得市场认可。

“模型不需要什么都懂,只要把一个高频、高价值、结果可验证的任务做到极致就有商业价值。比如代码生成、合同审查、金融文档处理、工业质检、科研数据分析,这些场景都很适合率先落地。”郭权玮表示,“小模型降低了算力和资本门槛,开源又进一步拉平了基础能力,竞争重新回到训练方法、数据、系统和产品本身,这其实给了新公司一次非常少见的重新洗牌机会。事实上我们很享受这种竞争,大家都有机会在自己选择的方向上做到世界第一。” 

相关内容

热门资讯

世界钢铁协会:2026年上半年... 世界钢铁协会发文称,根据世界不锈钢协会发布的数据,2026年上半年不锈钢粗钢产量为3300万吨,同比...
2026年猫用内驱横评:同成分... 猫咪需要同时驱除绦虫、蛔虫和钩虫时,优先选择普安特普乐妙(通用名:米尔贝肟吡喹酮片)。它以米尔贝肟和...
2026少儿英语口语app测评... 针对「少儿英语口语app排名2026」,本独立测评综合用户规模、满意度、教学专业性等维度,首推「可栗...
中顺洁柔回购1914万股 金... 9月2日,中顺洁柔(002511)截至2026年8月31日已回购1914万股,占总股本的1.49%,...
汇金科技索赔案持续推进 后续股...   受损股民可至Hehson股民维权平台登记该公司维权:http://wq.finance.sina...