相较于电脑,手机可说是有更多个人隐私资料的装置,也因此使用AI 时,很多人都希望能使用本地的AI 语言模型。虽然现在的手机已经能运行一些参数规模较小的AI 语言模型,但受限于硬体效能与模型能力,实际使用体验不是很好,能真正使用的情境也很少。
好消息是,高通执行长Cristiano Amon 最近在一场访谈中透露,已经有客户向高通提出需求,希望到了2028 年,手机就能在本地持续运行至少1,000 亿参数(100B)的大型语言模型。更值得注意的是,提出这需求不是传统手机品牌,而是走在AI 技术最前沿的公司,甚至有部分AI 公司已经开始投入智慧型手机开发。

高通CEO 证实AI 公司要求2028 年手机本地跑100B 模型,部分已投入手机开发
高通CEO 近日在科技记者Alex Heath 主持的《Sources》节目中提到:「我必须小心,不能透露名字,但有些AI 公司,也就是几家走在AI 最前沿的公司,正在告诉高通:『到了2028 年,我需要确保手机有能力运行至少1,000 亿参数的模型,而且要让它几乎一直保持运作。』」
Alex Heath 接着追问:「所以你是说,有AI 公司正在谈⋯⋯」话还没讲完,Cristiano Amon 就直接回答:「嗯,AI 公司开始在做手机了。」
不过过高通没有点名是哪些公司,也没有承诺会在哪一年推出对应的晶片或产品。但至少可以期待,2028 年应该有会看到手机能本地运行还不错的AI 模型。 100B 我是认为有点太乐观,毕竟现在多数电脑都还做不到,更别提体积小这么多的手机。
有些读者可能不太清楚100B 到底是多大。
所谓的「参数」,可以简单理解成AI 模型在训练过程中学习到的大量数值,而100B 就代表模型拥有1,000 亿个参数。一般来说,参数越多,代表模型规模越大,有机会处理更复杂的任务,但不代表一定更聪明,实际能力还取决于模型架构、训练方式等因素。此外,模型规模越大,通常也需要更多运算资源和记忆体。

那现在手机能跑多大的模型?
高通今年9 月的发表的Snapdragon 8 Elite Gen 6 与高阶版Snapdragon 8 Elite Extreme Gen 6 中,Extreme 版可在手机本地运行30B 等级的MoE(混合专家)模型。
此外,手机要跑得动100B 模型,最大的障碍不是处理器,而是记忆体容量。就算100B 模型用4-bit 量化压缩,光是存放模型权重,理论上就需要约50GB 记忆体;压到2-bit 也还要25GB 左右:
| 项目 | 所需/搭载记忆体 |
|---|---|
| 100B 模型(16-bit 原始精度) | 约200GB |
| 100B 模型(8-bit 量化) | 约100GB |
| 100B 模型(4-bit 量化) | 约50GB |
| 100B 模型(2-bit 量化) | 约25GB |
| iPhone 17 Pro、Galaxy S26 | 12GB |
| 主流Android 旗舰 | 12GB~16GB |
| 少数高阶Android 机型 | 24GB |
(注:表中模型需求只计算模型权重,依「参数量× 位元数÷ 8」换算)
容量之外,成本和供应也是大问题。这一年多来DRAM 价格持续飙涨,除了手机涨价外,不少厂商也取消高容量版本,短期内要看到手机普遍突破16GB 也不太容易。 《Sources》的节目也提到,有不少人因为记忆体价格高涨而延后换机。因此,要在这种环境下让手机配备50GB 以上的记忆体,难度可说超高。
另外还有电池和散热。手机的电池容量和散热空间都很有限,大型模型长时间在背景运作,耗电一定会明显增加,机身温度一升高,晶片就会降频,效能跟着往下掉。

这次高通虽然没有透露是哪间公司,但分析师郭明錤先前就曾指出,高通与联发科正在帮OpenAI 的手机设计客制化晶片,由立讯精密代工,预计2028 年量产(也有报导称提前到2027 年)。因此即便Amon 这次没有点名OpenAI,也很难让人不猜测这就是指OpenAI。
有些人可能会想,为什么AI 公司会想把大模型塞进手机?
ChatGPT、Claud、Gemini 这类AI 服务,内容大多要传到云端伺服器运算,再把结果传回来。网络不稳就会卡住,回应也总有一段延迟,而且对话、文件、照片都得离开手机。如果模型能直接在手机上跑,就能改善这些状况。
除此之外,对AI 公司来说,还有一个更大的诱因:AI 代理。
AI 代理不只回答问题,还能根据你的指示主动把事情办完。像是你跟手机说「帮我安排明天的行程」,AI 就能根据你授权的行事历、待办事项和消息内容,排出一份可行的时间表,顺便提醒你哪个会议撞期。虽然好用,但这也代表AI 要掌握你的行事历、消息、照片、位置等个人资料,而且要随叫随到。
如果把这些资料都丢上云端处理,隐私和延迟都是问题,这也是为什么AI 公司开出的条件是「一直保持运作」,而不只是「能跑」。
