第1080章 手机里住个AI神 (第2/2页)
余大嘴盯着屏幕上的文字，逐字逐句看了一遍。
他抬起头，满眼都是掩饰不住的震惊。
在完全断网的状态下，这台设备仅仅依靠本地算力，就完美抓取了“搬家”、“爱喝茶”、“排斥电子产品”以及“五百元预算”四个核心限制条件，并给出了条理清晰的答案。
而且速度极快。
这就是端侧人工智能的恐怖之处。
不依赖云端，没有网络延迟，所有数据在本地处理，隐私安全性拉满。
余大嘴站起身，在办公室里来回走了两圈。
“顾总，东西是好东西。”
余大嘴停下脚步，五官都快皱到了一起。
“但目前的硬件基础根本撑不起你的野心。”
他指着桌上那台加了厚厚散热模块的工程机。
“你刚才展示的设备，CPU和GPU肯定满载了吧？”
顾屿点了点头，这没法否认。
“这恰恰是最大的死穴。”余大嘴双手撑在茶几上。
“目前的手机CPU和GPU架构，设计初衷是处理通用计算和图形渲染。用来跑你们这种大模型的矩阵运算，效率低得令人发指。”
“强行跑，算力确实能凑合，但功耗绝对压不住。手机几分钟就会发烫降频，电池用不了一个小时就会被抽干。”
余大嘴长叹了一口气。
“顾总，就算你们做到了参数蒸馏和量化压缩，解决了系统运存不够的难题。但它也是个吃电的怪物。”
“硬件跟不上，一切都是空谈。我们不能造一个暖手宝卖给消费者。”
面对余大嘴的纠结与无奈，顾屿脸上没有任何焦虑。
他端起早已经凉透的茶水，轻轻抿了一口。
“余总，我既然敢带着项目上门，自然准备好了全套的解决方案。”
顾屿放下茶杯，目光变得锐利起来。
“功耗痛点，现在只差一颗专属的NPU来彻底解决。”
“我的要求是，海思要为这款手机设计一款专属的核心硬件。”
顾屿直视着余大嘴的眼睛。
“让海思拿出一套专门针对TranSfOrmer架构底层算子进行硬件级加速的手机端NPU！”
余大嘴眉头微动，眼神逐渐亮起，脑子里飞速顺着这个激进的思路往下推演。
顾屿不疾不徐地抛出完整的构想：
“只要这颗NPU落地，我们就能在硬件物理层面上实现完美的‘端云协同’机制。”
他竖起一根手指，
“日常轻量级的使用场景，比如识别用户的语音指令、控制鸿蒙系统里的各个APP、做简单的日程规划和意图理解。这些任务，全部交由手机NPU硬件直驱那个十二亿参数的蒸馏版小模型。”
“因为是专芯专用，所以在端侧处理这些轻量任务时可以做到零延迟，断网可用，隐私数据绝不出端设备，而且功耗完全能压在安全线以内，手机根本不会发烫。”
接着，顾屿竖起第二根手指，
“但如果遇到复杂的重度需求，比如让AI写一份两万字的商业分析报告、进行深度的科研逻辑推理，或者需要全网检索最新的宏观数据，这已经超出了端侧轻量级模型的认知上限。”
“所以一旦判定为重度需求……”余大嘴接上话茬，
“手机的端侧模型就把指令打包装车，通过网络接口直接抛回给你们的云端天问大模型去跑？”
“没错。全量级的使用，直接连接九天服务器进行运算。”顾屿靠回沙发上，
“云端算力负责兜底高难度的全量任务，端侧NPU负责轻量级秒回和设备控制。”
“在用户眼里，没有端和云的区别切换，他们只会觉得，这台华为手机里住着一个无所不能的神。”