推到余大嘴面前。
“设备已经处于绝对断网的物理隔离状态。”
“这里面装着的,就是那个参数量十二亿的蒸馏版测试模型。”顾屿指了指屏幕上的输入框,
“现在它连不上网,没法帮你点外卖,也没法查天气。”
“但你可以试试它对复杂逻辑的理解能力。”
余大嘴来了兴致,搓了搓手,把那台厚重的测试机捧在手里。
他略微思索,在输入框里打下了一段极其日常的测试题。
【我朋友老李下周搬新家,他平时喜欢喝茶,对电子产品不感兴趣。帮我推荐三个五百块以内的乔迁礼物,并分别说明推荐理由。】
本地设备停顿了两三秒钟,屏幕上就开始快速逐行吐出文字。
【根据您的需求,为您推荐以下三款五百元以内的乔迁礼物:】
【一、景德镇陶瓷茶具套装。老李喜欢喝茶,一套全新的茶具既投其所好,又适合新家待客,价格在预算范围内。】
【二、精品茶叶礼盒。作为爱茶之人,优质的茶叶是实用且不会出错的消耗品,非常适合作为贺礼。】
【三、中式造型的室内盆景。不涉及任何电子元素,能为新居增添生机,摆在茶桌旁也非常应景。】
余大嘴盯着屏幕上的文字,逐字逐句看了一遍。
他抬起头,满眼都是掩饰不住的震惊。
在完全断网的状态下,这台设备仅仅依靠本地算力,就完美抓取了“搬家”、“爱喝茶”、“排斥电子产品”以及“五百元预算”四个核心限制条件,并给出了条理清晰的答案。
而且速度极快。
这就是端侧人工智能的恐怖之处。
不依赖云端,没有网络延迟,所有数据在本地处理,隐私安全性拉满。
余大嘴站起身,在办公室里来回走了两圈。
“顾总,东西是好东西。”
余大嘴停下脚步,五官都快皱到了一起。
“但目前的硬件基础根本撑不起你的野心。”
他指着桌上那台加了厚厚散热模块的工程机。
“你刚才展示的设备,CPU和GPU肯定满载了吧?”
顾屿点了点头,这没法否认。
“这恰恰是最大的死穴。”余大嘴双手撑在茶几上。
“目前的手机CPU和GPU架构,设计初衷是处理通用计算和图形渲染。用来跑你们这种大模型的矩阵运算,效率低得令人发指。”
“强行跑,算力确实能凑合,但功耗绝
第1080章 手机里住个AI神-->>(第2/3页),请点击下一页继续阅读。