返回

第一百九十九章 五百卡?起步

首页
关灯
护眼
字:
上一页 回目录 下一页 进书架
的国产卡能做到400TFLOPS,如果只是推理的话,五百张支撑十万日活绰绰有余。」江松然说,「基於标注数据的後训练,虽然勉强,但也能做。但是要做预训练,是远远不够的。」

    TFLOPS(TeraFLOPS, Trillion Floating—point Operations Per Second)是衡量计算机算力的单位,中文是「每秒一万亿次浮点运算」。因为GPU的强项就是进行浮点数学运算,如果把每个GPU都比作一辆跑车的话,TFLOPS就是它仪表盘上的最高时速。

    用N卡体系来举例的话,游戏玩家的梦中情卡RTX5090在AI实际用的精度下大概能做到200TFLOPS,而专业用於AI训练的英伟达B200型号显卡,能达到单卡2250

    TFLOPS的恐怖算力。

    韩路一点了点头,这和他设想的没有出入。

    「而且,韩总,我不知道咱们团队里有没有人有过显卡集群管理的实操经验。但是,非CUDA生态显卡集群的管理难度和CUDA生态是完全不一样的,五百张国产卡,全国能把训练栈跑通的不超过三家。」

    说完,江松然露出略微骄傲的神色:「有我在,我有信心源智科技是其中一家。」

    韩路一对此倒是不怀疑,毕竟他招江松然进来,就是要他干这个的。

    他接着问道:「那从哪家采购最好,你有什麽建议吗?」

    江松然微微沉吟了一下,没有马上回答。

    这个问题其实有点儿敏感。江松然当过管理者,当然知道对於任何一家公司来说,采购都是敏感话题,更何况AI用显卡的单卡价格都在十万以上,五百张就是五千万的采购,金额可不小。

    如果是为了安全,他最好是给出一家国产头部大厂的推荐,大厂内控严厉,给他回扣的风险小,韩路一也更不会怀疑他。

    但是江松然在做过调查之後,确实发现了一个更好的选择,只是说出来未必对他本人是一件好事。

    他没有犹豫太久,还是咬了咬牙,说出了更冒险的版本:「有一家,叫矽明半导体(

    Sili—Lumin),总部在鹏城,也是个创业公司,去年刚开始量产第一款产品,叫L100,算力600TFLOPS,片间互联带宽600GB/s,对标的是英伟达的H100。硬体的料很足,而且还有一个对我们来说是优点的缺点一他们的软体做的很差,完全没有训练的落地配套,买家全是在做推理。」

    「所以矽明对咱们来说格外合适,五千多万的单子,对他们来说是救命稻草,而且他们的销路不好,有现货。」江松然把自己的思考都说了出来,「再加上他们的软体弱,硬体强,按硬体单价算性价比就特别高。而我们根本不用他们的配套软体,相当於采购的钱全花在硬体上了。」

    

第一百九十九章 五百卡?起步-->>(第2/3页),请点击下一页继续阅读。
上一页 回目录 下一页 存书签