是多头自注意力。
馒头的架构更像是一个动态递归网络，每一层的神经元会根据输入自动调整连接权重和计算路径，不需要固定的注意力头。
苏风花了一年多，把前世看到的TranSfOrmer、MOE、稀疏训练、动态路由这些东西，再加上这一世的分析，拆碎了重新组合，才写出这么一套东西。
下午六点，深流智能的新闻发布会正式开始。
地点选在省城一家酒店的会议厅，不大，能坐百来号人。
到场的媒体有四五十家，有本地的，也有从京市、沪城飞过来的。
线上直播开了五个平台，同时在线人数很快就破了百万。
梁文风站在台上，穿着一件深色衬衫，头发梳得整齐，看起来很精神。
他身后的大屏幕上，是一张馒头的架构图。
“感谢各位今天过来。”
“今天早上，我们的产品馒头上线了。到现在为止，九个小时，注册用户超过三百万，对话量超过五千万次。这是我们团队没有预料到的成绩。”
他顿了顿，扫了一圈台下。
“但同时，网上也有一些质疑。有人说我们是套壳GPT，说我们华夏不可能做出这种东西。我今天就专门回应这些质疑。”
他转身指着大屏幕上的架构图。
“这是馒头的核心架构。
大家可以看，我们用的是动态递归网络。
具体的区别，我刚才发了一份技术白皮书，放在深流智能的官网上，任何人都可以下载。
白皮书里详细写了我们的设计思路、训练方法、核心模块的实现逻辑。
懂技术的朋友可以去看，看不懂的朋友可以问身边懂技术的朋友。”
台下有人举手：“梁总，白皮书里会公开核心参数吗？”
“不会。”
梁文风很干脆，“商业机密。但结构、原理、关键模块，我们都写清楚了。如果看完之后，还有人觉得我们是套壳，那我也没办法了。”
台下安静了一瞬，然后掌声响起来。
梁文风站在台上，等着掌声停了，又说：
“今天发布白皮书，还有一件事要宣布。馒头的所有接口，对国内高校和科研机构免费开放。
我们希望能有更多的人用馒头，研究馒头，一起推动华夏AI往前走。”
这句话说完，台下的掌声又响了起来，比刚才更热烈。
梁文风新闻发布会结束的时候，时间是晚上八点。
发布会直播的在线人数最高峰突破了五百万，评论区刷得飞快，大部分是支持的。
“深流智能牛逼！华夏AI加油！”
“免费开放高校和科研机构？这个格局，佩服。”
苏风在办公室里看
第354章 官媒下场-->>(第2/3页)，请点击下一页继续阅读。