xAI Grok 4.8官宣,2.5T参数模型即将进入强化学习阶段

AI资讯13小时前发布 文明旁观者
6 00

Grok 4.8 选用新的 C++ 软件栈,底层训练基础设施完成重构。这套底层框架面向超大参数量模型做底层调度优化,适配海量算力集群的训练任务,支撑 2.5 万亿参数规模模型的计算调度。新栈在内存管理、算子调度层面做底层优化,减少超大模型训练过程中的资源损耗。

xAI Grok 4.8官宣,2.5T参数模型即将进入强化学习阶段

Grok 系列持续向上调整模型参数量,Grok 4.7 规划为 2.1 万亿参数,Grok 4.8 继续放大模型规模。更大参数体量会拓展模型在复杂推理、科学计算、长文本逻辑处理方向的上限,也会带来训练成本、推理硬件门槛的抬升。行业视线集中在这套超大参数模型正式落地后的基准测试表现。

模型完成预训练不等于面向大众开放使用。强化学习阶段用来对齐模型输出行为,修正输出偏差,完成安全与指令适配相关的调整。后续还会开展多轮内部评测,确认指标达标后,再安排上线相关测试通道。

© 版权声明
为这篇文章评分
10.0/ 10
1 人评价
点击⭐️进行评分

相关文章

暂无评论

none
暂无评论...