DSpark – DeepSeek联合北大发布DSpark加速框架

DSpark – DeepSeek联合北大发布DSpark加速框架

DSpark是北京大学与DeepSeek联合开发的开源大语言模型推理加速框架,通过创新的半自回归生成与置信度调度技术,在高并发场景下将生成速度提升60%至85%,同时显著降低推理成本。解决大模型自回归...
文明旁观者的头像4个月前
01260