面壁智能联合清华、OpenBMB开源两大最新数据集

2025年5月29日，面壁智能携手清华大学与OpenBMB开源社区，正式开源两大全新数据集：Ultra-FineWeb-L3 与 UltraData-SFT-2605。这并非常规迭代——Ultra-FineWeb-L3 提供高质量中英双语网页合成数据，总规模突破600B Tokens，其中中文数据高达200B+ Tokens，目前为开源社区规模最大的中文预训练合成数据集。UltraData-SFT-2605 则是国内首个千万级、同时包含深层推理与非思考标注的SFT数据集。

回顾MiniCPM5-1B的训练流程，可以发现这正是UltraData分级治理体系的一次完整落地。本次发布的两大数据集，已在MiniCPM5-1B的训练过程中获得充分验证，覆盖从预训练退火到后训练SFT的完整链条。换句话说，这不是停留在理论层面的产物，而是经过全流程跑通、经得起实操检验的工程成果。