Hugging Face Blog·· 9 小时前精选AI 评分72
NVIDIA与IIT Madras发布Indic预训练研究与2.8T token数据集
Scaling Indic Pretraining: 2.8 Trillion Tokens and an Open Data Generation Pipeline
AI 导读
NVIDIA与IIT Madras及AI4Bharat将发布Nemotron-pretraining-Indic-v1，覆盖22种印度语言、约2.8万亿token，并同步开放GPU加速的数据生成流程。
推荐理由
报告同时给出2.8T token语料、生成流程与continued pretraining评测，便于理解印度语言数据扩展的方法和效果边界。
来源：Hugging Face Blog · huggingface.co