NVIDIA与IIT Madras发布Indic预训练研究与2.8T token数据集
NVIDIA与IIT Madras及AI4Bharat将发布Nemotron-pretraining-Indic-v1,覆盖22种印度语言、约2.8万亿token,并同步开放GPU加速的数据生成流程。
推荐理由:报告同时给出2.8T token语料、生成流程与continued pretraining评测,便于理解印度语言数据扩展的方法和效果边界。
NVIDIA与IIT Madras及AI4Bharat将发布Nemotron-pretraining-Indic-v1,覆盖22种印度语言、约2.8万亿token,并同步开放GPU加速的数据生成流程。
推荐理由:报告同时给出2.8T token语料、生成流程与continued pretraining评测,便于理解印度语言数据扩展的方法和效果边界。