NVIDIA 联合 AI4Bharat 开源 2.8 万亿 token 印度语言预训练语料及数据生成管线
NVIDIA 联合 AI4Bharat(IIT Madras)开源 Nemotron-pretraining-Indic-v1 印度语言预训练语料,覆盖 22 种印度语言共约 2.8 万亿 token,其中 12 种语言同时提供本族文字与罗马化版本。
推荐理由:原文给出了从翻译到质量筛选的完整生成流程与 75/100 阈值等具体参数,读者可据此复现或改造自己的多语种数据管线。
NVIDIA 联合 AI4Bharat(IIT Madras)开源 Nemotron-pretraining-Indic-v1 印度语言预训练语料,覆盖 22 种印度语言共约 2.8 万亿 token,其中 12 种语言同时提供本族文字与罗马化版本。
推荐理由:原文给出了从翻译到质量筛选的完整生成流程与 75/100 阈值等具体参数,读者可据此复现或改造自己的多语种数据管线。
IBM Research 在 ALTK-Evolve 中加入一致性分析器和一致性指南模块,目标是缩小智能体跨次执行的稳定性差距。
推荐理由:文章揭示被平均准确率掩盖的智能体一致性差距,并给出基于单条轨迹即可定位易翻转决策点的诊断与稳定化方法。
Hugging Face 提出 BenchMIRT 方法,基于多维 IRT(MIRT)在提示词层面拆解 LLM 评测基准背后的能力信号。该方法在 100 个 LLM、16 个基准和 34K+ 题目上训练,独立恢复出"安全"与"通用推理"两个主导维度。分析显示 BBQ、WMDP 等安全类基准与通用推理关联更强,单一分数可能混合多种信号。
Hugging Face 新论文将 LLM 知识蒸馏峰值显存从约 250GB 降至约 128GB,方法是离线缓存教师模型 top-100 logits 并采用分块融合 KL 损失。该方案使单张 H200 即可完成长上下文知识蒸馏训练,无需再依赖数百张 GPU 与张量并行,让大规模实验更易开展。
Google Research 提出的 MoGen 模型利用 PointInfinity 点云流匹配技术合成神经元三维形态,将 PATHFINDER 连接组重建模型的错误率降低 4.4%,相当于在小鼠全脑规模下节省 157 人年的人工校对工作。该论文将在 ICLR 2026 上发表,是现代生成式 AI 首次推动连接组重建达到当前最优水平,MoGen 已作为开源模型发布。