微软和英伟达宣布迄今为止训练的最大、最强大的语言模型

例如，NVIDIA 和微软紧密合作，通过将最先进的 GPU 加速训练基础设施与尖端的分布式学习软件堆栈进行融合，实现了前所未有的训练效率。我们用数千亿的token构建了高质量的自然语言训练语料库，并共同开发了训练配方，以提高优化效率和稳定性。