这两天的LLama3.1可谓网络讨论的不亦乐乎，Meta新推出了8B、70B和405B三个规模版本，405B版本训练规模最大,使用了16,000个Nvidia H100的 GPU进行分布式训练,据说训练了几个月时间...