Online Softmax 的数学:从代数推导到信息几何··研究笔记 Flash Attention Online Softmax Information Geometry Optimization Math
【万字硬核】微软 & NVIDIA 联合巨作《Using DeepSpeed and Megatron to Train Megatron-Turing NLG 530B》全方位技术解析··研究笔记 研究笔记 LLM