训练大型AI模型（如Transformer和语言模型）已成为AI领域不可或缺的关键环节，但也面临着高昂的计算成本、内存消耗和能源需求。例如，OpenAI的GPT-3拥有1750亿个参数，需要数周的GP…