蚂蚁集团最近发布了 CodeFuse–CodeLlama-34B 的 4bits 量化版本，该模型经过量化后仍可用单张 A10 或 RTX4090 加载。经过量化后的模型在 Humaneval pass@1 指标上取得了 73.8% 的表现。CodeFuse 是蚂蚁自研的代码生成专属大模型，通过提供智能建议和实时支持，帮助开发者自动生成代码，提升研发效率。