/
QLoRA训练 关键字列表
Unsloth微调Llama3-8B，提速44.35%，节省42.58%显存，最少仅需7.75GB显存
我们实测了Unsloth所带来的训练增益，对Llama3-8B进行QLoRA训练，最少仅需7.75GB显存，这意味着我们可以在一张1080Ti上训练Llama3-8B，进一步降低了大模型训练的硬件门槛。开启Unsloth后，Llama3-8B的训练速度可提升44.35%，训练时间可减少30.72%，显存占用可减少42.58%。更详细的测试设置可参考第三节。
白皮书
京公网安备 11010802021500号
