最近大模型高效微调成为业界关注的焦点,如何通过轻量微调变成各个不同领域的专业模型,成为讨论的热点。今天我们介绍一种轻量级的微调方法:LORA。

目录

LORA:大模型轻量级微调 | LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS

LORA

LORA 源代码:GitHub - huggingface/peft: