来认识一下 LoRA：比法学硕士的完整培训程序更智能、更快、更便宜的人工智能黑客！

LoRA（低秩适应） 与传统的完整模型训练相比，LoRA（低秩适应）

提供了一种更有效的微调大型语言模型 (LLM) 的方法。 LoRA 没有调整所有模型权重，而是引入了小型可训练矩阵，同时保持原始模型的权重不变。这极大地减少了计算需求和内存使用量，使其成为资源受限环境的理想选择。

LoRA 的工作原理：

LoRA 利用低秩矩阵分解。 它假设微调期间所需的权重调整可以由低秩矩阵表示。这些矩阵明显小于原始模型权重，从而显着提高效率。 该过程涉及：

1. 分解：
权重更新被分解为一对较小的低秩矩阵。
2. 集成：
这些较小的、可训练的矩阵被添加到特定的模型层，通常在变压器模型的注意力机制内。
3. 推理/训练：
在推理和训练过程中，这些低秩矩阵与原始的冻结权重相结合。

使用 LoRA 的优点：

• 降低计算成本：
训练和推理速度更快，需要的计算能力更少，使其适合资源有限的设备（例如，VRAM 较低的 GPU）。
• 提高效率：
更新的参数更少，从而缩短训练时间。
• 增强的可扩展性：
通过简单地存储不同的 LoRA 参数集，可以使用相同的基础模型对多个任务进行微调，从而避免复制整个模型。
• 灵活性：
LoRA 的模块化设计允许将预先训练的 LoRA 适配器与各种基本模型和任务相结合。

让我们探索一下代码实现。

首先，安装所需的库：

<code class="language-bash">pip install transformers peft datasets torch</code>

transformers这将安装 peft、datasets、torch 和

。 现在，让我们检查一下 Python 脚本：

<code class="language-bash">pip install transformers peft datasets torch</code>

该脚本演示了核心步骤：加载基础模型、应用 LoRA、准备数据集、定义训练参数以及启动训练过程。 请注意，为了简洁起见，省略了 compute_loss 类中的 CustomTrainer 方法（对于训练至关重要），但通常会涉及计算交叉熵损失。 保存微调模型也没有明确显示，但需要使用 trainer.save_model() 方法。 请记住根据您选择的模型架构调整 target_modules 中的 LoraConfig。 这个简化的示例清晰地概述了 LoRA 的应用。

以上是来认识一下 LoRA：比法学硕士的完整培训程序更智能、更快、更便宜的人工智能黑客！的详细内容。更多信息请关注PHP中文网其他相关文章！