作者表示：在各种有效的 LLM 微调方法中，LoRA 仍然是他的首选。 LoRA（Low-Rank Adaptation）作为一种用于微调 LLM（大语言模型）的流行技术，最初由来自微软的研究人员在论文《 LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS 》中提出。不同于其他技术，LoRA 不是调整神经网络的所有参数，而是专注于更新一小部分低秩矩阵，从而大大减少了训练模型所需的计算量。 由于 LoRA 的微调质量与全模型微调相当，很多人将这种方法称之为…