LoRAとは？
読み方: ローラ
30秒まとめ
少ないパラメータの追加学習で大規模モデルを効率的にファインチューニングする手法。
LoRAの意味・定義
LoRA（Low-Rank Adaptation）は、大規模なAIモデルを効率的にファインチューニングするための手法です。通常のファインチューニングではモデルの全パラメータを更新する必要があり、膨大な計算リソースとメモリが必要ですが、LoRAではモデルの重み行列に低ランクの小さな行列を追加し、その部分のみを学習させます。これにより、元のモデルのパラメータを変更せずに、少ない計算コストで特定のタスクに特化した調整が可能になります。学習に必要なGPUメモリが大幅に削減されるため、個人や中小企業でもファインチューニングが現実的になりました。特に画像生成AI（Stable Diffusion）の分野では、特定のスタイルやキャラクターを学習させるLoRAモデルが多数公開されています。QLoRA（量子化とLoRAの組み合わせ）により、さらに効率的な学習も可能です。