HINA::工程幼稚園

[Lora] 複印訓練法與差異化融合

不久之前在 b 站青龍大的影片中，知道了複印法與差異法融合的概念。原有的複印法是一位 2vXpSwA7 提出，而差異法則是 Kohya-ss 作者所延伸出來的另一個作法。這兩種方法都很有趣，然後就開始實作這個部分。

[Kohya_ss] 訓練優化器與超參數

Jun 26, 2023 12 min read AI AIGC Kohya_ss Hyperparameter StableDiffusion Lora 訓練超參數 AdamW8bit Adafactor Dadaptation Lion Optimizer 優化器

說在最前面的，在 Lora 訓練當中，各種優化器（Optimizer）都有自己專屬的超參數（Hyperparameter）。對於模型訓練而言，超參數的影響並不會非常巨大，所以，在你決定調整超參數之前，請先確保你的模型已經足夠好了。不然花在這上面的時間，很可能會是浪費掉的。

[Kohya_ss] 分層訓練與參數筆記

Jun 19, 2023 7 min read AI StableDiffusion Kohya_ss 訓練模型 Lora 訓練 Lora Block Weight Lora

分層訓練並沒有一個很明確的標準，所以這裡僅僅只是過程的筆記，所有的訓練結果還是需要自己去驗證，並不一定哪一個參數比較好。b 站有不少分層訓練的教學，如果覺得有什麼疑慮的話可以去看看，當作是個參考也是不錯的。

[Kohya_ss] 訓練參數計算筆記

May 16, 2023 5 min read AI Kohya_ss AIGC StableDiffusion Lora Lora 訓練

更新了 Kohya_ss 之後，有些地方的參數跟 GUI 其實不太一樣，這邊單純記錄一下，以免以後覺得哪裡怪怪的。 Kohya_ss 版本目前的穩定版本是 v21.5.11 所以以下的紀錄都是針對這個版本來做調整。另外我有針對正規化資料集而修改程式碼，我先說在前面。訓練計算的改變首先，訓練的 Log 都會有這個計算資料出現，第一個訓練資料集的數量應該沒有懸念，就是你設定多少，他就會寫多少。由上面的圖片可以知道我是有 2,000 步的訓練資料集。接著，正規化資料集的數量有

[Lora] 訓練 1000 個小時之後

May 12, 2023 12 min read Lora Lora 訓練 StableDiffusion AI AIGC

本次記錄都會是一些參考資料，如果對於訓練有興趣的人可以自己去看看。基本上網路上能找到的資料有九成以上是針對二次元的訓練，所以如果是對這方面有興趣的人，這些資源是不錯的閱讀方向。

[Kohya_ss] 訓練優化器與超參數

[Kohya_ss] 分層訓練與參數筆記

[Lora] 權重調配與訓練記錄

[Docker] Kohya_ss GUI 設定

[Docker] Stable Diffusion WebUI 設定

[AIGC] Stable Diffusion with Lora 訓練記錄

[Lora] 複印訓練法與差異化融合

[Kohya_ss] 訓練優化器與超參數

[Kohya_ss] 分層訓練與參數筆記

[Kohya_ss] 訓練參數計算筆記

[Lora] 訓練 1000 個小時之後