Lora - HINA::工程幼稚園 (Page 3)

[Lora] Kohya_ss GUI 介面筆記

Oct 5, 2023 36 min read Lora Kohya_ss Lora 訓練訓練模型 AI AIGC StableDiffusion Kohya-ss Kohya GUI

單純介紹一下 Kohya_ss GUI 的操作界面，雖然每次版本升級之後都有些微差異，但大抵上還是可以通用。我這邊僅介紹關於 Lora 的部分，其他介面上的東西勞煩大家自行研究。

[Lora] 複印訓練法與差異化融合

Jul 15, 2023 7 min read Lora Lora 訓練 Lora Block Weight Training 訓練模型差異化融合模型 SVD Merged Merged AI

不久之前在 b 站青龍大的影片中，知道了複印法與差異法融合的概念。原有的複印法是一位 2vXpSwA7 提出，而差異法則是 Kohya-ss 作者所延伸出來的另一個作法。這兩種方法都很有趣，然後就開始實作這個部分。

[Kohya_ss] 訓練優化器與超參數

Jun 26, 2023 12 min read AI AIGC Kohya_ss Hyperparameter StableDiffusion Lora 訓練超參數 AdamW8bit Adafactor Dadaptation Lion Optimizer 優化器 Lora

說在最前面的，在 Lora 訓練當中，各種優化器（Optimizer）都有自己專屬的超參數（Hyperparameter）。對於模型訓練而言，超參數的影響並不會非常巨大，所以，在你決定調整超參數之前，請先確保你的模型已經足夠好了。不然花在這上面的時間，很可能會是浪費掉的。

[Kohya_ss] 分層訓練與參數筆記

Jun 19, 2023 7 min read AI StableDiffusion Kohya_ss 訓練模型 Lora 訓練 Lora Block Weight Lora

分層訓練並沒有一個很明確的標準，所以這裡僅僅只是過程的筆記，所有的訓練結果還是需要自己去驗證，並不一定哪一個參數比較好。b 站有不少分層訓練的教學，如果覺得有什麼疑慮的話可以去看看，當作是個參考也是不錯的。

[Kohya_ss] 訓練參數計算筆記

May 16, 2023 5 min read AI Kohya_ss AIGC StableDiffusion Lora Lora 訓練 Kohya-ss

更新了 Kohya_ss 之後，有些地方的參數跟 GUI 其實不太一樣，這邊單純記錄一下，以免以後覺得哪裡怪怪的。 Kohya_ss 版本目前的穩定版本是 v21.5.11 所以以下的紀錄都是針對這個版本來做調整。另外我有針對正規化資料集而修改程式碼，我先說在前面。訓練計算的改變首先，訓練的 Log 都會有這個計算資料出現，第一個訓練資料集的數量應該沒有懸念，就是你設定多少，他就會寫多少。由上面的圖片可以知道我是有 2,000 步的訓練資料集。接著，正規化資料集的數量有