Kohya_ss - HINA::工程幼稚園

[Kohya_ss] 訓練優化器與超參數

Jun 26, 2023 12 min read AI AIGC Kohya_ss Hyperparameter StableDiffusion Lora 訓練超參數 AdamW8bit Adafactor Dadaptation Lion Optimizer 優化器

說在最前面的，在 Lora 訓練當中，各種優化器（Optimizer）都有自己專屬的超參數（Hyperparameter）。對於模型訓練而言，超參數的影響並不會非常巨大，所以，在你決定調整超參數之前，請先確保你的模型已經足夠好了。不然花在這上面的時間，很可能會是浪費掉的。

[Kohya_ss] 分層訓練與參數筆記

Jun 19, 2023 7 min read AI StableDiffusion Kohya_ss 訓練模型 Lora 訓練 Lora Block Weight Lora

分層訓練並沒有一個很明確的標準，所以這裡僅僅只是過程的筆記，所有的訓練結果還是需要自己去驗證，並不一定哪一個參數比較好。b 站有不少分層訓練的教學，如果覺得有什麼疑慮的話可以去看看，當作是個參考也是不錯的。

[Kohya_ss] 訓練參數計算筆記

May 16, 2023 5 min read AI Kohya_ss AIGC StableDiffusion Lora Lora 訓練

更新了 Kohya_ss 之後，有些地方的參數跟 GUI 其實不太一樣，這邊單純記錄一下，以免以後覺得哪裡怪怪的。 Kohya_ss 版本目前的穩定版本是 v21.5.11 所以以下的紀錄都是針對這個版本來做調整。另外我有針對正規化資料集而修改程式碼，我先說在前面。訓練計算的改變首先，訓練的 Log 都會有這個計算資料出現，第一個訓練資料集的數量應該沒有懸念，就是你設定多少，他就會寫多少。由上面的圖片可以知道我是有 2,000 步的訓練資料集。接著，正規化資料集的數量有

[Lora] 訓練與大型翻車現場

May 2, 2023 10 min read StableDiffusion Lora Lora 訓練 AI AIGC Kohya_ss

人帶賽的時候真的不能跑訓練。

[Docker] Kohya_ss GUI 設定

Apr 6, 2023 5 min read Kohya_ss GUI Lora Lora 訓練 docker StableDiffusion AI

Kohya 原本是一套在 CLI 底下的訓練工具，後來有人把他做成 GUI，然後又有人把他 Docker 化，對我來說其實在 CLI 底下也沒有不方便。不過，既然有提供 Docker 化的 GUI 介面，那麼用這個來做設定也是挺方便的。