Kohya-ss

[Flux] Lora 從訓練到放棄

[Flux] Lora 從訓練到放棄

12 min read LoraLora 訓練FluxFlux.1Flux.1-DevFlux.1-SchnellStableDiffusionKohya GUIKohya-ssAIAIGCCivitAITensorArtAI-Toolkit
自從 SD3 徹底被放棄之後，Flux 的出現又是一個新的氣象。加上前一陣子 C 站大動作率先支援 Flux Dev 的訓練，所以整個 Flux Lora 如同雨後春筍般瘋狂的冒了出來。 線上工具也是有諸如 AI-toolkit，本地端青龍的訓練包，以及 Kohya。 FLUX 這是由 Block Forest Labs 所釋出的新模型，目前市面上流通的是 Dev 與 Schnell 兩個版本，而 Pro
[Lora] 關於訓練的 Noise 與 Loss

[Lora] 關於訓練的 Noise 與 Loss

13 min read AIAIGCLoraLora 訓練Kohya-ssKohya_ssStableDiffusionNoise OffsetLossHuber loss
說在最前面的，這些訓練數據可能會因為演算法、優化器、排程器或是各種相關套件更新而失準。本次的實驗主要是要測試 Noise 對於整體訓練的差異，與可能可以怎麼選擇或是設定的紀錄。 Kohya GUI 本次所使用的 Kohya GUI 版本是 24.1.4，如果你不是這個版本，或者是你是直接使用 kohya-ss/sd-script v0.8.7 也可以。 我們在 Kohya 的進階設定中可以找到本篇文章所提到的各種設定，你可以參考我之前的文章 [Lora] Kohya_ss GUI
[Lora] 切臉訓練設定誤區

[Lora] 切臉訓練設定誤區

4 min read LoraLora 訓練Kohya-ssStableDiffusionAIAIGCKohya_ss
這是一個我一直忘記也沒有拿出來講的事情，在 Kohya 訓練參數當中，所使用的 face_crop_aug_range 一直都有一個誤會。 其實單純設定他是沒有效果的。 face_crop_aug_range 這個參數在 Kohya-ss/sd-script 當中，其實是需要針對檔案名稱作特殊處理，這個參數才會生效。然後我之前的文章好像都沒特別提到這件事情。 根據原始碼 train_util.py#L1095， face_cx = face_cy = face_w
[Lora] 訓練概念筆記

[Lora] 訓練概念筆記

14 min read AIAIGCLoraLora 訓練訓練模型StableDiffusionKohya-ssKohya_ss
這是我目前訓練 Lora 的流程概念筆記，訓練的過程其實大概就煮飯一樣，現在電子鍋很方便，就跟訓練器一樣，只是準備不周的話，飯會不會熟就是另一回事了。 訓練資料集 首先你需要明確的知道你想要訓練的「目標」是什麼，這樣才能準備資料。無論你訓練的目標是什麼，盡量多元的資料集是必須的。 1. 如果只訓練一個概念（ Concept ），那麼請盡量刪除或抹去與這個概念會產生衝突的資料。 2. 訓練多個概念，可以透過特定的標籤（ Tag ）來解決，這樣會需要更多的訓練時間。 3. 如果你使用 ARB ( Aspect Ratio Bucket) 的訓練方式，可以不裁切資料集圖片（