Eji
@ejiwarp
Thu, Sep 29, 2022 12:38 PM
Thu, Sep 29, 2022 12:52 PM
1
Discord - A New Way to Chat with Friends & Communiti...
Waifu Diffusion v1.3, 預期10/10發表
學習資料量從本來計畫的30萬暴增到68萬，學習時間也陡增，租用8張48GB的A40，學習時間從9/26大幅延長到10/10
本來是300K 4 epochs，變成680k 10 epochs，當然會變長。
孩雅多
@hayatos
Thu, Sep 29, 2022 1:44 PM
感覺會很猛XD
Eji
@ejiwarp
Thu, Sep 29, 2022 2:27 PM
孩雅多
: 其實我覺得不會差太多，這個世代應該就這樣了
我個人比較好奇SDV2會怎樣
SD官方接下來想衝:LAION5B，解析度1024x1024，代表圖加倍&解析度變2x2，這樣模型就8倍大了，這時候的精確度是fp32，但是能再降精確度頂多降到int8，降到fp16和fp8都會變小(1/2 & 1/4)，但是這兩輪下來至少模型會變兩倍大(double from SD v1.4，about 7.6GB)，除非模型結構有改，也就是說Stable Diffusion v2假設有公開，那衍生的model都會需要16GB顯卡；當然optimizedSD之類那就算是小改模型結構了。
載入新的回覆
Waifu Diffusion v1.3, 預期10/10發表
學習資料量從本來計畫的30萬暴增到68萬，學習時間也陡增，租用8張48GB的A40，學習時間從9/26大幅延長到10/10
本來是300K 4 epochs，變成680k 10 epochs，當然會變長。
我個人比較好奇SDV2會怎樣
SD官方接下來想衝:LAION5B，解析度1024x1024，代表圖加倍&解析度變2x2，這樣模型就8倍大了，這時候的精確度是fp32，但是能再降精確度頂多降到int8，降到fp16和fp8都會變小(1/2 & 1/4)，但是這兩輪下來至少模型會變兩倍大(double from SD v1.4，about 7.6GB)，除非模型結構有改，也就是說Stable Diffusion v2假設有公開，那衍生的model都會需要16GB顯卡；當然optimizedSD之類那就算是小改模型結構了。