Ryan Ho
llama.cpp 的量化轉換程式有問題,導致所有 Llama3gguf 格式模型都需要重新轉換,目前已經發現了第三個問題,這導致那些負責轉換模型的人一直需要重新轉換並重新上傳到 HF。

LWDCLS/LLM-Discussions · The Llama3 and GGUF saga co...
FantasiaFoundry/GGUF-Quantization-Script · Some prob...

Ryan He :14_WhiteMage: :14_Dancer: :14_Paladin: (@ry...
載入新的回覆