Ryan He
Unraid 上,透過 Intel-IPEX-LLM-Ollama 這個針對 Intel 打包的容器,透過 Intel i5-12500 的內顯來跑 Unsloth_gemma3-4b-it:q4_K_M 這個大語言模型的速度與品質還算不錯。

LLM ollama gemma3 https://imgs.plurk.com/QGd/qeS/1WWWKwCQJSJnb2GYQdjjkhQbQor_lg.jpg

Ryan He (@ryanhe)
載入新的回覆