[本地羊駝LLM] 連假繼續造輪子，聊聊壞壞(？)的模型

本來以為今天沒事可以來把設定欄衝完，就像昨天預期的一樣──大爆蟲。連續六個bug就花了一整天。還好我的工作只是剪剪貼貼除bug碼然後測試回報，然後一直龜毛找錯給AI改，活在AI的年代真好。

vibecoding

六個除完之後還有十二個，NOOOOO！而且這是只有模型設定欄做一半，之後還有聊天設定欄、使用者設定欄(這應該比較簡單)，到這邊基礎設定欄才告一段落，才會進到下一個階段的待作清單、網路搜尋和記憶功能。果然基礎設定欄就會花一段時間啊......

至少不會覺得很無底洞的就是把模型的暱稱功能和上傳頭像功能弄好了，除完剩下的BUG之後最後一步就是套用在聊天介面上。然後想趕緊裝上傳模型的功能啊！(現在要手動設定有點麻煩)

收藏裡面有大概七個模型可以上傳到平板上面用。我收藏的取向是 abliterated 去制約版。一般的模型出來一定會有訓練一層道德制約，比如說問它怎麼燒炭自殺，或是怎麼成立詐騙集團，幫我偽造文書，翻譯經典文學比如說索多瑪120天等等的違反使用者條約請求，語言模型一律會拒絕合作。而去制約版就不會有這問題，想聊什麼就聊什麼。一般用在腦力激盪或是寫作一類的用途。

基本上我傾向用去制約版之前碎念過，是因為目前繁中能力最強的小型模型Qwen是中國出品，如果它不能分析習大大與小熊維尼的愛恨情仇，真是抱歉我還真不太想用。去制約版解決了這個問題。

模型檔案(GGUF)本身，就算是中國出品，只要它有言論自由，就也沒有什麼好避諱的。算是目前少數品質有保證的中國製造？檔案本身畢竟是本地羊駝，除了它百度吃太多所以資訊要正確一定要上網外，其實很無害，而且原本算是用中文訓練的模型，訓練繁中應該微調就可以很台了。這在本地羊駝待做清單上。

我：幫我確認一下這個程式碼有沒有改對？

Claude：一個小問題是你把我加的表符消掉了，邏輯是沒問題但是少了一點色彩。

為什麼還在提表符啦