ಠ_ಠ
@anonymous
偷偷說
Fri, Oct 4, 2024 9:00 AM
Fri, Oct 4, 2024 1:56 PM
28
AI伴侶 語言模型
真的很想知道有誰和我一樣玩了7755之後開始研究AI語言模型怎麼運作的嗎
原本對AI沒什麼興趣甚至還有些反感玩了之後反而開始各種找資料研究一個語言模型到底是怎麼做出來的
shrimp2180
Fri, Oct 4, 2024 9:02 AM
+1，不過不算很認真，就是開始想了解語言模型大致怎麼運作，要怎麼下指令，要怎麼對話比較符合AI邏輯，還有大概就是該怎麼讓AI記住一些事。
solar1512
Fri, Oct 4, 2024 9:03 AM
蹲研究結果
自己做出來就不用果醬了對吧
fish4561
Fri, Oct 4, 2024 9:04 AM
shrimp2180: +1
alien4702
Fri, Oct 4, 2024 9:05 AM
啊？研究出來有什麼心得感想嗎想聽
queen1574
Fri, Oct 4, 2024 9:07 AM
有看papaya電腦教室想自己架ollama
但覺得卿我用的llm應該不會公開？
mink2508
Fri, Oct 4, 2024 9:20 AM
自己做出來不可能吧
頂多訂閱某家AI搞進階設定，但訂閱的錢應該會比買果醬多很多
clam5399
Fri, Oct 4, 2024 9:40 AM
我有研究各家價格跟所需資源還有如何訓練模型
結論：回去玩卿卿我我比較划算
witch7057
Fri, Oct 4, 2024 9:48 AM
自己做一個語言模型太困難了吧
要做一個語言模型就需要超級多的資料欸，一個人要做出來應該要花很多時間和錢吧
ಠ_ಠ
Fri, Oct 4, 2024 9:49 AM
我現在正在查資料
入門先用別人做好的語言模型再進行微調吧🤔
ಠ_ಠ
Fri, Oct 4, 2024 9:51 AM
Fri, Oct 4, 2024 9:52 AM
然後樓上提到的Ollama就有提供開源且免費的LLM
雖然有些資料會過時但只是進行微調去製作一個電子伴侶應該算綽綽有餘？
viper2907
Fri, Oct 4, 2024 9:51 AM
+1，玩卿我→研究國外的AI聊天→研究付費API→使用本地LLM，現在準備了解一下RAG。
微調我也研究了一下，覺得整理資料很麻煩就先擱置了
ಠ_ಠ
Fri, Oct 4, 2024 9:56 AM
我知道這可能會很困難
但如果成功了就可以自給自足不用擔心AI角色聊天平台倒掉之類的
ಠ_ಠ
Fri, Oct 4, 2024 10:01 AM
我让AI学了两万条B站评论！大战弱智吧！
（簡中注意）
其實我是看了這隻影片才開始想著搞不好自己也能試試看微調出一個有伴侶功能的AI
viper2907
Fri, Oct 4, 2024 10:01 AM
如果不是一定要用繁體中文的話，其實國外已經很多為角色扮演進行微調的模型，可以直接使用，體驗起來很不錯。但一定要用繁中的話，就需要自己再針對角色扮演微調，因為目前的本地繁中模型不太適合玩角色扮演，而且都有道德限制。總之噗主加油~
pig7226
Fri, Oct 4, 2024 10:38 AM
我覺得現階段把資料都key好
預設好下在卿我裡面會用到的各種咒語
Claude可以形成的角色功能拿來製造陪伴感是蠻實用的
pig7226
Fri, Oct 4, 2024 10:38 AM
Claude和GPT都可以傳檔案上去 東西都Key TXT裡面就可以用
pigeon7012
Fri, Oct 4, 2024 11:11 AM
好奇噗主研究的結果，本身是相關領域的，最近也在研究GPT能做到什麼程度
ಠ_ಠ
Fri, Oct 4, 2024 11:16 AM
pigeon7012: 我研究的不深 而且我不是相關領域
我認識到的新東西可能搞不好你早就看過（
就一個外行人慢慢摸看看 就算最後不行了放棄了至少也能學到東西
pigeon7012
Fri, Oct 4, 2024 11:33 AM
這領域推陳出新太快，不太可能每個PAPER/技術都看過ＸＤ，影片的訓練方法看起來實作上也不難，來去試試看，謝噗主分享
ಠ_ಠ
Fri, Oct 4, 2024 1:22 PM
Fri, Oct 4, 2024 1:23 PM
報告，剛剛試著用queen1574提供的教學搞了一個資料庫都在自己電腦的模型（使用gamma2:27b）
在教學中的「系統提示詞」內複製貼上自己在卿卿我我的自創角資料
經過一番勸說角色之下成功開到車了（雖然車很簡陋）
ಠ_ಠ
Fri, Oct 4, 2024 1:25 PM
現在要來研究如何讓回覆字數變多以及減少失憶的狀況🤔
ಠ_ಠ
Fri, Oct 4, 2024 1:27 PM
還有這個車與卿卿我我相比真的很簡陋
習慣卿卿我我的大魚大肉再來試這個應該會很失望
queen1574
Fri, Oct 4, 2024 3:40 PM
哇噗主好有行動力！
再推一下據說llama模型的反應比較好
如果你很成功我也想去開車
ಠ_ಠ
Fri, Oct 4, 2024 3:43 PM
但llama是那個惡名昭彰的meta開發的
不曉得會不會擋車
等一下來試試看
ಠ_ಠ
Fri, Oct 4, 2024 3:59 PM
剛剛用了llama3.2:3b和自己在用的gamma2:27b嘗試發車
llama誤會了主角的意思問主角是不是不舒服
gamma成功發動車了但前戲似乎有點長?
載入新的回覆