Ddavid
@DdavidCh
Sat, Jul 8, 2023 4:26 PM
純使用 ChatGPT,終究記憶能力還是會成為瓶頸,但畢竟是低廉月費下的持續使用也沒得嫌。
但還是會有點想要嘗試寫個記憶模組來搭配 API 玩看看。雖然已經有別人做過,不過看了一下,其實跟我在公司寫的東西差不多嘛,只是我不是往記憶方向寫而已。
其實如果費用、OpenAI API quota 硬上限、速度都不是問題的話,真的可以寫出很神猛的東西,可惜每個都是問題XDDD
掰噗~
@baipu
說
Sat, Jul 8, 2023 4:26 PM
是喔
Ddavid
@DdavidCh
Sat, Jul 8, 2023 4:37 PM
常見 Open 的那種比較簡單的 ChatGPT 搭配記憶模組,針對創造故事應該還有問題。會需要進一步特化。
孩雅多
@hayatos
Sat, Jul 8, 2023 4:38 PM
之前這個你後來有去踩雷看看嗎XD
SudyIndex - sudy-super - BOOTH
Ddavid
@DdavidCh
Sat, Jul 8, 2023 4:49 PM
沒有XD
要用這個的前提是我真的打算開始付 OpenAI API 錢啊XD
Ddavid
@DdavidCh
Sat, Jul 8, 2023 8:14 PM
Sat, Jul 8, 2023 8:16 PM
話說我在看 OpenAI 官方討論區看到一個概念:
如果在問問題時,記憶模組去提取問題相關的資訊附上一起問,這樣做的是在「強化問題」。
但有人採取做法是:
先直接問 GPT -> 拿到一個可能很多錯但有模有樣的答案 -> 提取跟這個答案相關的資訊附上 -> 再問一次 GPT
Ddavid
@DdavidCh
Sat, Jul 8, 2023 8:21 PM
第二個做法的目標在「強化答案」。想法是,其實記憶模組無法只從問題得到答案所需的資源(畢竟記憶模組往往是複雜度遠低於 GPT 的關聯性計算或字串比對模組),所以先問個假答案得到「回答所需的架構與項目」,才去找這些需要的項目附上。
Ddavid
@DdavidCh
Sat, Jul 8, 2023 8:23 PM
這概念蠻不錯的,但思考了一下,應該會因為問題類型的不同而有所差異。兩種方法都有用,但相比之下,畢竟第一種價格比較低廉XD
Ddavid
@DdavidCh
Sat, Jul 8, 2023 9:42 PM
Sat, Jul 8, 2023 9:43 PM
先把之前寫的一小部份 Code 弄回來整理了,然後細算一下打 GPT 4 真的有夠貴XD
如果獨立問題發問也就算了,連續性創作內容就需要送前文,所以很容易就堆出很長的 prompt。寫故事應用上就會覺得很虧,一直在送一堆高比例重複的內容,然後只獲得新的幾小段內容,還有機會不能用XD
載入新的回覆
但還是會有點想要嘗試寫個記憶模組來搭配 API 玩看看。雖然已經有別人做過,不過看了一下,其實跟我在公司寫的東西差不多嘛,只是我不是往記憶方向寫而已。
其實如果費用、OpenAI API quota 硬上限、速度都不是問題的話,真的可以寫出很神猛的東西,可惜每個都是問題XDDD
要用這個的前提是我真的打算開始付 OpenAI API 錢啊XD
如果在問問題時,記憶模組去提取問題相關的資訊附上一起問,這樣做的是在「強化問題」。
但有人採取做法是:
先直接問 GPT -> 拿到一個可能很多錯但有模有樣的答案 -> 提取跟這個答案相關的資訊附上 -> 再問一次 GPT
如果獨立問題發問也就算了,連續性創作內容就需要送前文,所以很容易就堆出很長的 prompt。寫故事應用上就會覺得很虧,一直在送一堆高比例重複的內容,然後只獲得新的幾小段內容,還有機會不能用XD