是說一起去上AI課的朋友說，總要有一個程度比他爛的人，可以坐在後面跟他聊天，不然上課很無聊，所以就硬著頭皮報了進階班。第一堂課馬上就開始講大型語言模型（LLM），也就是最近很紅的ChatGPT，意外我還聽得懂一些內容。講師說Open AI想作獨門生意，所以採封閉系統，最新的GPT 4.0是在他們的伺服器上運作，要用進階版得付錢。暫時落後的臉書則採開源策略，推出了LLaMa，你可以自己下載回家，架在個人電腦上運作。而且有些高手的想法跟我一樣，要讓個人電腦跑得動才有用，因此開發出窮人套件，用法超簡單，只是前面的環境設定比較麻煩，我搞了兩、三天以後終於搞定了。弄好後我馬上問臉書的人工智慧模型，為什麼臉書這幾年越做越爛，沒想到回覆的答案意外的老實誠懇。

用大蛇啊，原來如此

大家午安！

簡單來說 OpenAI 比較快上手啦 如果目標明確時，OpenAI 比較省錢

如果目標不明確，很多東西要測試時，自建的 LLM 省錢很多

我有試過開源的語音辯識，完全用你自己的顯卡去跑 30分鐘的音檔，大概不到3分鐘就處理完了 這樣的速度很可以接受了 沒有做什麼大事業的話，連這個錢也可以省下來 用自己的電腦去跑就好

真。ikki : 問題是你沒有辦法"染指"GPT，而LLaMa可以在家中慢慢訓練成自己想要的形狀。

難怪朋友都叫我買mac說m2/m 跑自用ai幾年都不是問題

而且臉書說LLaMa可以商用（條件是開發的產品，用戶在七億人以下免費，我在猜你的客戶如果達到七億人以上時，臉書就會來跟你分錢了。）

精進波羅蜜 : 其實訓練很花時間，然後又不一定是 老闆 或是 客戶 真正想要的

如果你是個開發人員，然後公司有良好的績效制度，那可以試試

槍魔栗 三助與tacchang : 我是覺得這未來可能很仰賴社群的支援，走蘋果系統會不會比較封閉一點。

否則你花了好幾個月，弄出來一個"不如預期 " ( 這中間很多政治操弄空間 )

真。ikki : 如果我弄的東西真的可以用，我就不會交出來給公司了。

精進波羅蜜 : 單純就技術來說 蘋果不會比較封閉 之前有人有說過了 如果你是在學術單位的話 放膽下去買蘋果 ，倒是可以的

前陣子公司有人叫我弄 我趕緊說我不太懂 沒有興趣

前一陣子，我還想要去申請，叫公司出二十萬給我買硬體裝備，但最近我有點改變想法了，原本填好的單子一直壓著沒有送出去。

弄是可以弄，只怕弄個一年，接下來我自己就被弄走了 ；所以我最多就是私下自己玩玩中小型的 LLM 就好

精進波羅蜜 : 就是要小心政治上的東西

往好處想，花個20萬，可以買到很多 AI 實戰上的經驗 就算失敗了 也很寶貴

往壞處想，在公司如果平常有人看你不爽 OK 你花這20萬，就等於是給別人把柄

精進波羅蜜 : 倒是還好，相關環境元件都有，mac的架構可以撐得夠久

已經有4.5 turbo囉

chatgpt有給fine tuning的API喔