2. More control Open AI API 經常被詬病的 output 很難被精準抓取問題，現在瞬間解決。Turbo 現在直接推出程式程式可以直接讀取的 Json output 其他包含： Function calling：連續呼叫多個程式 functions Reproducible outputs：可以透過帶入相同的 seed 參數，讓 GPT 產出「完全一致」的結果 這些都是增加開發者對 GPT 的掌控度。
4. New modalities Open AI 的三大 AI 模組合體： DallE3：文字生成圖像 GPT4 (with vision)：純文字、圖像生成文字 TTS (text to speech)：文字生成語音 (而且很自然) 演講中特別提到 Vision input (上傳圖片) 可以產生說明文字、標籤、分析等資訊 另外，TTS 已經可以講得非常自然，可以作為語言學習工具 *現役非常多文字轉語音、自然語音產生器、語音語言學習等 AI 工具，都有可能會直接受到擠壓。
Ref 林啟維
深夜看完 Open AI 發表會。Altman 只用 10 分鐘就講完最新的 GPT-4 Turbo，卻可預期會影響全球上千家使用 AI 的公司。
GPT-4 Turbo 六大重點與 (我推斷的) 影響如下：
1. Long tokens
從原本的 8k token 長度，現在延長到 128k，多達 16 倍。大概是一本 300 頁的書的量。
*先前主打 long token 的 LLM 例如 Claude AI，可能是重大受災戶。
---
Open AI API 經常被詬病的 output 很難被精準抓取問題，現在瞬間解決。Turbo 現在直接推出程式程式可以直接讀取的 Json output
其他包含：
Function calling：連續呼叫多個程式 functions
Reproducible outputs：可以透過帶入相同的 seed 參數，讓 GPT 產出「完全一致」的結果
這些都是增加開發者對 GPT 的掌控度。
讀取自己的資料庫：可以提供 GPT 自己的資料庫、文件，建立更多背景自己的知識。不過這邊沒有講太多細節。
另外，今天開始 GPT 的資料更新至 2023 年 4 月，相較於先前的 2021 年 9 月進步許多。
*前幾天 Elon Musk 發表的 X 平台的 AI，也主打「最新資訊」，看來這項優勢不再是 Open AI 以外的 LLM 的決勝關鍵了。
Open AI 的三大 AI 模組合體：
DallE3：文字生成圖像
GPT4 (with vision)：純文字、圖像生成文字
TTS (text to speech)：文字生成語音 (而且很自然)
演講中特別提到 Vision input (上傳圖片) 可以產生說明文字、標籤、分析等資訊
另外，TTS 已經可以講得非常自然，可以作為語言學習工具
*現役非常多文字轉語音、自然語音產生器、語音語言學習等 AI 工具，都有可能會直接受到擠壓。
這邊講的客製化，主要是 Open AI 的研究人員與企業合作，推出企業專屬的 GPT。
這樣的 GPT 會包含特定領域、專業領域等背景資訊。
值得一提的是，Altman 在台上直說這套非常貴、還要排隊，有興趣請聯繫 xxxx
這一段一下講了很多東西。
一開始說速度提升兩倍、還可以申請更多頻寬。
再來提到 Copyright Shield 這個法律顧問資源。
Copyright Shield 是什麼呢?
簡言之就是當你用 Open AI 產出的結果被其他人告侵權，Open AI 會幫你出所有的錢打官司。
Altman 同時也再三強調：
「我們不會用使用者 API 的資料、以及企業版的資料訓練我們的模型！」
Input prompt 變成 1/3 價格
Output 變成 1/2 價格
=> 整體估計便宜 2.75 倍
(是不是不給那些價格較低的 LLM 生存空間呢??)
不過關於降價這一點，如果搭配第一點 long tokens (16倍長度) 一起看，就知道事情沒有那麼簡單。
可以預估 Open AI 未來會不斷降價、token 限制則會不斷增加，而使用量增加的速度會比降價更多。
最終加加減減一定是賺更多，多麼恐怖的世界🥵
全球矚目的 OpenAI Devday 在剛剛結束了，有很多爆炸性的重點整理如下。
1️⃣、GPT-4 Turbo 模型：
2️⃣、新技術與功能：
3️⃣、合作夥伴關係：
4️⃣、企業應用案例與新工具：