OpenAI Day9: 向全球開發者致敬：提升開發者體驗
開場介紹
歡迎致辭 by Olivia Gar
Olivia Gar，OpenAI 的平台產品負責人，以滿滿的熱情開啟了第九天的活動。她強調，今天的焦點是開發者和新創公司，並對 OpenAI 社群的成就表示自豪：自四年前推出 API 以來，已有來自 200 多個國家的 200 萬名開發者使用該服務！
活動重點
今天的重心是向開發者社群致敬，藉此揭示全新模型與功能，感謝大家的持續支持與貢獻。
全新模型與功能發布
O1 模型正式推出
O1 模型在聽取開發者反饋後，正式結束預覽期，自九月宣布以來，迎來了多項改進：
- 功能調用 (Function Calling)：模型可以直接調用後端函數，實現更高效的任務執行。
- 結構化輸出 (Structured Outputs)：輸出結果以預定格式呈現，便於數據處理。
- 開發者消息 (Developer Messages)：新增指令類型，讓開發者更精確地引導模型行為。
- 推理努力參數 (Reasoning Effort Parameter)：開發者可控制模型對問題的計算投入，以平衡效能與成本。
- 視覺輸入 (Vision Inputs)：模型能處理視覺數據，在製造業和科學領域用途廣泛。
現場演示：API 新功能展示
現場示範展示了 O1 模型的多項能力，尤其是在表單錯誤檢測方面：
- 上傳帶有故意錯誤的稅務表單掃描件，模型成功檢測出：
- 算術運算錯誤（如加法應為減法）。
- 標準扣除額的計算錯誤。
- 功能調用技術展示模型如何與後端 API 交互，獲取正確稅務數據。
- 結構化輸出功能生成 JSON 格式的校正結果，方便前端 UI 清晰顯示錯誤細節。
模型內部評估與效能提升
O1 模型評估結果
內部評估顯示，O1 在以下方面表現顯著提升：
- 功能調用準確性：模型更精準地調用正確函數。
- 結構化輸出：格式依從性改善，減少不一致性。
- 程式碼處理能力：在編碼任務中的表現優異，展現其穩健性。
- 延遲時間：與前代模型相比，O1 使用的推理 token 減少 60%，反應更快且成本更低。
即時 API 更新
WebRTC 支援上線
即時 API 現已支持 WebRTC，這是一項為即時通訊設計的協議，優勢包括：
- 自適應比特率：根據網路狀況自動調整，確保更順暢的音視頻串流。
- 回聲消除：移除背景噪音，提升音頻品質。
一個簡單的範例應用展示了如何以最少的程式碼實現 WebRTC，突顯其易用性。
即時 API 新功能
- 音頻 token 成本降低：GPT-4 的音頻 token 現降價 60%，開發者使用成本更親民。
- 新增 Python SDK：讓即時 API 的整合更加簡單直觀。
- API 優化：功能調用與使用性進一步提升。
精調新方法：偏好精調
偏好精調 (Preference Fine-Tuning)
偏好精調是相較於傳統監督式精調的新方法，允許開發者提供成對的回應（偏好與不偏好），以優化模型的輸出效果。
- 應用場景：改善客服支持與內容審核等領域的性能。
- 簡單展示：API 示範精調過程的簡易性與高效性。
額外公告
- Go 與 Java SDK：新增官方支援，擴展開發工具選項。
- 簡化 API Key 流程：改進 API Key 申請過程，提升用戶體驗。
- AMA 活動預告：即將舉行的「Ask Me Anything」活動，讓開發者有機會與 OpenAI 團隊成員互動。
結語與展望
當日亮點回顧
- O1 模型正式推出
- 即時 API 的 WebRTC 支援
- 偏好精調功能的引入
幽默與預告
Olivia 以幽默的方式結束活動，並賣關子預告第十天的精彩內容。
期待明日發表
讓我們一起期待第十天揭示的新功能與創新！
