10月2日凌晨OpenAI第二届开发者大会（三藩站）召开

10月2日凌晨OpenAI第二届开发者大会（三藩站）召开，本次大会不像去年第一次大会，并没有直播Keynote演讲。

结论：大大方便开发者，实现基于o1/4o等旗舰模的微调、蒸馏等，并将其功能用到自己应用中（如视觉微调用例包括视觉搜索、自动驾驶中对象检测、医学图像分析）。通过API提示词缓存更好的控制了应用开发成本。利好AI应用创新周期和ROI。

要点：
1）RealtimeAPI：即GPT-4o的端到端实时语音交互，开发者可以通过API调用到自己的App中。价格：文本百万token输入/输出为5/2，音频百万token输入/输出为100/200。未来还会支持视觉。
2）视觉微调：开发者可以定制微调GPT-4o的视觉模态，之前仅支持文本。价格：训练百万token25，推理百万token输入/输出为3.75/15。
3）提示词缓存：面向开发者重复调用相同上下文的情况，给予50%的折扣和更低延时。（Anthropic在8月也搞了类似功能）
4）模型蒸馏：可以使用大前沿模型（o1-preview和GPT-4o）的输出微调具有成本效益的小模型（类似GPT-4omini）。开发者再也不用”偷偷“用GPT模型输出训练了，官方提供了全栈模型输出存储、评估、微调全栈功能，价格和标准微调价格相同。