OpenAI O1 模型专家交流要点

OpenAI O1 模型专家交流要点

⭕O1的创新:合成数据+增加反思过程,牺牲推理时长和算力达到高输出效果。真正预训练阶段的突破要期待下一版的[猎户座]模型。

⭕跟进难度:跟进GPT O1难度不是很大,预计3个月可复现模式,但要求自身具备强大模型+足够投入,只有大厂玩得起。

⭕O1算力需求/推理成本:算力需求可能是预训练的1/10,推理成本至少是过往的10倍。

⭕应用落地:推理成本很贵,应用端产生颠覆性影响不会这么快,落地速度上感觉法律>金融~科技>医疗。

⭕Scaling law:增速在放缓但还没有到瓶颈,AGI感觉要更期待模型架构以及根本的训练方法上的突破。

⭕强化学习壁垒:随合成数据不断应用数据壁垒可能未来不存在,技术壁垒体现在团队水平+经验积累。

暂无介绍....

延伸阅读:

沥青日度基本面

1、9 月 19 日沥青期货下午盘收盘行情:主力 BU2411 合约下午收盘价 3131 元/吨,较昨日结算价上涨 20...

财醒来
2024 年 9 月 20 日
燃料油日度基本面

随着美联储 50bp 降息落地,国际原油价格跟随风险资产反弹,Brent 再度逼近 75 美元/桶关口,并对下游能化商品...

财醒来
2024 年 9 月 20 日
甲醇日度基本面

港口方面,甲醇太仓现货基差至 01+25,基差有所走强,西北周初指导价略有调降。卓创港口库存总量在 109.6 万吨,较...

财醒来
2024 年 9 月 20 日
硅铁日度基本面

昨日硅铁市场偏弱运行,宁夏72%FeSi自然块6000元/吨(-),府谷99.9%镁锭17750元/吨(-150)。成本...

财醒来
2024 年 9 月 20 日
锰硅日度基本面

昨日硅锰市场持稳运行,内蒙古FeMn65Si17出厂价5700元/吨(-80),天津港Mn45.0%澳块报价42.0元/...

财醒来
2024 年 9 月 20 日