百度智能云全面升级百舸AI计算平台

【公司大事】
百度智能云全面升级百舸AI计算平台。9月25日，在2024百度云智大会上，百度智能云宣布将百舸AI异构计算平台全面升级至4.0版本。据官方介绍，为了解决算力资源短缺的问题，百舸4.0对“多芯混训”能力进行了重点升级，实现了在万卡规模集群上95%的多芯混合训练效能。集群部署环节，升级后的百舸能够实现工具层面的秒级部署，将万卡集群运行准备时间从数周最快缩减至1小时。百舸4.0全面升级了故障检测手段和自动容错机制，在万卡集群上实现了超过99.5%的有效训练时长。
ChatGPT高级语音模式正式上线，有9种声线可选。OpenAI将首先向ChatGPT的Plus和Teams客户推出，企业和教育客户将于下周获使用权限。OpenAI还增加了自定义指令、记忆、改进的口音等新功能，ChatGPT还可以用50多种语言说，“对不起，我来晚了”。ChatGPT的高级语音模式能够理解并回应情绪和非语言暗示，让我们更接近与AI进行实时、自然的对话。高级语音模式不需要像当前ChatGPT语音模式那样将语音转换为文本，再转换成语音，从而降低了交互延迟。

谷歌Gemini1.5AI模型再进化：成本更低、性能更强、响应更快。谷歌升级旗下Gemini1.5AI模型，推出了Gemini-1.5-Pro-002和Gemini-1.5-Flash-002，谷歌下调了token输入和输出费用，Gemini-1.5-Pro-002和Gemini-1.5-Flash-002最高降幅50%，提高了两种模型的速率限制，并减少了延迟，同时性能更强。

英伟达发布Llama-3.1-Nemotron-51BAI模型：创新神经架构搜索等技术让单H100GPU运行4倍以上负载。该AI模型主要采用了神经架构搜索（NAS）技术微调，平衡性能和效率，在高工作负荷下，只需要一片H100GPU即可运行，大大降低了内存消耗、计算复杂性以及与运行此类大型模型相关的成本。英伟达认为这种方式在保持了出色的精度前提下，显著降低了内存占用、内存带宽和FLOPs，并证明可以在创建另一个更小、更快的变体来加以推广。Llama-3.1-Nemotron-51B实现了令人印象深刻的精度与效率权衡，减少了内存带宽，降低了每秒浮点运算次数（FLOP），并减少了总体内存占用，同时不影响模型执行推理、总结和语言生成等复杂任务的能力。