IT采购网9月5日消息,今日在2023年百度云智大会上,百度智能云宣布推出千帆大模型平台2.0,为企业提供更加高效、低成本的大模型开发解决方案。
在新的千帆大模型平台2.0中,工具链得到了重要改进。从大模型开发、训练、部署到应用开发,各个环节被无缝地连接在一起,从而大大提高了业务流程的效率。以往需要花费一个月才能看到大模型效果的技术团队,现在在千帆的一站式工具链平台上,仅需一天即可实现。
在算力效能方面,千帆大模型平台2.0采用了一套集成的异构算力集群、高速互联网络以及高性能存储系统。这些技术支持能够承载万卡规模训练的AI算力基础设施,将大模型训练和推理的成本降低到最低。
此次千帆大模型平台2.0升级还加强了数据方面的能力。除了管控大模型外,它还能够增强这些大模型的中文理解和生成能力。例如,Llama2的国外大模型在中文对话方面也能表现出色。同时,训练和推理性能也得到了全面提升,训练Llama2的吞吐量提高了1/4,而推理速度甚至提升了3倍。
在企业级安全方面,千帆的安全机制使得企业能够构建四层安全防线,保障大模型的内容安全、数据安全和系统安全。对于有高合规要求的客户,千帆支持国内外主流芯片和操作系统,还提供了私有化部署选项,确保企业拥有自主可控的大模型。
值得注意的是,百度智能云在本次百度云智大会上宣布,百度网盘“云一朵”智能助理已经吸引了超过600万的用户使用。
据IT采购网了解,在今年8月初,千帆大模型平台完成了第一轮升级,成功地集成了LLaMA2全系列、ChatGLM2等33个大模型,使其成为国内拥有大模型最多的平台之一。同时,千帆平台还上线了103个预置的prompt模板,涵盖了对话、编程、电商等多个场景。如今,千帆大模型平台纳管的国内外主流大模型已经达到42个,而预置的有行业特色的数据集也达到了41个。这个平台已经吸引了近万家企业,覆盖了金融、制造、能源、政务、交通等400多个业务场景。