智源发布大模型“全家桶”及智算系统

近日，在北京举行的2024北京智源大会上，北京智源人工智能研究院（简称智源研究院，BAAI）公布了其一系列重大科研成果。这些成果包括万亿参数的大语言模型、具有检索增强特性的向量模型、多模态大模型、具身智能大模型以及生物计算大模型，还有支持多种芯片的智算操作系统FlagOS。智源研究院院长王仲远表示，FlagOS是一款面向大型模型、支持多种异构算力的智算集群软件。

智源研究院在大会现场展示了FlagOS在实际应用中的优异表现。这款软件已经支持了超过50个团队的大模型研发，能够稳定运行20个月，且服务级别协议（SLA）超过了99.5%。此外，FlagOS支持多元AI异构算力的并行训练框架FlagScale，可以实现基于国产算力的8x16B千亿参数MoE语言大模型在1024卡40天以上的稳定训练，为用户提供高效稳定的集群管理、资源优化和大模型研发的支持。

在本次大会上，智源研究院还发布了多个领域的创新成果，包括大语言模型、多模态大模型、具身智能大模型和生物计算大模型。其中，万亿参数版本的模型在多个领域表现出色，达到了GPT-4模型的95-100%水平。该模型使用的算力仅为GPT-4方案的9%，展现出了强大的计算能力和节能效果。

在未来，智源研究院将继续加大在大模型、多模态技术和生物计算等领域的投入，推动我国AI产业的创新发展。