AI 工厂升级：英伟达发布 Llama3 NIM 容器

黄仁勋在2024台北电脑展主题演讲中提出，生成式人工智能将引领软件全栈变革，推出NIM云原生微服务。他将以微软创举的软件业为例，阐述生成式人工智能如何引发“AI工厂”产业革新。为了便于各类企业部署AI服务，英伟达今年3月推出了NIM云原生微服务，这是一套经过优化的微服务架构，可缩短产品上市周期，简化生成式AI模型在云、数据中心和GPU加速工作站的部署流程。通过行业标准的API接口，NIM抽象化了AI模型开发与生产的复杂性，从而拓展了开发者队伍。

值得一提的是，英伟达官方已上线一个llama3大模型的NIM容器，该容器现已在英伟达官网上对所有用户提供下载，用户可根据需求自由部署。