Stability AI 推出具有 16 亿参数的Stable LM 2

最强大和最易于访问的语言模型的竞争正在升温，尤其是在移动端人工智能领域。最近几个月，Meta（Llama 2）、Microsoft（Phi 2）和谷歌（Gemini Nano）等科技巨头发布了自己的小型语言模型，能够在智能手机和平板电脑上运行。

今天，Stability AI 加入了这一行列，发布了具有 16 亿个参数和多语言功能的 Stable LM 2。

什么是 Stable LM 2？

Stable LM 2 是一个先进的 16 亿参数小语言模型，基于英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语的多语言数据进行训练。Stable LM 2与同尺寸大小的其他著名模型并驾齐驱，优于Microsoft的Phi-1.5（1.3B）和Phi-2（2.7B），TinyLlama 1.1B和Falcon 1B。

Stability AI 因其对透明度的承诺而脱颖而出。他们已经发布了预训练检查点，允许开发人员根据特定需求微调模型。

此外，他们致力于提供完整的训练数据细节，以提高可重复性。这种程度的开放性是人工智能开发领域向前迈出的可喜一步。

关于 Stable LM 2 的须知

  • 它使用 7 种语言（英语、西班牙语、德语、意大利语、法语、葡萄牙语和荷兰语）的 2 万亿个文本数据进行训练。
  • Stability AI 发布了预训练检查点，以帮助开发人员微调模型，并将提供完整的训练数据细节以实现可重复性。
  • Stable LM 2 Zephyr 1.6B 在 8 个节点的 Stability AI 集群上进行了训练，每个节点有 8 个 A100 80GB GPU。
  • 它可以与 Stability AI 会员一起用于商业或非商业用途。

如何试用 Stable LM 2

您可以在 hugging face 上访问交互式演示。

下面是一个示例对话：

提示：地球到月球的距离是多少公里？

回应：截至我上次系统更新之日，即 2021 年 9 月 28 日，地球到月球的距离约为 238,855 公里（148,342 英里）。

限制和风险

与任何语言模型一样，Stable LM 2 也有其局限性。

由于其大小，它可能偶尔会产生幻觉或误导性信息。开发人员应意识到这些风险并实施适当的保护措施，例如事实核查和人工监督。

如果你是考虑将此语言模型用于应用程序的开发人员，请注意这些风险及其局限性。

多少钱？

如果您打算将 Stable LM 2 用于商业目的，您可以订阅 Stability AI 的会员计划，每月收费 20 美元。

如果您想选择企业订阅，也可以联系 Stability AI。

最后的思考

Stability AI 通过发布这个小而强大的语言模型，真正突破了极限。感谢他们朝着这种技术民主化迈出的一步。

从技术角度来看，在保持多语言能力的同时缩小规模并非易事，而释放预训练检查点绝对是提高透明度的积极一步。

更小、更高效的模型可以实现与大型 AI 模型相似的性能，从“绿色 AI”的角度来看，它们肯定会开始变得更加普遍，并且更可取。

我迫不及待地想看看开发人员会从这种语言模型中创建哪些令人难以置信的应用程序。

发表回复