如果您正在构建 AI 应用程序，并且在嵌入提供商的速率限制、被锁定在单个提供商或模型，或者自托管模型的开销方面遇到过困难，那么您并不孤单。 许多开发人员在创建和管理向量嵌入时面临不必要的摩擦，而向量嵌入是其 AI 管道的关键功能。
我们很高兴地宣布 Weaviate Embeddings，Weaviate Cloud 中的一项新的嵌入服务，它使 AI 开发人员能够尽可能轻松地创建向量嵌入，现在已进入预览阶段。
对模型灵活性的需求
生成式 AI 和机器学习模型的格局正在以疯狂的速度发展，几乎每天都有新模型发布。 从大型语言模型 (LLM) 到特定领域、多模态、开源和商业模型——开发人员面临着大量的选择。 当您被锁定在单个提供商时，很难更换模型并尝试新模型。 开源模型越来越受欢迎，但自托管的复杂性是许多团队没有时间或意愿去做的事情，他们只想专注于构建新的应用程序功能和创造新的业务成果。
Weaviate 一直将模型灵活性作为我们架构的首要任务，并将继续提供通过预构建的 API 与外部模型提供商轻松集成的途径。 Weaviate Embeddings 引入了在 Weaviate Cloud 中直接运行嵌入模型的能力，而无需连接到外部提供商。
在预览版中，Weaviate Embeddings 提供 Snowflake 的 Arctic-Embed 开源文本嵌入模型，该模型在行业基准测试中表现出色（尽管我们希望您运行自己的基准测试）。 您可以在 此处了解更多信息。 我们很快将添加对领先的商业多语言和多模态模型的支持。 用户将能够为各种模型创建向量嵌入，并比较其用例的结果和召回率准确性。 这简化了为要解决的问题选择合适的模型。
摆脱速率限制
大多数外部嵌入 API 施加严格的速率限制或批量处理，处理时间较长，这会减慢您的整个管道速度，或者更糟糕的是，为正在构建的搜索体验创建不必要的延迟。 我们的一位客户最近告诉我们，他们不得不重建整个文档同步管道，因为他们不断遇到商业提供商的速率限制。 其他客户在使用现有服务时，在吞吐量、稳定性、成本和召回率质量方面遇到困难。
使用 Weaviate Embeddings，没有任何人为的限制。 我们的基础设施旨在处理高吞吐量用例，高效地处理每秒大量的嵌入，而不会影响性能。 无论您是导入数十亿个文档还是执行实时向量搜索，Weaviate Embeddings 都能与您一起扩展，而不会减慢速度。 定价基于消耗的令牌数。
准备好 AI 的数据，减少摩擦
我们的目标是为开发人员提供选择的灵活性，同时提供使构建 AI 应用程序更轻松、更高效的杠杆。 使用 Weaviate Embeddings，您可以获得
- 领先的 OSS 和专有模型： 访问尖端开源和专有模型。 在预览版中，我们将提供 Snowflake Arctic-Embed（开源），商业模型将于明年年初推出。
- 模型和数据共置： 通过在 Weaviate Cloud 中托管您的数据和模型来减少延迟并提高性能。
- 经济高效且 GPU 驱动： 利用 GPU 驱动的推理和经济高效的性能。 按消耗的令牌数付费，这意味着您只需为实际使用的资源付费。 您可以完全控制，包括根据您的特定用例优化嵌入维度。
- 安全、企业级部署： Weaviate 已通过 SOC2 认证，并具有基于角色的访问控制和严格的数据隔离等安全功能。
未来的基础
Weaviate Embeddings 是我们未来托管模型产品的基础。 未来的进步和发布将包括多模态模型、专用托管以及针对您的集合量身定制的微调优化模型——为任何领域的卓越检索质量奠定基础。 这仅仅是个开始——请在未来几个月内关注激动人心的更新！
尝试一下
要了解有关 Weaviate Embeddings 的更多信息，请查看 文档，注册我们的 即将举行的网络研讨会，或申请 预览访问权限，我们将与您联系。
准备开始构建了吗？
请查看 快速入门教程，或使用 Weaviate Cloud (WCD) 的免费试用版构建令人惊叹的应用程序。