以下主题概述了 Red Hat OpenShift Lightspeed 并讨论了功能要求。
Red Hat OpenShift Lightspeed 是一个基于生成式 AI 的 OpenShift 容器平台虚拟助手。Lightspeed 功能在 OpenShift Web 控制台中使用自然语言界面。
此抢先体验计划旨在让客户能够提供有关用户体验、功能和能力、遇到的问题以及产品的任何其他方面的反馈,以便在 Lightspeed 发布并普遍可用时,使其更符合您的需求。
OpenShift Lightspeed 要求运行在 x86 硬件上的 OpenShift 容器平台 4.15 或更高版本。只要集群是 4.15+ 版本且基于 x86,则支持任何安装类型或部署架构。
对于 OpenShift Lightspeed 技术预览版,您使用的集群必须连接到互联网,并且必须启用遥测。遥测默认启用。如果您使用的是 OpenShift 的标准安装过程,请确认它不会禁用遥测。
作为技术预览版的一部分,OpenShift Lightspeed 可以依赖以下软件即服务 (SaaS) 大型语言模型 (LLM) 提供商
OpenAI
Microsoft Azure OpenAI
IBM watsonx
许多自托管或自行管理的模型服务器声称与 OpenAI 的 API 兼容。可以将 OpenShift Lightspeed OpenAI 提供程序配置为指向与 API 兼容的模型服务器。如果模型服务器确实与 API 兼容,尤其是在身份验证方面,那么它可能有效。这些配置尚未经过 Red Hat 测试,与其使用相关的問題不在技术预览版支持范围之内。 |
对于使用 Red Hat OpenShift AI 的 OpenShift Lightspeed 配置,您必须托管您自己的 LLM 提供程序。
要将 OpenAI 与 Red Hat OpenShift Lightspeed 配合使用,您需要访问 OpenAI 的 API 平台。
要将 Microsoft Azure 与 Red Hat OpenShift Lightspeed 配合使用,您必须能够访问 Microsoft Azure OpenAI。
要将 IBM watsonx 与 Red Hat OpenShift Lightspeed 配合使用,您需要一个 IBM Cloud 的 WatsonX 帐户。
Red Hat Enterprise Linux AI 与 OpenAI API 兼容,其配置方式与 OpenAI 提供程序类似。
您可以将 Red Hat Enterprise Linux AI 配置为大型语言模型 (LLM) 提供程序。
由于 Red Hat Enterprise Linux 的环境与 OpenShift Lightspeed 部署的环境不同,因此模型部署必须允许使用安全连接进行访问。有关更多信息,请参阅 可选:允许从安全端点访问模型。
Red Hat OpenShift AI 与 OpenAI API 兼容,其配置方式与 OpenAI 提供程序大体相同。
您需要在 Red Hat OpenShift AI 的单个模型服务平台上使用虚拟大型语言模型 (vLLM) 运行时部署大型语言模型 (LLM)。如果模型部署的环境与 OpenShift Lightspeed 部署的环境不同,则模型部署必须包含一个路由以将其公开到集群外部。有关更多信息,请参阅 关于单个模型服务平台。
Red Hat OpenShift Lightspeed是一款使用自然语言交互的虚拟助手。 使用OpenShift Lightspeed界面,您可以发送聊天消息,OpenShift Lightspeed会将这些消息转换并发送到您为环境配置的大型语言模型(LLM)提供商。 这些消息可能包含有关您的集群、集群资源或环境其他方面的信息。
OpenShift Lightspeed技术预览版的功能有限,无法过滤或删除您提供给LLM的信息。 请勿在OpenShift Lightspeed界面中输入您不希望发送给LLM提供商的信息。
通过使用OpenShift Lightspeed(作为技术预览版的一部分),您同意Red Hat可以将您与LLM提供商交换的所有消息用于任何目的。 转录记录数据使用Red Hat Insights系统的后端,并受相同的访问限制和其他安全策略的约束。
您可发送电子邮件至Red Hat,并请求在技术预览版期结束时删除您的数据。
OpenShift Lightspeed是一款使用自然语言交互的虚拟助手。与OpenShift Lightspeed进行通信涉及发送聊天消息,这些消息可能包含有关您的集群、集群资源或环境其他方面的信息。这些消息将发送到OpenShift Lightspeed,可能经过一些内容过滤或删除,然后发送到您已配置的LLM提供商。
请勿在OpenShift Lightspeed用户界面中输入任何您不希望发送给LLM提供商的信息。
转录记录数据使用Red Hat Insights系统后端,并受Red Hat Insights数据和应用程序安全中描述的相同访问限制和其他安全策略的约束。
Red Hat使用Telemeter客户端和Insights Operator记录基本信息,这通常被称为OpenShift集群中的远程健康监控。 OpenShift的远程健康监控文档解释了数据收集,并包含了选择退出的说明。如果您希望禁用转录或反馈收集,则必须按照选择退出远程健康监控的步骤操作。有关更多信息,请参阅OpenShift Container Platform文档中的“关于远程健康监控”。