×

OpenShift Lightspeed 概述

Red Hat OpenShift Lightspeed 是一个基于生成式 AI 的 OpenShift 容器平台虚拟助手。Lightspeed 功能在 OpenShift Web 控制台中使用自然语言界面。

此抢先体验计划旨在让客户能够提供有关用户体验、功能和能力、遇到的问题以及产品的任何其他方面的反馈,以便在 Lightspeed 发布并普遍可用时,使其更符合您的需求。

OpenShift 要求

OpenShift Lightspeed 要求运行在 x86 硬件上的 OpenShift 容器平台 4.15 或更高版本。只要集群是 4.15+ 版本且基于 x86,则支持任何安装类型或部署架构。

对于 OpenShift Lightspeed 技术预览版,您使用的集群必须连接到互联网,并且必须启用遥测。遥测默认启用。如果您使用的是 OpenShift 的标准安装过程,请确认它不会禁用遥测。

大型语言模型 (LLM) 要求

作为技术预览版的一部分,OpenShift Lightspeed 可以依赖以下软件即服务 (SaaS) 大型语言模型 (LLM) 提供商

  • OpenAI

  • Microsoft Azure OpenAI

  • IBM watsonx

许多自托管或自行管理的模型服务器声称与 OpenAI 的 API 兼容。可以将 OpenShift Lightspeed OpenAI 提供程序配置为指向与 API 兼容的模型服务器。如果模型服务器确实与 API 兼容,尤其是在身份验证方面,那么它可能有效。这些配置尚未经过 Red Hat 测试,与其使用相关的問題不在技术预览版支持范围之内。

对于使用 Red Hat OpenShift AI 的 OpenShift Lightspeed 配置,您必须托管您自己的 LLM 提供程序。

关于 OpenAI

要将 OpenAI 与 Red Hat OpenShift Lightspeed 配合使用,您需要访问 OpenAI 的 API 平台

关于 Azure OpenAI

要将 Microsoft Azure 与 Red Hat OpenShift Lightspeed 配合使用,您必须能够访问 Microsoft Azure OpenAI。

关于 WatsonX

要将 IBM watsonx 与 Red Hat OpenShift Lightspeed 配合使用,您需要一个 IBM Cloud 的 WatsonX 帐户。

关于 Red Hat Enterprise Linux AI

Red Hat Enterprise Linux AI 与 OpenAI API 兼容,其配置方式与 OpenAI 提供程序类似。

您可以将 Red Hat Enterprise Linux AI 配置为大型语言模型 (LLM) 提供程序。

由于 Red Hat Enterprise Linux 的环境与 OpenShift Lightspeed 部署的环境不同,因此模型部署必须允许使用安全连接进行访问。有关更多信息,请参阅 可选:允许从安全端点访问模型

关于 Red Hat OpenShift AI

Red Hat OpenShift AI 与 OpenAI API 兼容,其配置方式与 OpenAI 提供程序大体相同。

您需要在 Red Hat OpenShift AI 的单个模型服务平台上使用虚拟大型语言模型 (vLLM) 运行时部署大型语言模型 (LLM)。如果模型部署的环境与 OpenShift Lightspeed 部署的环境不同,则模型部署必须包含一个路由以将其公开到集群外部。有关更多信息,请参阅 关于单个模型服务平台

关于数据使用

Red Hat OpenShift Lightspeed是一款使用自然语言交互的虚拟助手。 使用OpenShift Lightspeed界面,您可以发送聊天消息,OpenShift Lightspeed会将这些消息转换并发送到您为环境配置的大型语言模型(LLM)提供商。 这些消息可能包含有关您的集群、集群资源或环境其他方面的信息。

OpenShift Lightspeed技术预览版的功能有限,无法过滤或删除您提供给LLM的信息。 请勿在OpenShift Lightspeed界面中输入您不希望发送给LLM提供商的信息。

通过使用OpenShift Lightspeed(作为技术预览版的一部分),您同意Red Hat可以将您与LLM提供商交换的所有消息用于任何目的。 转录记录数据使用Red Hat Insights系统的后端,并受相同的访问限制和其他安全策略的约束。

您可发送电子邮件至Red Hat,并请求在技术预览版期结束时删除您的数据。

关于数据、遥测、转录和反馈收集

OpenShift Lightspeed是一款使用自然语言交互的虚拟助手。与OpenShift Lightspeed进行通信涉及发送聊天消息,这些消息可能包含有关您的集群、集群资源或环境其他方面的信息。这些消息将发送到OpenShift Lightspeed,可能经过一些内容过滤或删除,然后发送到您已配置的LLM提供商。

请勿在OpenShift Lightspeed用户界面中输入任何您不希望发送给LLM提供商的信息。

转录记录数据使用Red Hat Insights系统后端,并受Red Hat Insights数据和应用程序安全中描述的相同访问限制和其他安全策略的约束。

关于远程健康监控

Red Hat使用Telemeter客户端和Insights Operator记录基本信息,这通常被称为OpenShift集群中的远程健康监控。 OpenShift的远程健康监控文档解释了数据收集,并包含了选择退出的说明。如果您希望禁用转录或反馈收集,则必须按照选择退出远程健康监控的步骤操作。有关更多信息,请参阅OpenShift Container Platform文档中的“关于远程健康监控”。

转录收集概述

默认情况下,转录每两小时发送一次到Red Hat。如果您正在使用过滤和删除功能,则过滤或删除的内容将发送到Red Hat。Red Hat看不到原始的未删除内容,并且删除发生在任何内容被记录到日志之前。

OpenShift Lightspeed暂时记录和存储用户与虚拟助手进行对话的完整转录。这包括以下信息:

  • 用户的查询。

  • 发送到已配置的大型语言模型(LLM)提供商的完整消息,包括系统指令、参考文档和用户问题。

  • LLM提供商的完整回复。

转录源于集群,并与集群相关联。Red Hat可以将特定集群分配给特定客户帐户。转录不包含任何有关用户的信息。

反馈收集概述

OpenShift Lightspeed收集与虚拟助手界面中的反馈功能互动的用户的反馈。如果用户提交反馈,则反馈评分(点赞或点踩)、文本反馈(如果已输入)、用户查询和LLM提供商的回复将被存储,并按照与转录收集相同的计划发送到Red Hat。如果您正在使用过滤和删除功能,则过滤或删除的内容将发送到Red Hat。Red Hat将看不到原始的未删除内容,并且删除发生在任何内容被记录到日志之前。

反馈与它源自的集群相关联,Red Hat可以将特定集群归属于特定客户帐户。反馈不包含任何关于哪个用户提交了反馈的信息,并且反馈无法与任何单个用户关联。