在无服务器应用程序中使用 NVIDIA GPU 资源 | 集成 | Red Hat OpenShift Serverless 1.34

NVIDIA 支持在 OpenShift Container Platform 上使用 GPU 资源。有关在 OpenShift Container Platform 上设置 GPU 资源的更多信息，请参阅OpenShift 上的 GPU 运算符。

指定服务的 GPU 需求

为 OpenShift Container Platform 集群启用 GPU 资源后，可以使用 Knative (kn) CLI 为 Knative 服务指定 GPU 需求。

先决条件

在 OpenShift Container Platform 或 OpenShift Dedicated 上，IBM zSystems 和 IBM Power 不支持使用 NVIDIA GPU 资源。

步骤

使用--limit nvidia.com/gpu=1标志创建 Knative 服务并将 GPU 资源需求限制设置为1
```
$ kn service create hello --image <service-image> --limit nvidia.com/gpu=1
```
GPU 资源需求限制为1表示服务有 1 个专用的 GPU 资源。服务不共享 GPU 资源。任何其他需要 GPU 资源的服务必须等到 GPU 资源不再使用为止。

限制为 1 个 GPU 也意味着使用超过 1 个 GPU 资源的应用程序受到限制。如果服务请求超过 1 个 GPU 资源，则将其部署在满足 GPU 资源需求的节点上。
可选。对于现有服务，您可以使用--limit nvidia.com/gpu=3标志将 GPU 资源需求限制更改为3
```
$ kn service update hello --limit nvidia.com/gpu=3
```