Red Hat OpenShift AI: 3.x でサポートされる構成
目次
この記事では、Red Hat OpenShift AI (RHOAI) 3.x 製品、RHOAI コンポーネント、現在のサポートフェーズ、および基盤となるプラットフォームとの互換性について説明します。
⚠️ 注意: Red Hat OpenShift AI 2.x については、こちら のサポート対象構成ページにアクセスしてください。
Red Hat OpenShift AI Self-Managed
OpenShift AI Self-Managed をインストールするには、Red Hat OpenShift AI Operator をインストールし、製品のスタンドアロンコンポーネントを管理するように Operator を設定します。
RHOAI Self-Managed は、x86_64、ppc64le、s390x、および aarch64 アーキテクチャーで稼働する OpenShift Container Platform のサポート対象の全構成 でサポートされています。これには、以下のデプロイメントトポロジーが含まれますが、これらに限定されません。
- ベアメタル
- Single Node OpenShift (SNO)
- Hosted Control Plane (ベアメタル、OpenShift Virtualization、またはクラウドプロバイダー上)
- IBM Cloud
- Red Hat OpenStack
- Amazon Web Services
- Google Cloud Platform
- Microsoft Azure
- VMware vSphere
- Nutanix
- Oracle Cloud
- IBM Power
- IBM Z
注記:RHOAI の GPU ワークロードは、GPU プロバイダー (NVIDIA など) のドキュメントに記載されているサポート対象の GPU モデルや機能の提供状況に従い、かつ HCP および oVirt の GPU サポートを条件として、GPU パススルーを備えた OpenShift Virtualization を使用する Hosted Control Plane 上で利用できます。
これには、OpenShift Dedicated、Red Hat OpenShift Service on AWS (ROSA with HCP)、Red Hat OpenShift Service on AWS (クラシックアーキテクチャー)、Microsoft Azure Red Hat OpenShift、OpenShift Kubernetes Engine などのマネージド OpenShift サービスでの RHOAI Self-Managed のサポートも含まれます。現在、RHOAI Self-Managed は、MicroShift などのプラットフォームで実行されている OpenShift ではサポートされていません。
RHOAI Self-Managed ライフサイクルと現在サポート対象のリリースの全体像については、こちらの ページ を参照してください。
アーキテクチャー、バージョン、およびコンポーネント
x86_64 アーキテクチャー
| RHOAI Operator のバージョン | 3.3 | 3.4 | 3.5 | |||
|---|---|---|---|---|---|---|
| OpenShift のサポート対象バージョン | 4.19.9+, 4.20, 4.21 | 4.19.9+, 4.20, 4.21, 4.22 | 4.19.9+, 4.20, 4.21, 4.22 | |||
| コンポーネント | ステータス | バージョン | ステータス | バージョン | ステータス | バージョン |
| Dashboard | GA | 2.0.0 | GA | 2.0.0 | GA | 2.0.0 |
| AI Pipelines | GA | 2.5.0 | GA | 2.16.0 | GA | 2.16.0 |
| ↳ Argo Workflows | GA | v3.6.7 | GA | v3.7.3 | GA | v3.7.3 |
| Distributed Inference with llm-d - (1) | GA | 0.4 | GA | 0.7.1 | GA | 0.9.0 |
| Feature Store (Feast) | GA | 0.59.0 | GA | 0.62.0 | GA | 0.65.0 |
| KServe | GA | 0.15 | GA | 0.17.0 | GA | 0.19.0 |
| Red Hat AI Inference (2) | - | - | GA | 3.4.0 | GA | 3.5.0 |
| Kubeflow Training Operator v1 | 非推奨 | 1.9.0 | 非推奨 | 1.9.0 | 非推奨 (3) | 1.9.0 |
| Kubeflow Trainer v2 | GA | 2.1.0 | GA | 2.1.0 | GA | 2.1.0 |
| KubeRay | GA | 1.4.2 | GA | 1.4.2 | GA | 1.4.2 |
| Llama Stack Operator | TP | 0.6.0 | TP | 0.9.0 | - | - |
| OGX Operator | - | - | - | - | GA | 0.11.0 |
| ↳ OGX | - | - | - | - | GA | 1.1.2 |
| Model as a Service (MaaS) | TP | 0.0.2 | GA | 0.1.1 | GA | 0.2.0 |
| MLflow | TP | 3.6.0 | GA | 3.10.1 | GA | 3.14.0 |
| MLServer | GA | 1.7.1 | GA | 1.7.1 | GA | 1.7.1 |
| Spark Operator | - | - | TP | 2.4.0 | GA | 2.4.0 |
| ↳ Spark | - | - | TP | 4.0.1 | GA | 4.0.1 |
| TrustyAI | GA | 1.37.0 | GA | 1.37.0 | GA | 1.37.0 |
| ↳ LM-Eval | GA | 0.4.8 | GA | 0.4.8 | GA | 0.4.8 |
| ↳ NeMo Guardrails | TP | 0.9.4 | GA | 0.9.4 | GA | 0.9.4 |
| AI Hub | GA | 0.3.5 | GA | 0.3.9 | GA | 0.3.10 |
| Kubeflow Notebook Controller | GA | 1.10.0 | GA | 1.10.0 | GA | 1.10.0 |
| AutoML | - | - | TP | 1.11.0 | TP | 1.11.0 |
| AutoRAG | - | - | TP | 1.11.0 | TP | 1.11.0 |
| EvalHub | - | - | - | - | TP | 0.3.0 |
ARM (aarch64) アーキテクチャー
| RHOAI Operator のバージョン | 3.3 | 3.4 | 3.5 | |||
|---|---|---|---|---|---|---|
| OpenShift のサポート対象バージョン | 4.19.9+, 4.20, 4.21 | 4.19.9+, 4.20, 4.21, 4.22 | 4.19.9+, 4.20, 4.21, 4.22 | |||
| コンポーネント | ステータス | バージョン | ステータス | バージョン | ステータス | バージョン |
| Dashboard | GA | 2.0.0 | GA | 2.0.0 | GA | 2.0.0 |
| AI Pipelines | GA | 2.5.0 | GA | 2.16.0 | GA | 2.16.0 |
| ↳ Argo Workflows | GA | v3.6.7 | GA | v3.7.3 | GA | v3.7.3 |
| Distributed Inference with llm-d - (1) | GA | 0.4 | GA | 0.7.1 | GA | 0.9.0 |
| Feature Store (Feast) | GA | 0.59.0 | GA | 0.62.0 | GA | 0.65.0 |
| KServe | GA | 0.15 | GA | 0.17.0 | GA | 0.19.0 |
| Red Hat AI Inference (2) | - | - | GA | 3.4.0 | GA | 3.5.0 |
| Kubeflow Training Operator v1 | 非推奨 | 1.9.0 | 非推奨 | 1.9.0 | 非推奨 (3) | 1.9.0 |
| Kubeflow Trainer v2 | - | - | - | - | - | - |
| KubeRay | GA | 1.4.2 | GA | 1.4.2 | GA | 1.4.2 |
| Llama Stack Operator | TP | 0.6.0 | TP | 0.9.0 | - | - |
| OGX Operator | - | - | - | - | GA | 0.11.0 |
| ↳ OGX | - | - | - | - | GA | 1.1.2 |
| Model as a Service (MaaS) | TP | 0.0.2 | GA | 0.1.1 | GA | 0.2.0 |
| MLflow | - | - | - | - | - | - |
| MLServer | - | - | - | - | - | - |
| Spark Operator | - | - | - | - | - | - |
| ↳ Spark | - | - | - | - | - | - |
| TrustyAI | GA | 1.37.0 | GA | 1.37.0 | GA | 1.37.0 |
| ↳ LM-Eval | GA | 0.4.8 | GA | 0.4.8 | GA | 0.4.8 |
| ↳ NeMo Guardrails | - | - | - | - | - | - |
| AI Hub | GA | 0.3.5 | GA | 0.3.9 | GA | 0.3.10 |
| Kubeflow Notebook Controller | GA | 1.10.0 | GA | 1.10.0 | GA | 1.10.0 |
| AutoML | - | - | - | - | - | - |
| AutoRAG | - | - | - | - | - | - |
| EvalHub | - | - | - | - | - | - |
IBM Power (ppc64le) アーキテクチャー
| RHOAI Operator のバージョン | 3.3 | 3.4 | 3.5 | |||
|---|---|---|---|---|---|---|
| OpenShift のサポート対象バージョン | 4.19.9+, 4.20, 4.21 | 4.19.9+, 4.20, 4.21, 4.22 | 4.19.9+, 4.20, 4.21, 4.22 | |||
| コンポーネント | ステータス | バージョン | ステータス | バージョン | ステータス | バージョン |
| Dashboard | GA | 2.0.0 | GA | 2.0.0 | GA | 2.0.0 |
| AI Pipelines | GA | 2.5.0 | GA | 2.16.0 | GA | 2.16.0 |
| ↳ Argo Workflows | GA | v3.6.7 | GA | v3.7.3 | GA | v3.7.3 |
| Distributed Inference with llm-d | - | - | - | - | - | - |
| Feature Store (Feast) | TP | 0.59.0 | TP | 0.62.0 | TP | 0.65.0 |
| KServe | GA | 0.15 | GA | 0.17.0 | GA | 0.19.0 |
| Red Hat AI Inference (2) | - | - | GA | 3.4.0 | GA | 3.5.0 |
| Kubeflow Training Operator v1 | 非推奨 | 1.9.0 | 非推奨 | 1.9.0 | 非推奨 (3) | 1.9.0 |
| Kubeflow Trainer v2 | - | - | - | - | - | - |
| KubeRay | - | - | TP | 1.4.2 | TP | 1.4.2 |
| Llama Stack Operator | - | - | TP | 0.9.0 | - | - |
| OGX Operator | - | - | - | - | GA | 0.11.0 |
| ↳ OGX | - | - | - | - | GA | 1.1.2 |
| Model as a Service (MaaS) | - | - | - | - | - | - |
| MLflow | - | - | - | - | TP | 3.14.0 |
| MLServer | - | - | - | - | TP | 1.7.1 |
| Spark Operator | - | - | - | - | TP | 2.4.0 |
| ↳ Spark | - | - | - | - | TP | 4.0.1 |
| TrustyAI | GA | 1.37.0 | GA | 1.37.0 | GA | 1.37.0 |
| ↳ LM-Eval | GA | 0.4.8 | GA | 0.4.8 | GA | 0.4.8 |
| ↳ NeMo Guardrails | TP | 0.9.4 | GA | 0.9.4 | GA | 0.9.4 |
| AI Hub | GA | 0.3.5 | GA | 0.3.9 | GA | 0.3.10 |
| Kubeflow Notebook Controller | GA | 1.10.0 | GA | 1.10.0 | GA | 1.10.0 |
| AutoML | - | - | TP | 1.11.0 | TP | 1.11.0 |
| AutoRAG | - | - | - | - | - | - |
| EvalHub | - | - | - | - | - | - |
IBM Z (s390x) アーキテクチャー
| RHOAI Operator のバージョン | 3.3 | 3.4 | 3.5 | |||
|---|---|---|---|---|---|---|
| OpenShift のサポート対象バージョン | 4.19.9+, 4.20, 4.21 | 4.19.9+, 4.20, 4.21, 4.22 | 4.19.9+, 4.20, 4.21, 4.22 | |||
| コンポーネント | ステータス | バージョン | ステータス | バージョン | ステータス | バージョン |
| Dashboard | GA | 2.0.0 | GA | 2.0.0 | GA | 2.0.0 |
| AI Pipelines | - | - | - | - | - | - |
| ↳ Argo Workflows | - | - | - | - | - | - |
| Distributed Inference with llm-d | - | - | - | - | - | - |
| Feature Store (Feast) | - | - | - | - | - | - |
| KServe | GA | 0.15 | GA | 0.17.0 | GA | 0.19.0 |
| Red Hat AI Inference (2) | - | - | GA | 3.4.0 | GA | 3.5.0 |
| Kubeflow Training Operator v1 | - | - | - | - | - | - |
| Kubeflow Trainer v2 | - | - | - | - | - | - |
| KubeRay | - | - | - | - | - | - |
| Llama Stack Operator | - | - | - | - | - | - |
| OGX Operator | - | - | - | - | - | - |
| ↳ OGX | - | - | - | - | - | - |
| Model as a Service (MaaS) | - | - | - | - | - | - |
| MLflow | - | - | - | - | - | - |
| MLServer | - | - | - | - | - | - |
| Spark Operator | - | - | - | - | - | - |
| ↳ Spark | - | - | - | - | - | - |
| TrustyAI | GA | 1.37.0 | GA | 1.37.0 | GA | 1.37.0 |
| ↳ LM-Eval | - | - | - | - | - | - |
| ↳ NeMo Guardrails | - | - | - | - | - | - |
| IBM Spyre Operator | GA | 1.1.1 | GA | 1.2.1 | GA | 未定 |
| AI Hub | GA | 0.3.5 | GA | 0.3.9 | GA | 0.3.10 |
| Kubeflow Notebook Controller | GA | 1.10.0 | GA | 1.10.0 | GA | 1.10.0 |
| AutoML | - | - | - | - | - | - |
| AutoRAG | - | - | - | - | - | - |
| EvalHub | - | - | - | - | - | - |
注記
(1) Distributed Inference with llm-d には OpenShift 4.20 以降が必要です。
(2) Red Hat AI Inference Server でサポートされている AI アクセラレーターについては、Red Hat AI Inference Server でサポートされている AI アクセラレーター を参照してください。
(3) Kubeflow Training Operator v1 は、Red Hat OpenShift AI 3.5 のフルサポートフェーズ中のみサポートされます。3.5 の Extended Update Support (EUS) フェーズ中ではサポートされません。このコンポーネントのサポートは、バージョン 3.5 のフルサポート終了時に終了します ([日付 - 3.5 のフルサポート終了日])。その日以降、Kubeflow Training Operator v1 はライフサイクル終了 (EOL) となります。お客様は、その期日までに Kubeflow Trainer v2 に移行する必要があります。
TP: テクノロジープレビュー
DP: 開発者プレビュー
開発者プレビューとテクノロジープレビューの比較
LA: Limited Availability (限定提供)このフェーズでは、Red Hat からの特別な承認がある場合にのみ、機能をインストールしてサポートを受けることができます。そのような承認がなければ、その機能はサポートされません。
GA: 一般提供開始日
EUS: Extended Update Support.EUS フェーズ中、Red Hat はコンポーネント固有のサポートを提供します。
EOL: ライフサイクルの終了日このフェーズでは、コンポーネントはサポートされなくなります。
非推奨 (EUS 例外): 当該コンポーネントは非推奨であり、記載されているリリースのフルサポート期間中は引き続きサポートされますが、Extended Update Support からは除外されます。サポート終了日については、各コンポーネントの脚注を参照してください。
RHOAI と vLLM のバージョンの互換性
vLLM のランタイムバージョンは、Red Hat AI Inference (RHAII) の一部として維持管理されています。vLLM のバージョン互換性マトリックス、サポートされているアクセラレーター、および関連する設定の詳細は、Red Hat AI Inference - サポートされる製品およびハードウェア構成 を参照してください。
Red Hat OpenShift AI Operator の依存関係
Red Hat OpenShift AI Operator 依存関係の互換性とサポート対象のバージョンについては、次のドキュメントを参照してください。
- Red Hat OpenShift Serverless: リリースノート
- Red Hat OpenShift Service Mesh: リリースノート
- Red Hat Build of Kueue: リリースノート
- Node Feature Discovery Operator: ドキュメント
- Red Hat - Authorino Operator: ドキュメント
- NVIDIA GPU Operator: ドキュメント
- Intel Gaudi Base Operator: ドキュメント
- AMD GPU Operator: ドキュメント
- NVIDIA ネットワーク Operator: ドキュメント
- Red Hat Connectivity Link: リリースノート
- IBM Spyre Operator: ドキュメント
- cert-manager Operator for Red Hat OpenShift: ドキュメント
- PostgreSQL Operator: Llama Stack サーバーデプロイメント (3.4 以降) に必要
- Red Hat Leader Worker Set Operator: llm-d を使用した分散推論に必要
RHOAI 3.4 以降、Red Hat Connectivity Link (RHCL) は、Models as a Service (MaaS) のユースケース向けの Red Hat AI SKU にのみ含まれるようになりました。その他すべての RHOAI コンポーネントには、RHCL は含まれていません。MaaS が有効な場合、RHCL は Kuadrant Operator を介してデプロイされ、認証、認可、およびレート制限機能を提供します。RHCL のバージョン互換性マトリックスについては、Red Hat Connectivity Link Supported Configurations を参照してください。
Red Hat OpenShift AI は特定のアクセラレーターを直接サポートしません。OpenShift AI でアクセラレーター機能を使用するには、関連するアクセラレーター Operator が必要です。OpenShift AI は、関連する Operator との統合をサポートしています。また、NVIDIA GPU、AMD GPU、Intel Gaudi AI アクセラレーター、および IBM Spyre を利用するためのライブラリーを含む多数のコンテナイメージを製品全体で提供しています。Operator でサポートされているデバイスの詳細は、その Operator のドキュメントを参照してください。
サポート要件と制限
このセクションを参照して、Red Hat サポートの要件と、Red Hat OpenShift AI の Red Hat サポートの制限事項を把握してください。
サポート対象のブラウザー
- Google Chrome
- Mozilla Firefox
- Safari
サポート対象のサービス
Red Hat OpenShift AI は次のサービスをサポートしています。
| サービス名 | 説明 |
|---|---|
| EDB Postgres AI - Pgvector を含むソリューション | Pgvector をはじめとする EDB のベクトルデータベースソリューションを使用して、AI RAG およびマルチモーダル AI レコメンダーアプリケーション向けの強力なハイブリッド検索を使用します。統合された Postgres 環境で、ネイティブベクトルインデックス検索、エンタープライズグレードのセキュリティー、スケーラビリティーを利用して、AI、トランザクション、および分析関連のワークロードを 1 つにまとめます。 |
| Elasticsearch | 革新的な RAG アプリケーションの構築、オブザーバビリティーの問題のプロアクティブな解決、複雑なセキュリティー脅威への対処を、Search AI の力によってすべて実現します。 |
| IBM Watson Studio | IBM® watsonx.ai は、IBM watsonx AI およびデータプラットフォームの構成要素の 1 つです。基盤モデルを活用した新しい生成 AI 機能と、従来の機械学習 (ML) を統合し、AI ライフサイクル全体に対応する強力なスタジオ環境を提供します。 |
| Intel® oneAPI AI Analytics Toolkit Container | AI Kit は、Intel® アーキテクチャー上でのエンドツーエンドのデータサイエンスと分析パイプラインを高速化する AI ソフトウェアツールです。 |
| NVIDIA NIM | NVIDIA AI Enterprise の一部である NVIDIA NIM は、クラウド、データセンター、ワークステーションに高性能 AI モデル推論をセキュアかつ確実にデプロイできるように設計された、使いやすいマイクロサービスのセットです。オープンソースコミュニティーや NVIDIA AI Foundation モデルを含む幅広い AI モデルをサポートしており、業界標準の API を活用して、オンプレミスでもクラウドでも、シームレスでスケーラブルな AI 推論を実現します。 |
| OpenVINO | OpenVINO は、深層学習のパフォーマンスを最適化し、推論エンジンを使用して Intel® ハードウェアにデプロイするのに役立つオープンソースツールキットです。 |
| Pachyderm | Pachyderm は機械学習のデータ基盤です。データサイエンスチームが機械学習のライフサイクルを自動化できるように、業界最高水準のパイプライン、データのバージョン管理、データリネージ機能を提供します。 |
| Starburst Enterprise | Starburst Enterprise プラットフォーム (SEP) は、オープンソースの Massively Parallel Processing (MPP) ANSI SQL クエリーエンジンである Trino の商用ディストリビューションです。 Starburst は、データがどこに保存されているかに関係なく、すべてのデータへの高速アクセスを提供することで、Red Hat OpenShift AI ワークロードのデータアクセスを簡素化します。 Starburst はこれを実現するために、各データソースに直接接続し、データを処理のためにメモリーに戻します。これにより、最初にデータを一箇所にコピーまたは移動する必要性を減らしています。 |
| Jupyter | Jupyter は、企業、教室、研究室向けに設計されたマルチユーザーバージョンの notebook です。 |
サポート対象のワークベンチイメージ
Red Hat OpenShift AI でサポートされている最新のワークベンチイメージは、デフォルトで Python とともにインストールされます。
サポート対象の Python のバージョンと互換性があるパッケージであれば、そのパッケージに必要なバイナリーが含まれるワークベンチサーバーにインストールできます。使用するワークベンチイメージに必要なバイナリーが含まれていない場合は、Red Hat サポートに連絡して、バイナリーを含めるように依頼してください。
モデル開発に一貫性のある安定したプラットフォームを提供するには、同じバージョンの Python を含むワークベンチイメージを選択します。OpenShift AI で利用可能なワークベンチイメージは、あらかじめビルドされており、OpenShift AI をインストールまたはアップグレードした後すぐに使用できます。
ワークベンチイメージは少なくとも 1 年間サポートされます。事前設定されたワークベンチイメージに対するメジャー更新は、約 6 カ月ごとに行われます。したがって通常はいつでも、サポート対象のワークベンチイメージバージョンを 2 つ利用できます。このサポート期間を活用して、利用可能な最新のワークベンチイメージのコンポーネントを使用するようにコードを更新できます。最新の 2 つのバージョン以外に、レガシーなワークベンチイメージバージョンも選択できる場合があります。レガシーイメージバージョンには、イメージが古くなっていることを示すラベルが含まれています。最新のパッケージバージョンを使用できるように、Red Hat は、最近追加されたワークベンチイメージを使用することを推奨します。サポートされなくなった場合でも、必要に応じて、レジストリーから古いワークベンチイメージにアクセスできます。そのため、プロジェクトの特定の要件に合わせて、古いワークベンチイメージをカスタムワークベンチイメージとして追加できます。
次の表で テクノロジープレビュー として示されているワークベンチイメージは、Red Hat の製品サービスレベルアグリーメント (SLA) ではサポートされておらず、機能的に完全ではない可能性があります。Red Hat は テクノロジープレビュー 機能を実稼働環境で使用することを推奨していません。これらの機能は、今後の製品機能への早期アクセスを提供することで、お客様が機能をテストし、開発プロセス中にフィードバックを提供できるようにしています。
x86_64 でサポートされているノートブック
| イメージ名 | イメージバージョン | プリインストールパッケージ |
|---|---|---|
| Code Server | Data Science | CPU | Python 3.12 | 2025.2 (推奨) | code-server: 4.104, Python 3.12, Boto3: 1.40、Kafka-Python-ng: 2.2、Matplotlib: 3.10, NumPy: 2.3、Pandas: 2.3, scikit-learn: 1.7、Scipy: 1.16、Sklearn-onnx: 1.19、ipykernel: 6.30、Kubeflow-Training: 1.9 |
| Jupyter | Data Science | CPU | Python 3.12 | 2025.2 (推奨) | Python 3.12、JupyterLab: 4.4、Boto3: 1.40、Kafka-Python-ng: 2.2, Kubeflow SDK: 2.14、Matplotlib: 3.10, NumPy: 2.3、Pandas: 2.3, scikit-learn: 1.7、Scipy: 1.16、Odh-Elyra: 4.3、PyMongo: 4.15、Pyodbc: 5.2、Codeflare-SDK: 0.34、Feast: 0.59、Sklearn-onnx: 1.19, Psycopg: 3.2、MySQL Connector/Python: 9.4、Kubeflow-Training: 1.9 |
| Jupyter | Minimal | CPU | Python 3.12 | 2025.2 (推奨) | Python 3.12、JupyterLab: 4.4 |
| Jupyter | 最小限 | CUDA | Python 3.12 | 2025.2 (推奨) | CUDA 12.9, Python 3.12, JupyterLab: 4.4 |
| Jupyter | 最小限 | ROCm | Python 3.12 | 2025.2 (推奨) | ROCm 6.4, Python 3.12, JupyterLab: 4.4 |
| Jupyter | PyTorch LLM Compressor | CUDA | Python 3.12 | 2025.2 (推奨) | CUDA 12.9, Python 3.12, PyTorch: 2.7, LLM-Compressor: 0.9, JupyterLab: 4.4, Tensorboard: 2.20, Boto3: 1.40、Kafka-Python-ng: 2.2, Kubeflow SDK: 2.14、Matplotlib: 3.10, NumPy: 2.3、Pandas: 2.3, scikit-learn: 1.7、Scipy: 1.16、Odh-Elyra: 4.3、PyMongo: 4.15、Pyodbc: 5.2, Feast: 0.59、Sklearn-onnx: 1.19, Psycopg: 3.2、MySQL Connector/Python: 9.4、Kubeflow-Training: 1.9 |
| Jupyter | PyTorch | CUDA | Python 3.12 | 2025.2 (推奨) | CUDA 12.9, Python 3.12, PyTorch: 2.7, JupyterLab: 4.4, Tensorboard: 2.20, Boto3: 1.40、Kafka-Python-ng: 2.2, Kubeflow SDK: 2.14、Matplotlib: 3.10, NumPy: 2.3、Pandas: 2.3, scikit-learn: 1.7、Scipy: 1.16、Odh-Elyra: 4.3、PyMongo: 4.15、Pyodbc: 5.2、Codeflare-SDK: 0.34、Feast: 0.59、Sklearn-onnx: 1.19, Psycopg: 3.2、MySQL Connector/Python: 9.4、Kubeflow-Training: 1.9 |
| Jupyter | PyTorch | ROCm | Python 3.12 | 2025.2 (推奨) | ROCm 6.4, Python 3.12, ROCm-PyTorch: 2.7, JupyterLab: 4.4, Tensorboard: 2.20、Kafka-Python-ng: 2.2、Matplotlib: 3.10, NumPy: 2.3、Pandas: 2.3, scikit-learn: 1.7、Scipy: 1.16、Odh-Elyra: 4.3、PyMongo: 4.15、Pyodbc: 5.2、Codeflare-SDK: 0.34、Feast: 0.59、Sklearn-onnx: 1.19, Psycopg: 3.2、MySQL Connector/Python: 9.4、Kubeflow-Training: 1.9 |
| Jupyter | TensorFlow | CUDA | Python 3.12 | 2025.2 (推奨) | CUDA 12.9, Python 3.12, TensorFlow: 2.20, JupyterLab: 4.4, Tensorboard: 2.20、Nvidia-CUDA-CU12-Bundle: 12.9、Boto3: 1.40、Kafka-Python-ng: 2.2, Kubeflow SDK: 2.14、Matplotlib: 3.10, NumPy: 2.1、Pandas: 2.3, scikit-learn: 1.7、Scipy: 1.16、Odh-Elyra: 4.3、PyMongo: 4.15、Pyodbc: 5.2、Codeflare-SDK: 0.34、Feast: 0.59、Sklearn-onnx: 1.19, Psycopg: 3.2、MySQL Connector/Python: 9.4 |
| Jupyter | TensorFlow | ROCm | Python 3.12 | 2025.2 (推奨) | ROCm 6.4, Python 3.12, TensorFlow-ROCm: 2.18, JupyterLab: 4.4, Tensorboard: 2.18、Kafka-Python-ng: 2.2、Matplotlib: 3.10, NumPy: 1.26、Pandas: 2.3, scikit-learn: 1.7、Scipy: 1.16、Odh-Elyra: 4.3、PyMongo: 4.15、Pyodbc: 5.2、Codeflare-SDK: 0.34、Sklearn-onnx: 1.19, Psycopg: 3.2、MySQL Connector/Python: 9.4 |
| Jupyter | TrustyAI | CPU | Python 3.12 | 2025.2 (推奨) | Python 3.12、JupyterLab: 4.4、TrustyAI: 0.6、Transformers: 4.56、Datasets: 4.0、Accelerate: 1.10、Torch: 2.7、Boto3: 1.40、Kafka-Python-ng: 2.2, Kubeflow SDK: 2.14、Matplotlib: 3.10, NumPy: 1.26、Pandas: 1.5, scikit-learn: 1.7、Scipy: 1.16、Odh-Elyra: 4.3、PyMongo: 4.15、Pyodbc: 5.2、Codeflare-SDK: 0.34、Sklearn-onnx: 1.19, Psycopg: 3.2、MySQL Connector/Python: 9.4、Kubeflow-Training: 1.9 |
IBM Power でサポートされているノートブック
| イメージ名 | イメージバージョン | プリインストールパッケージ |
|---|---|---|
| Code Server | Data Science | CPU | Python 3.12 | 2025.2 | code-server 1.104、Python 3.12、Boto3: 1.40、Kafka-Python-ng: 2.2、Matplotlib: 3.10、Numpy: 2.3、Pandas: 2.3、Scikit-learn: 1.7、Scipy: 1.16、Sklearn-onnx: 1.19、ipykernel: 6.30、Kubeflow-Training: 1.9 |
| Jupyter | Data Science | CPU | Python 3.12 | 2025.2 | Python 3.12、JupyterLab: 4.4、Boto3: 1.40、Kafka-Python-ng: 2.2、Kfp: 2.14、Matplotlib: 3.10、Numpy: 2.3、Pandas: 2.3、Scikit-learn: 1.7、Scipy: 1.16、Odh-Elyra: 4.2、PyMongo: 4.14、Pyodbc: 5.2、Sklearn-onnx: 1.19、Psycopg: 3.2、MySQL Connector/Python: 9.3、Kubeflow-Training: 1.9 |
| Jupyter | Minimal | CPU | Python 3.12 | 2025.2 | Python 3.12、JupyterLab: 4.4 |
| Jupyter | TrustyAI | CPU | Python 3.12 | 2025.2 | Python 3.12、JupyterLab: 4.4、TrustyAI: 0.6、Transformers: 4.56、Datasets: 4.0、Accelerate: 1.10、Torch: 2.7、Boto3: 1.40、Kafka-Python-ng: 2.2、Kfp: 2.14、Matplotlib: 3.10、Numpy: 1.26、Pandas: 1.5、Scikit-learn: 1.7、Scipy: 1.16、Odh-Elyra: 4.2、PyMongo: 4.14、Pyodbc: 5.2、Sklearn-onnx: 1.19、Psycopg: 3.2、Kubeflow-Training: 1.9 |
| Jupyter | TrustyAI | Minimal | CPU | Python 3.12 | 2025.2 | IPython: 9.8.0、ipykernel: 7.1.0、ipywidgets: 8.1.2、jupyter_client: 8.7.0、jupyter_core: 5.9.1、jupyter_server: 2.17.0、jupyterlab: 4.4.9、nbclient: 0.10.2、nbconvert: 7.16.6、nbformat: 5.10.4、notebook: not installed、qtconsole: not installed、traitlets: 5.14.3 |
IBM Z でサポートされているノートブック
| イメージ名 | イメージバージョン | プリインストールパッケージ |
|---|---|---|
| Code Server | Data Science | CPU | Python 3.12 | 2025.2 (推奨) | code-server 1.104、Python 3.12、Boto3: 1.40、Kafka-Python-ng: 2.2、Numpy: 2.3、Pandas: 2.3、Scikit-learn: 1.7、Scipy: 1.16、ipykernel: 6.30 |
| Jupyter | Data Science | CPU | Python 3.12 | 2025.2 (推奨) | Python 3.12、JupyterLab: 4.4、Boto3: 1.40、Kafka-Python-ng: 2.2、Kfp: 2.14、Matplotlib: 3.10、Numpy: 2.3、Pandas: 2.3、Scikit-learn: 1.7、Scipy: 1.16、PyMongo: 4.14, Pyodbc: 5.2、Sklearn-onnx: 1.19、Psycopg: 3.2、MySQL Connector/Python: 9.3 |
| Jupyter | Minimal | CPU | Python 3.12 | 2025.2 (推奨) | Python 3.12、JupyterLab: 4.4 |
| 2024.2 | Python 3.11、JupyterLab: 4.4 | |
| Jupyter | TrustyAI | CPU | Python 3.12 | 2025.2 (推奨) | Python 3.12、JupyterLab: 4.4、TrustyAI: 0.6、Transformers: 4.56、Datasets: 4.0、Accelerate: 1.10、PyArrow 20.0、Torch: 2.7、Boto3: 1.40、Kafka-Python-ng: 2.2、Kfp: 2.14、Matplotlib: 3.10、Numpy: 1.26、Pandas: 1.5、Scikit-learn: 1.7、Scipy: 1.16、PyMongo: 4.14, Pyodbc: 5.2、Psycopg: 3.2 |
サポートされているモデルサービングランタイム
| ランタイム名 | 説明 | エクスポートされるモデル形式 |
|---|---|---|
| vLLM Spyre AI Accelerator ServingRuntime for KServe | x86 上の IBM Spyre AI アクセラレーターをサポートする、高スループットでメモリー効率の高い推論およびサービングランタイム | サポートされているモデル |
| Caikit Text Generation Inference Server (Caikit-TGIS) ServingRuntime for KServe (1) | Caikit 形式のモデルをサービングするための複合ランタイム | Caikit Text Generation |
| Caikit Standalone ServingRuntime for KServe (2) | エンベディングタスク用の Caikit エンベディング形式でモデルをサービングするためのランタイム | Caikit Embeddings |
| OpenVINO Model Server | Intel アーキテクチャー向けに最適化されたモデルをサービングするためのスケーラブルで高性能なランタイム | PyTorch、TensorFlow、OpenVINO IR、PaddlePaddle、MXNet、Caffe、Kaldi |
| [非推奨] Text Generation Inference Server (TGIS) Standalone ServingRuntime for KServe (3) | TGI 対応モデルをサービングするためのランタイム | PyTorch Model Formats |
| vLLM NVIDIA GPU ServingRuntime for KServe | NVIDIA GPU アクセラレーターをサポートする、大規模言語モデル向けの高スループットでメモリー効率の高い推論およびサービングランタイム | サポートされているモデル |
| vLLM Intel Gaudi Accelerator ServingRuntime for KServe | Intel Gaudi アクセラレーターをサポートする、高スループットでメモリー効率の高い推論およびサービングランタイム | サポートされているモデル |
| vLLM AMD GPU ServingRuntime for KServe | AMD GPU アクセラレーターをサポートする、高スループットでメモリー効率の高い推論およびサービングランタイム | サポートされているモデル |
| vLLM CPU ServingRuntime for KServe | IBM Power (ppc64le) および IBM Z (s390x) をサポートする、高スループットでメモリー効率の高い推論およびサービングランタイム | サポートされているモデル |
| vLLM Spyre s390x ServingRuntime for KServe | s390x (IBM Z) 上の IBM Spyre アクセラレーターをサポートする、高スループットでメモリー効率の高い推論およびサービングランタイム | サポートされているモデル |
| vLLM Spyre ppc64le ServingRuntime for KServe | ppc64le (IBM Power) 上の IBM Spyre アクセラレーターをサポートする、高スループットでメモリー効率の高い推論およびサービングランタイム | サポートされているモデル |
| MLServer ServingRuntime for KServe | 機械学習モデルのデプロイを簡素化するように設計されたランタイム | Scikit-Learn (sklearn)、XGBoost、LightGBM、ONNX |
| MLServer NVIDIA GPU ServingRuntime for KServe | NVIDIA GPU アクセラレーターをサポートする、ONNX モデル向けの GPU アクセラレーション対応推論およびサービングランタイム | ONNX |
| AutoGluon (テクノロジープレビュー) | AutoML モデルの効率的なデプロイを可能にするランタイム | AutoGluon TabularPredictor |
(1) Caikit-TGIS 複合ランタイムは、Caikit と Text Generation Inference Server (TGIS) に基づいています。このランタイムを使用するには、モデルを Caikit 形式に変換する必要があります。例については、caikit-tgis-serving リポジトリーの Converting Hugging Face Hub models to Caikit format を参照してください。
(2) Caikit Standalone ランタイムは Caikit NLP に基づいています。このランタイムを使用するには、モデルを Caikit エンベディング形式に変換する必要があります。例については、Tests for text embedding module を参照してください。
(3) Text Generation Inference Server (TGIS) Standalone ServingRuntime for KServe は非推奨です。詳細は、Red Hat OpenShift AI リリースノート を参照してください。
サポートされているモデルサービングランタイムのデプロイメント要件
| ランタイム名 | デフォルトプロトコル | 追加プロトコル | シングルノード OpenShift のサポート | デプロイメントモード |
|---|---|---|---|---|
| vLLM Spyre AI Accelerator ServingRuntime for KServe | REST | いいえ | はい | Raw |
| Caikit Text Generation Inference Server (Caikit-TGIS) ServingRuntime for KServe | REST | gRPC | はい | Raw |
| Caikit Standalone ServingRuntime for KServe | REST | gRPC | はい | Raw |
| OpenVINO Model Server | REST | なし | はい | Raw |
| [非推奨] Text Generation Inference Server (TGIS) Standalone ServingRuntime for KServe | gRPC | なし | はい | Raw |
| vLLM NVIDIA GPU ServingRuntime for KServe | REST | なし | はい | Raw |
| vLLM Intel Gaudi Accelerator ServingRuntime for KServe | REST | なし | はい | Raw |
| vLLM AMD GPU ServingRuntime for KServe | REST | なし | はい | Raw |
| vLLM CPU ServingRuntime for KServe (1) | REST | なし | はい | Raw |
| MLServer ServingRuntime for KServe | REST | いいえ | はい | Raw |
| MLServer NVIDIA GPU ServingRuntime for KServe | REST | いいえ | はい | Raw |
| AutoGluon (テクノロジープレビュー) | REST | いいえ | はい | Raw |
(1) vLLM CPU ServingRuntime for KServe については、IBM Z および IBM Power アーキテクチャーを使用している場合、標準デプロイメントモードでのみモデルをデプロイできます。
テストおよび検証済みのモデルサービングランタイム
| 名前 | 説明 | エクスポートされるモデル形式 |
|---|---|---|
| NVIDIA Triton Inference Server | アプリケーションで高速かつスケーラブルな AI を実現するオープンソースの推論サービスソフトウェア。 | TensorRT、TensorFlow、PyTorch、ONNX、OpenVINO、Python、RAPIDS FIL など。 |
| IBM Power accelerated Triton Inference Server | アプリケーションで高速かつスケーラブルな AI を実現するオープンソースの推論サービスソフトウェア。 | PyTorch、ONNX、Python、ML |
| IBM Z Accelerated for NVIDIA Triton Inference Server | モデルのデプロイと実行を標準化し、大規模かつ効率的で高性能な推論を実現するオープンソースの AI 推論サーバー。 | ONNX-MLIR、Snap ML (C++)、PyTorch。 |
テストおよび検証済みのモデルサービングランタイムのデプロイメント要件
| 名前 | デフォルトプロトコル | 追加プロトコル | シングルノード OpenShift のサポート | デプロイメントモード |
|---|---|---|---|---|
| NVIDIA Triton Inference Server | gRPC | REST | はい | 標準 (Raw) |
| IBM Power accelerated Triton Inference Server | REST | なし | はい | 標準 (Raw) |
| IBM Z Accelerated for NVIDIA Triton Inference Server | gRPC | REST | はい | 標準 (Raw) |
トレーニングイメージ
OpenShift AI で分散トレーニングジョブを実行するには、次のいずれかのタイプのトレーニングイメージを使用します。
- Ray ベースのトレーニングイメージ: Ray を使用した分散トレーニング向けに特別に設計され、テストおよび検証済みのイメージ。以下の表を参照してください。
- Kubeflow Training Operator (KFTO) を使用したワークベンチイメージ: サポート対象ワークベンチイメージ セクションに記載されているものと同じ x86_64 ワークベンチイメージは、Kubeflow Training Operator を使用した分散トレーニングジョブのベースイメージとしても使用できます。製品ドキュメントに記載されているように、追加のパッケージをインストールすることで、カスタムトレーニングイメージを作成できます。
Ray ベースのトレーニングイメージ
次の表は、Red Hat OpenShift AI で利用可能な最新の Ray ベースのトレーニングイメージに関する情報を示しています。これらのイメージは AMD64 イメージであり、他のアーキテクチャーでは動作しない可能性があります。
提供されているイメージをベースイメージとして使用し、製品ドキュメントに記載されているように、追加のパッケージをインストールしてカスタムイメージを作成できます。使用するトレーニングイメージに必要なパッケージが含まれていない場合は、Red Hat サポートに連絡して、パッケージを含めるように依頼してください。イメージはテストおよび検証済みですが、まだ正式にはサポートされていません。
イメージは、インストール済みパッケージの新規バージョンに定期的に更新されます。これらのイメージは、対応する製品ドキュメントに記載されているユースケースと構成に合わせてテストおよび検証されています。バグ修正と CVE 修正は、アップストリームパッケージで利用可能になり次第、これらのイメージの新しいバージョンでのみ提供されます。修正は、以前のイメージバージョンにはバックポートされません。
| イメージタイプ | RHOAI バージョン | イメージバージョン | URL | プリインストールパッケージ |
|---|---|---|---|---|
| CUDA | 3.3 | 2.52.1-py312-cu128 | quay.io/modh/ray:2.52.1-py312-cu128 | Ray 2.52.1、CUDA 12.8、Python 3.12 |
| 3.4 | 2.53.0-py312-cu128 | quay.io/modh/ray:2.53.0-py312-cu128 | Ray 2.53.0, CUDA 12.8, Python 3.12 | |
| 3.5 | 2.55.1-py312-cu128 | quay.io/modh/ray:2.55.1-py312-cu128 | Ray 2.55.1, CUDA 12.8, Python 3.12 | |
| Ray ROCm | 3.3 | 2.52.1-py312-rocm62 | quay.io/modh/ray:2.52.1-py312-rocm62 | Ray 2.52.1、ROCm 6.2、Python 3.12 |
| 3.4 | 2.53.0-py312-rocm64 | quay.io/modh/ray:2.53.0-py312-rocm64 | Ray 2.53.0, ROCm 6.4, Python 3.12 | |
| 3.5 | 2.55.1-py312-rocm64 | quay.io/modh/ray:2.55.1-py312-rocm64 | Ray 2.55.1, ROCm 6.4, Python 3.12 |
Kubeflow Trainer v2 ClusterTrainingRuntimes
以下の表は、RHOAI 3.4 にプリインストールされている ClusterTrainingRuntimes のリストです。これらは Kubeflow Trainer v2 (TrainJob API) で使用できます。これらのランタイムは、分散 PyTorch トレーニングジョブ用のすぐに使えるテンプレートを提供します。
| ランタイム名 | フレームワーク | デフォルトイメージ | アクセラレーター | プリインストールパッケージ |
|---|---|---|---|---|
| training-hub | training-hub | registry.redhat.io/rhoai/odh-th06-cuda130-torch210-py312-rhel9 | CUDA | Python 3.12、PyTorch: 2.10.0, Transformers: 4.57.6, Datasets: 4.3.0, Accelerate: 1.12.0、PEFT: 0.18.1、TRL: 0.24.0、DeepSpeed: 0.18.9, Unsloth: 2026.3.3, Flash Attention: 2.8.3, MLflow: 3.10.1, Kubeflow SDK: 0.3.0, NumPy: 2.4.4, Pandas: 2.3.3, scikit-learn: 1.8.0 |
| training-hub-cpu | training-hub | registry.redhat.io/rhoai/odh-th06-cpu-torch210-py312-rhel9 | CPU | Python 3.12、PyTorch: 2.10.0, Transformers: 4.57.6, Datasets: 4.3.0, Accelerate: 1.12.0、PEFT: 0.18.1、TRL: 0.24.0, MLflow: 3.10.1, Kubeflow SDK: 0.3.0, NumPy: 2.4.4, Pandas: 2.3.3, scikit-learn: 1.8.0 |
| training-hub-rocm | training-hub | registry.redhat.io/rhoai/odh-th06-rocm64-torch291-py312-rhel9 | ROCm | Python 3.12、PyTorch: 2.9.1, Transformers: 4.57.6, Datasets: 4.3.0, Accelerate: 1.12.0、PEFT: 0.18.1、TRL: 0.24.0、DeepSpeed: 0.18.9, Unsloth: 2026.3.3, Flash Attention: 2.8.3, MLflow: 3.10.1, Kubeflow SDK: 0.3.0, NumPy: 2.4.4, Pandas: 2.3.3, scikit-learn: 1.8.0 |
| torch-distributed | torch | registry.redhat.io/rhoai/odh-th06-cuda130-torch210-py312-rhel9 | CUDA | Python 3.12、PyTorch: 2.10.0, Transformers: 4.57.6, Datasets: 4.3.0, Accelerate: 1.12.0、PEFT: 0.18.1、TRL: 0.24.0、DeepSpeed: 0.18.9, Unsloth: 2026.3.3, Flash Attention: 2.8.3, MLflow: 3.10.1, Kubeflow SDK: 0.3.0, NumPy: 2.4.4, Pandas: 2.3.3, scikit-learn: 1.8.0 |
| torch-distributed-cpu | torch | registry.redhat.io/rhoai/odh-th06-cpu-torch210-py312-rhel9 | CPU | Python 3.12、PyTorch: 2.10.0, Transformers: 4.57.6, Datasets: 4.3.0, Accelerate: 1.12.0、PEFT: 0.18.1、TRL: 0.24.0, MLflow: 3.10.1, Kubeflow SDK: 0.3.0, NumPy: 2.4.4, Pandas: 2.3.3, scikit-learn: 1.8.0 |
| torch-distributed-rocm | torch | registry.redhat.io/rhoai/odh-th06-rocm64-torch291-py312-rhel9 | ROCm | Python 3.12、PyTorch: 2.9.1, Transformers: 4.57.6, Datasets: 4.3.0, Accelerate: 1.12.0、PEFT: 0.18.1、TRL: 0.24.0、DeepSpeed: 0.18.9, Unsloth: 2026.3.3, Flash Attention: 2.8.3, MLflow: 3.10.1, Kubeflow SDK: 0.3.0, NumPy: 2.4.4, Pandas: 2.3.3, scikit-learn: 1.8.0 |
Comments