Translated message

A translation of this page exists in English.

Red Hat OpenShift AI: 3.x 버전에서 지원되는 구성

업데이트됨 -

이 문서에서는 Red Hat OpenShift AI(RHOAI) 3.x 제품군, RHOAI 구성 요소, 현재 지원 단계 및 기본 플랫폼과의 호환성에 대해 설명합니다.

⚠️ 주의: Red Hat OpenShift AI 2.x에 대한 지원 정보는 여기에서 확인하세요.

Red Hat OpenShift AI Self-Managed

Red Hat OpenShift AI Operator를 설치한 후, 제품의 독립형 구성 요소를 관리하도록 Operator를 구성하여 OpenShift AI Self-Managed를 설치할 수 있습니다.
RHOAI Self-Managed는 x86_64, ppc64le, s390x 및 aarch64 아키텍처에서 실행되는 OpenShift Container Platform을 지원합니다. 여기에는 다음 공급자가 포함됩니다.

  • Bare Metal
  • Single Node OpenShift (SNO)
  • Bare Metal에서 호스팅되는 컨트롤 플레인
  • IBM Cloud
  • Red Hat OpenStack
  • Amazon Web Services
  • Google Cloud Platform
  • Microsoft Azure
  • VMware vSphere
  • Nutanix
  • Oracle Cloud
  • IBM Power
  • IBM Z

여기에는 OpenShift Dedicated, Red Hat OpenShift Service on AWS(ROSA with HCP), Red Hat OpenShift Service on AWS(기존 아키텍처), Microsoft Azure Red Hat OpenShift 및 OpenShift Kubernetes Engine과 같은 관리형 OpenShift 제품에서 RHOAI Self-Managed에 대한 지원도 포함됩니다. 현재 RHOAI Self-Managed는 MicroShift와 같은 플랫폼에서 실행되는 OpenShift에서는 지원되지 않습니다.
RHOAI Self-Managed의 전체 라이프사이클과 현재 지원되는 릴리스에 대한 자세한 개요는 이 페이지를 참조하십시오.

아키텍처, 버전 및 구성 요소

x86_64 아키텍처

RHOAI Operator 버전 3.3 3.4
OpenShift 지원 버전 4.19.9+, 4.20, 4.21 4.19.9+, 4.20, 4.21, 4.22
칩셋 아키텍처 x86_64 x86_64
구성 요소 상태 버전 상태 버전
Dashboard 정식 출시일 (GA) 2.0.0 정식 출시일 (GA) 2.0.0
Data science pipelines 정식 출시일 (GA) 2.5.0 정식 출시일 (GA) 2.16.0
Argo Workflows 정식 출시일 (GA) v3.6.7 정식 출시일 (GA) v3.7.3
Distributed Inference with llm-d - (1) 정식 출시일 (GA) - 정식 출시일 (GA) 0.7.1
Feature Store 정식 출시일 (GA) 0.59.0 정식 출시일 (GA) 0.62.0
KServe 정식 출시일 (GA) 0.15 정식 출시일 (GA) 0.17.0
Red Hat AI Inference (2) - - 정식 출시일 (GA) 3.4.0
Kubeflow v1 Training Operator 더 이상 사용되지 않음 1.9.0 더 이상 사용되지 않음 1.9.0
Kubeflow Trainer v2 정식 출시일 (GA) 2.1.0 정식 출시일 (GA) 2.1.0
Kuberay 정식 출시일 (GA) 1.4.2 정식 출시일 (GA) 1.4.2
Llama Stack Operator TP 0.6.0 TP 0.9.0
LMEval 정식 출시일 (GA) 0.4.8 정식 출시일 (GA) 0.4.8
MaaS TP 0.0.2 정식 출시일 (GA) 0.1.1
MLflow TP 3.6.0 정식 출시일 (GA) 3.10.1
AI Hub 정식 출시일 (GA) 0.3.5 정식 출시일 (GA) 0.3.9
TrustyAI 정식 출시일 (GA) 1.37.0 정식 출시일 (GA) 1.37.0
Workbenches 정식 출시일 (GA) 1.10.0 정식 출시일 (GA) 1.10.0


ARM 아키텍처

RHOAI Operator 버전 3.3 3.4
OpenShift 지원 버전 4.19.9+, 4.20, 4.21 4.19.9+, 4.20, 4.21, 4.22
칩셋 아키텍처 aarch64 aarch64
구성 요소 상태 버전 상태 버전
Dashboard 정식 출시일 (GA) 2.0.0 정식 출시일 (GA) 2.0.0
Data science pipelines 정식 출시일 (GA) 2.5.0 정식 출시일 (GA) 2.16.0
Argo Workflows 정식 출시일 (GA) v3.6.7 정식 출시일 (GA) v3.7.3
Distributed Inference with llm-d - (1) 정식 출시일 (GA) - 정식 출시일 (GA) 0.7.1
Feature Store 정식 출시일 (GA) 0.59.0 정식 출시일 (GA) 0.62.0
KServe 정식 출시일 (GA) 0.15 정식 출시일 (GA) 0.17.0
Red Hat AI Inference (2) - - 정식 출시일 (GA) 3.4.0
Kubeflow v1 Training Operator 더 이상 사용되지 않음 1.9.0 더 이상 사용되지 않음 1.9.0
Kubeflow Trainer v2 - - - -
Kuberay 정식 출시일 (GA) 1.4.2 정식 출시일 (GA) 1.4.2
Llama Stack Operator TP 0.6.0 TP 0.9.0
LMEval 정식 출시일 (GA) 0.4.8 정식 출시일 (GA) 0.4.8
MaaS TP 0.0.2 정식 출시일 (GA) 0.1.1
MLflow - - - -
AI Hub 정식 출시일 (GA) 0.3.5 정식 출시일 (GA) 0.3.9
TrustyAI 정식 출시일 (GA) 1.37.0 정식 출시일 (GA) 1.37.0
Workbenches 정식 출시일 (GA) 1.10.0 정식 출시일 (GA) 1.10.0


IBM Power(ppc64le) 아키텍처

RHOAI Operator 버전 3.3 3.4
OpenShift 지원 버전 4.19.9+, 4.20, 4.21 4.19.9+, 4.20, 4.21, 4.22
칩셋 아키텍처 ppc64le ppc64le
구성 요소 상태 버전 상태 버전
Dashboard 정식 출시일 (GA) 2.0.0 정식 출시일 (GA) 2.0.0
Data science pipelines 정식 출시일 (GA) 2.5.0 정식 출시일 (GA) 2.16.0
Argo Workflows 정식 출시일 (GA) v3.6.7 정식 출시일 (GA) v3.7.3
Distributed Inference with llm-d - - - -
Feature Store TP 0.59.0 TP 0.62.0
KServe 정식 출시일 (GA) 0.15 정식 출시일 (GA) 0.17.0
Red Hat AI Inference (2) - - 정식 출시일 (GA) 3.4.0
Kubeflow v1 Training Operator 더 이상 사용되지 않음 1.9.0 더 이상 사용되지 않음 1.9.0
Kubeflow Trainer v2 - - - -
Kuberay - - TP 1.4.2
Llama Stack Operator - - TP 0.9.0
LMEval 정식 출시일 (GA) 0.4.8 정식 출시일 (GA) 0.4.8
MaaS - - - -
MLflow - - - -
AI Hub 정식 출시일 (GA) 0.3.5 정식 출시일 (GA) 0.3.9
TrustyAI 정식 출시일 (GA) 1.37.0 정식 출시일 (GA) 1.37.0
Workbenches 정식 출시일 (GA) 1.10.0 정식 출시일 (GA) 1.10.0


IBM Z(s390x) 아키텍처

RHOAI Operator 버전 3.3 3.4
OpenShift 지원 버전 4.19.9+, 4.20, 4.21 4.19.9+, 4.20, 4.21, 4.22
칩셋 아키텍처 s390x s390x
구성 요소 상태 버전 상태 버전
Dashboard 정식 출시일 (GA) 2.0.0 정식 출시일 (GA) 2.0.0
Data science pipelines - - - -
Argo Workflows - - - -
Distributed Inference with llm-d - - - -
Feature Store - - - -
KServe 정식 출시일 (GA) 0.15 정식 출시일 (GA) 0.17.0
Red Hat AI Inference (2) - - 정식 출시일 (GA) 3.4.0
Kubeflow v1 Training Operator - - - -
Kubeflow Trainer v2 - - - -
Kuberay - - - -
Llama Stack Operator - - - -
LMEval - - - -
MaaS - - - -
MLflow - - - -
IBM Spyre Operator 정식 출시일 (GA) 1.1.1 정식 출시일 (GA) 1.2.1
AI Hub 정식 출시일 (GA) 0.3.5 정식 출시일 (GA) 0.3.9
TrustyAI 정식 출시일 (GA) 1.37.0 정식 출시일 (GA) 1.37.0
Workbenches 정식 출시일 (GA) 1.10.0 정식 출시일 (GA) 1.10.0


참고

(1) Distributed Inference with llm-d에는 OpenShift 4.20 이상이 필요합니다.

(2) Red Hat AI Inference Server에서 지원되는 AI 가속기에 대해서는 Supported AI accelerators for Red Hat AI Inference Server를 참조하십시오.


TP: 기술 프리뷰
DP: 개발자 프리뷰
개발자 및 기술 프리뷰: 비교하기
LA: 수량이 한정되어 있습니다. 이 단계에서는 Red Hat의 특별 승인을 받아야만 해당 기능을 설치하고 지원을 받을 수 있습니다. 그러한 승인이 없으면 해당 기능은 지원되지 않습니다.
GA: 일반 판매 가능.
EUS: 확장된 업데이트 지원. EUS 단계 동안 Red Hat은 구성 요소별 지원을 유지할 것입니다.
EOL: 지원 종료. 이 단계에서는 해당 구성 요소에 대한 지원이 중단됩니다.

RHOAI와 vLLM 버전 호환성

다음 표는 Red Hat OpenShift AI의 각 버전에 포함된 vLLM 모델 서빙 런타임 버전을 보여줍니다.

RHOAI 버전 3.3 3.4
vLLM CUDA v0.13.0 v0.18.0
vLLM ROCm v0.13.0 v0.18.0
vLLM Power/Z v0.10.1.1.6 v0.18.0
vLLM Spyre ppc64le v0.11.0 v0.18.0
vLLM Gaudi v0.13.0 v0.17.1
vLLM Spyre x86 v0.12.0 v0.18.0
vLLM Spyre s390x v0.12.0 v0.18.0
OVMS v2025.4 v2026.1.0


Red Hat OpenShift AI Operator 종속성

Red Hat OpenShift AI Operator 종속성의 호환성 및 지원 버전에 대한 자세한 내용은 다음 문서를 참조하십시오.

RHOAI 3.4부터 Red Hat Connectivity Link(RHCL)는 Models as a Service(MaaS) 사용 사례에 한해서만 Red Hat AI SKU에 포함됩니다. 다른 모든 RHOAI 구성 요소에는 RHCL이 포함되지 않습니다. MaaS가 활성화되면 Kuadrant Operator를 통해 RHCL이 배포되며, 이를 통해 인증, 권한 부여 및 속도 제한(rate limiting) 기능이 제공됩니다. RHCL 버전 호환성 매트릭스는 Red Hat Connectivity Link 지원 구성 문서를 참조하십시오.

Red Hat OpenShift AI는 특정 가속기를 직접 지원하지 않습니다. OpenShift AI에서 가속기 기능을 사용하려면 관련 가속기 Operator가 필요합니다. OpenShift AI는 관련 Operator와의 통합을 지원하며, 제품 전반에서 NVIDIA GPU, AMD GPU, Intel Gaudi AI 가속기 및 IBM Spyre와 함께 사용할 수 있는 라이브러리가 포함된 다양한 이미지를 제공합니다. Operator에서 지원되는 기기에 대한 자세한 내용은 해당 Operator의 문서를 참조하십시오.

지원 요구 사항 및 제한 사항

이 섹션을 검토하여 Red Hat 지원에 필요한 사항과 Red Hat OpenShift AI에 대한 Red Hat 지원의 제한 사항을 이해하십시오.

지원되는 브라우저

  • Google Chrome
  • Mozilla Firefox
  • Safari

지원되는 서비스

Red Hat OpenShift AI는 다음과 같은 서비스를 지원합니다.

서비스 이름 설명
EDB Postgres AI - Pgvector를 포함한 솔루션 EDB의 벡터 데이터베이스 솔루션(Pgvector 포함)을 활용하여 AI RAG 및 멀티모달 AI 추천 애플리케이션을 위한 강력한 하이브리드 검색 기능을 사용합니다. AI, 트랜잭션 및 분석 워크로드를 네이티브 벡터 인덱스 검색, 엔터프라이즈급 보안 및 확장성과 결합하여 통합된 Postgres 환경을 구축합니다.
Elasticsearch Search AI의 강력한 기능을 활용하여 혁신적인 RAG 애플리케이션을 구축하고, 관측성 문제를 사전에 해결하며, 복잡한 보안 위협에 대응할 수 있습니다.
IBM Watson Studio IBM® watsonx.ai는 IBM watsonx AI 및 데이터 플랫폼의 일부로, 파운데이션 모델 기반의 새로운 생성형 AI 기능과 기존 머신 러닝(ML) 기능을 통합하여 AI 라이프사이클 전반에 걸쳐 강력한 스튜디오를 제공합니다.
Intel® oneAPI AI Analytics Toolkit Container AI Kit은 Intel® 아키텍처에서 엔드투엔드 데이터 사이언스 및 분석 파이프라인을 가속화하기 위한 AI 소프트웨어 도구 모음입니다.
NVIDIA NIM NVIDIA AI Enterprise의 일부인 NVIDIA NIM은 클라우드, 데이터 센터 및 워크스테이션 전반에 걸쳐 고성능 AI 모델 추론을 안전하고 안정적으로 배포할 수 있도록 설계된 사용하기 쉬운 마이크로서비스 세트입니다. 오픈 소스 커뮤니티 모델과 NVIDIA AI 재단 모델을 포함한 광범위한 AI 모델을 지원하며, 업계 표준 API를 활용하여 온프레미스 또는 클라우드 환경에서 원활하고 확장 가능한 AI 추론을 보장합니다.
OpenVINO OpenVINO는 딥러닝 성능을 최적화하고 추론 엔진을 사용하여 Intel® 하드웨어에 배포하는 데 도움이 되는 오픈 소스 툴킷입니다.
Pachyderm Pachyderm은 머신러닝을 위한 데이터 기반입니다. 이 솔루션은 데이터 사이언스 팀이 머신 러닝 라이프사이클을 자동화할 수 있도록 업계 최고 수준의 파이프라인, 데이터 버전 관리 및 계보(lineage)를 제공합니다.
Starburst Enterprise Starburst Enterprise 플랫폼(SEP)은 오픈 소스 대규모 병렬 처리(MPP) ANSI SQL 쿼리 엔진인 Trino의 상용 배포판입니다. Starburst는 데이터가 어디에 있든 모든 데이터에 빠르게 액세스할 수 있도록 지원하여 Red Hat OpenShift AI 워크로드의 데이터 액세스를 간소화합니다. Starburst는 각 데이터 소스에 직접 연결하여 데이터를 메모리로 가져와 처리함으로써, 데이터를 먼저 단일 위치로 복사하거나 이동할 필요성을 없애줍니다.
Jupyter Jupyter는 기업, 교실 및 연구실을 위해 설계된 다중 사용자 노트북 버전입니다.

지원되는 워크벤치 이미지

Red Hat OpenShift AI에서 지원하는 최신 워크벤치 이미지는 기본적으로 Python과 함께 설치됩니다.
지원되는 Python 버전과 호환되는 패키지는 해당 패키지에 필요한 바이너리가 설치된 모든 워크벤치 서버에 설치할 수 있습니다. 사용하려는 워크벤치 이미지에 필요한 바이너리가 포함되어 있지 않은 경우, Red Hat 지원팀에 문의하여 해당 바이너리를 포함시켜 줄 것을 요청하십시오.

모델 개발을 위한 일관되고 안정적인 플랫폼을 제공하려면 동일한 버전의 Python이 포함된 워크벤치 이미지를 선택하십시오. OpenShift AI에서 제공되는 워크벤치 이미지는 사전 구축되어 있어 OpenShift AI를 설치 또는 업그레이드한 후 즉시 사용할 수 있습니다.
워크벤치 이미지는 최소 1년간 지원됩니다. 사전 구성된 워크벤치 이미지에 대한 주요 업데이트는 약 6개월마다 발생합니다. 따라서 일반적으로 언제든지 두 가지 버전의 지원되는 워크벤치 이미지 버전을 사용할 수 있습니다. 이 지원 기간을 활용하여 최신 워크벤치 이미지의 구성 요소를 사용하도록 코드를 업데이트할 수 있습니다. 최신 버전 두 개가 아닌 이전 버전의 워크벤치 이미지도 여전히 선택할 수 있을 수 있습니다. 기존 이미지 버전에는 이미지가 오래되었음을 나타내는 레이블이 포함되어 있습니다. 최신 패키지 버전을 사용하려면 Red Hat은 가장 최근에 추가된 워크벤치 이미지를 사용할 것을 권장합니다. 필요한 경우, 더 이상 지원되지 않는 이전 워크벤치 이미지라도 레지스트리에서 접근할 수 있습니다. 그런 다음 이전 작업대 이미지를 사용자 지정 작업대 이미지로 추가하여 프로젝트의 특정 요구 사항에 맞출 수 있습니다.

다음 표에서 '기술 프리뷰' 로 표시된 워크벤치 이미지는 Red Hat 프로덕션 서비스 수준 계약(SLA)에 따라 지원되지 않으며 기능이 완전하지 않을 수 있습니다. Red Hat은 프로덕션 환경에서 기술 프리뷰 기능을 사용하는 것을 권장하지 않습니다. 고객은 출시 예정된 제품 기능을 Preview를 통해 미리 사용해 보면서 테스트하고 개발 과정에서 피드백을 제공할 수 있습니다.

x86_64에서 지원되는 노트북

이미지 이름 이미지 버전 사전 설치된 패키지
Code Server | Data Science | CPU | Python 3.12 2025.2 (권장) code-server: 4.104, Python 3.12, Boto3: 1.40, Kafka-Python-ng: 2.2, Matplotlib: 3.10, NumPy: 2.3, Pandas: 2.3, scikit-learn: 1.7, Scipy: 1.16, Sklearn-onnx: 1.19, ipykernel: 6.30, Kubeflow-Training: 1.9
2025.1 code-server: 4.98, Python 3.11, Boto3: 1.37, Kafka-Python-ng: 2.2, Matplotlib: 3.10, NumPy: 2.2, Pandas: 2.2, scikit-learn: 1.6, Scipy: 1.15, Sklearn-onnx: 1.18, ipykernel: 6.29, Kubeflow-Training: 1.9
Jupyter | Data Science | CPU | Python 3.12 2025.2 (권장) Python 3.12, JupyterLab: 4.4, Boto3: 1.40, Kafka-Python-ng: 2.2, Kubeflow SDK: 2.14, Matplotlib: 3.10, NumPy: 2.3, Pandas: 2.3, scikit-learn: 1.7, Scipy: 1.16, Odh-Elyra: 4.3, PyMongo: 4.15, Pyodbc: 5.2, Codeflare-SDK: 0.34, Feast: 0.59, Sklearn-onnx: 1.19, Psycopg: 3.2, MySQL Connector/Python: 9.4, Kubeflow-Training: 1.9
2025.1 Python 3.11, JupyterLab: 4.4, Boto3: 1.37, Kafka-Python-ng: 2.2, Kubeflow SDK: 2.12, Matplotlib: 3.10, NumPy: 2.2, Pandas: 2.2, scikit-learn: 1.6, Scipy: 1.15, Odh-Elyra: 4.2, PyMongo: 4.11, Pyodbc: 5.2, Codeflare-SDK: 0.30, Sklearn-onnx: 1.18, Psycopg: 3.2, MySQL Connector/Python: 9.3, Kubeflow-Training: 1.9
Jupyter | Minimal | CPU | Python 3.12 2025.2 (권장) Python 3.12, JupyterLab: 4.4
2025.1 Python 3.11, JupyterLab: 4.4
Jupyter | Minimal | CUDA | Python 3.12 2025.2 (권장) CUDA 12.9, Python 3.12, JupyterLab: 4.4
2025.1 CUDA 12.6, Python 3.11, JupyterLab: 4.4
Jupyter | Minimal | ROCm | Python 3.12 2025.2 (권장) ROCm 6.4, Python 3.12, JupyterLab: 4.4
2025.1 ROCm 6.2, Python 3.11, JupyterLab: 4.4
Jupyter | PyTorch LLM Compressor | CUDA | Python 3.12 2025.2 (권장) CUDA 12.9, Python 3.12, PyTorch: 2.7, LLM-Compressor: 0.9, JupyterLab: 4.4, Tensorboard: 2.20, Boto3: 1.40, Kafka-Python-ng: 2.2, Kubeflow SDK: 2.14, Matplotlib: 3.10, NumPy: 2.3, Pandas: 2.3, scikit-learn: 1.7, Scipy: 1.16, Odh-Elyra: 4.3, PyMongo: 4.15, Pyodbc: 5.2, Feast: 0.59, Sklearn-onnx: 1.19, Psycopg: 3.2, MySQL Connector/Python: 9.4, Kubeflow-Training: 1.9
Jupyter | PyTorch | CUDA | Python 3.12 2025.2 (권장) CUDA 12.9, Python 3.12, PyTorch: 2.7, JupyterLab: 4.4, Tensorboard: 2.20, Boto3: 1.40, Kafka-Python-ng: 2.2, Kubeflow SDK: 2.14, Matplotlib: 3.10, NumPy: 2.3, Pandas: 2.3, scikit-learn: 1.7, Scipy: 1.16, Odh-Elyra: 4.3, PyMongo: 4.15, Pyodbc: 5.2, Codeflare-SDK: 0.34, Feast: 0.59, Sklearn-onnx: 1.19, Psycopg: 3.2, MySQL Connector/Python: 9.4, Kubeflow-Training: 1.9
2025.1 CUDA 12.6, Python 3.11, PyTorch: 2.6, JupyterLab: 4.4, Tensorboard: 2.19, Boto3: 1.37, Kafka-Python-ng: 2.2, Kubeflow SDK: 2.12, Matplotlib: 3.10, NumPy: 2.2, Pandas: 2.2, scikit-learn: 1.6, Scipy: 1.15, Odh-Elyra: 4.2, PyMongo: 4.11, Pyodbc: 5.2, Codeflare-SDK: 0.30, Sklearn-onnx: 1.18, Psycopg: 3.2, MySQL Connector/Python: 9.3, Kubeflow-Training: 1.9
Jupyter | PyTorch | ROCm | Python 3.12 2025.2 (권장) ROCm 6.4, Python 3.12, ROCm-PyTorch: 2.7, JupyterLab: 4.4, Tensorboard: 2.20, Kafka-Python-ng: 2.2, Matplotlib: 3.10, NumPy: 2.3, Pandas: 2.3, scikit-learn: 1.7, Scipy: 1.16, Odh-Elyra: 4.3, PyMongo: 4.15, Pyodbc: 5.2, Codeflare-SDK: 0.34, Feast: 0.59, Sklearn-onnx: 1.19, Psycopg: 3.2, MySQL Connector/Python: 9.4, Kubeflow-Training: 1.9
2025.1 ROCm 6.2, Python 3.11, ROCm-PyTorch: 2.6, JupyterLab: 4.4, Tensorboard: 2.18, Kafka-Python-ng: 2.2, Matplotlib: 3.10, NumPy: 2.2, Pandas: 2.2, scikit-learn: 1.6, Scipy: 1.15, Odh-Elyra: 4.2, PyMongo: 4.11, Pyodbc: 5.2, Codeflare-SDK: 0.30, Sklearn-onnx: 1.18, Psycopg: 3.2, MySQL Connector/Python: 9.3, Kubeflow-Training: 1.9
Jupyter | TensorFlow | CUDA | Python 3.12 2025.2 (권장) CUDA 12.9, Python 3.12, TensorFlow: 2.20, JupyterLab: 4.4, Tensorboard: 2.20, Nvidia-CUDA-CU12-Bundle: 12.9, Boto3: 1.40, Kafka-Python-ng: 2.2, Kubeflow SDK: 2.14, Matplotlib: 3.10, NumPy: 2.1, Pandas: 2.3, scikit-learn: 1.7, Scipy: 1.16, Odh-Elyra: 4.3, PyMongo: 4.15, Pyodbc: 5.2, Codeflare-SDK: 0.34, Feast: 0.59, Sklearn-onnx: 1.19, Psycopg: 3.2, MySQL Connector/Python: 9.4
2025.1 CUDA 12.6, Python 3.11, TensorFlow: 2.18, JupyterLab: 4.4, Tensorboard: 2.18, Nvidia-CUDA-CU12-Bundle: 12.5, Boto3: 1.37, Kafka-Python-ng: 2.2, Kubeflow SDK: 2.12, Matplotlib: 3.10, NumPy: 1.26, Pandas: 2.2, scikit-learn: 1.6, Scipy: 1.15, Odh-Elyra: 4.2, PyMongo: 4.11, Pyodbc: 5.2, Codeflare-SDK: 0.30, Sklearn-onnx: 1.18, Psycopg: 3.2, MySQL Connector/Python: 9.3
Jupyter | TensorFlow | ROCm | Python 3.12 2025.2 (권장) ROCm 6.4, Python 3.12, TensorFlow-ROCm: 2.18, JupyterLab: 4.4, Tensorboard: 2.18, Kafka-Python-ng: 2.2, Matplotlib: 3.10, NumPy: 1.26, Pandas: 2.3, scikit-learn: 1.7, Scipy: 1.16, Odh-Elyra: 4.3, PyMongo: 4.15, Pyodbc: 5.2, Codeflare-SDK: 0.34, Sklearn-onnx: 1.19, Psycopg: 3.2, MySQL Connector/Python: 9.4
2025.1 ROCm 6.2, Python 3.11, TensorFlow-ROCm: 2.14, JupyterLab: 4.4, Tensorboard: 2.14, Kafka-Python-ng: 2.2, Matplotlib: 3.10, NumPy: 1.26, Pandas: 2.2, scikit-learn: 1.6, Scipy: 1.15, Odh-Elyra: 4.2, PyMongo: 4.11, Pyodbc: 5.2, Codeflare-SDK: 0.30, Sklearn-onnx: 1.17, Psycopg: 3.2, MySQL Connector/Python: 9.3
Jupyter | TrustyAI | CPU | Python 3.12 2025.2 (권장) Python 3.12, JupyterLab: 4.4, TrustyAI: 0.6, Transformers: 4.56, Datasets: 4.0, Accelerate: 1.10, Torch: 2.7, Boto3: 1.40, Kafka-Python-ng: 2.2, Kubeflow SDK: 2.14, Matplotlib: 3.10, NumPy: 1.26, Pandas: 1.5, scikit-learn: 1.7, Scipy: 1.16, Odh-Elyra: 4.3, PyMongo: 4.15, Pyodbc: 5.2, Codeflare-SDK: 0.34, Sklearn-onnx: 1.19, Psycopg: 3.2, MySQL Connector/Python: 9.4, Kubeflow-Training: 1.9
2025.1 Python 3.11, JupyterLab: 4.4, TrustyAI: 0.6, Transformers: 4.53, Datasets: 3.4, Accelerate: 1.5, Torch: 2.6, Boto3: 1.37, Kafka-Python-ng: 2.2, Kubeflow SDK: 2.12, Matplotlib: 3.6, NumPy: 1.24, Pandas: 1.5, scikit-learn: 1.5, Scipy: 1.15, Odh-Elyra: 4.2, PyMongo: 4.11, Pyodbc: 5.2, Codeflare-SDK: 0.30, Sklearn-onnx: 1.18, Psycopg: 3.2, MySQL Connector/Python: 9.3, Kubeflow-Training: 1.9

IBM Power에서 지원되는 노트북

이미지 이름 이미지 버전 사전 설치된 패키지
Code Server | Data Science | CPU | Python 3.12 2025.2 code-server 1.104, Python 3.12, Boto3: 1.40, Kafka-Python-ng: 2.2, Matplotlib: 3.10, NumPy: 2.3, Pandas: 2.3, Scikit-learn: 1.7, Scipy: 1.16, Sklearn-onnx: 1.19, ipykernel: 6.30, Kubeflow-Training: 1.9
Jupyter | Data Science | CPU | Python 3.12 2025.2 Python 3.12, JupyterLab: 4.4, Boto3: 1.40, Kafka-Python-ng: 2.2, Kfp: 2.14, Matplotlib: 3.10, NumPy: 2.3, Pandas: 2.3, Scikit-learn: 1.7, Scipy: 1.16, Odh-Elyra: 4.2, PyMongo: 4.14, Pyodbc: 5.2, Sklearn-onnx: 1.19, Psycopg: 3.2, MySQL Connector/Python: 9.3, Kubeflow-Training: 1.9
Jupyter | Minimal | CPU | Python 3.12 2025.2 Python 3.12, JupyterLab: 4.4
2025.1 Python 3.11, JupyterLab: 4.4
Jupyter | TrustyAI | CPU | Python 3.12 2025.2 Python 3.12, JupyterLab: 4.4, TrustyAI: 0.6, Transformers: 4.56, Datasets: 4.0, Accelerate: 1.10, Torch: 2.7, Boto3: 1.40, Kafka-Python-ng: 2.2, Kfp: 2.14, Matplotlib: 3.10, NumPy: 1.26, Pandas: 1.5, Scikit-learn: 1.7, Scipy: 1.16, Odh-Elyra: 4.2, PyMongo: 4.14, Pyodbc: 5.2, Sklearn-onnx: 1.19, Psycopg: 3.2, Kubeflow-Training: 1.9
Jupyter | TrustyAI | Minimal | CPU | Python 3.12 2025.2 IPython: 9.8.0, ipykernel: 7.1.0, ipywidgets: 8.1.2, jupyter_client: 8.7.0, jupyter_core: 5.9.1, jupyter_server: 2.17.0, jupyterlab: 4.4.9, nbclient: 0.10.2, nbconvert: 7.16.6, nbformat: 5.10.4, notebook: not installed, qtconsole: not installed, traitlets: 5.14.3

IBM Z에서 지원되는 노트북

이미지 이름 이미지 버전 사전 설치된 패키지
Code Server | Data Science | CPU | Python 3.12 2025.2 (권장) code-server 1.104, Python 3.12, Boto3: 1.40, Kafka-Python-ng: 2.2, NumPy: 2.3, Pandas: 2.3, Scikit-learn: 1.7, Scipy: 1.16, ipykernel: 6.30
Jupyter | Data Science | CPU | Python 3.12 2025.2 (권장) Python 3.12, JupyterLab: 4.4, Boto3: 1.40, Kafka-Python-ng: 2.2, Kfp: 2.14, Matplotlib: 3.10, NumPy: 2.3, Pandas: 2.3, Scikit-learn: 1.7, Scipy: 1.16, PyMongo: 4.14, Pyodbc: 5.2, Sklearn-onnx: 1.19, Psycopg: 3.2, MySQL Connector/Python: 9.3
Jupyter | Minimal | CPU | Python 3.12 2025.2 (권장) Python 3.12, JupyterLab: 4.4
2024.2 Python 3.11, JupyterLab: 4.4
Jupyter | TrustyAI | CPU | Python 3.12 2025.2 (권장) Python 3.12, JupyterLab: 4.4, TrustyAI: 0.6, Transformers: 4.56, Datasets: 4.0, Accelerate: 1.10, PyArrow 20.0, Torch: 2.7, Boto3: 1.40, Kafka-Python-ng: 2.2, Kfp: 2.14, Matplotlib: 3.10, NumPy: 1.26, Pandas: 1.5, Scikit-learn: 1.7, Scipy: 1.16, PyMongo: 4.14, Pyodbc: 5.2, Psycopg: 3.2

지원되는 모델 서빙 런타임

런타임 이름 설명 내보낸 모델 형식
vLLM Spyre AI Accelerator ServingRuntime for KServe 높은 처리량과 메모리 효율성을 갖춘 추론 및 서비스 런타임으로, x86 기반 IBM Spyre AI 가속기를 지원합니다. 지원되는 모델
Caikit Text Generation Inference Server (Caikit-TGIS) ServingRuntime for KServe (1) Caikit 형식의 모델을 제공하기 위한 복합 런타임 Caikit Text Generation
Caikit Standalone ServingRuntime for KServe (2) Caikit 임베딩 형식의 모델을 임베딩 작업에 제공하기 위한 런타임입니다. Caikit Embeddings
OpenVINO Model Server 인텔 아키텍처에 최적화된 모델을 제공하기 위한 확장 가능하고 고성능의 런타임입니다. PyTorch, TensorFlow, OpenVINO IR, PaddlePaddle, MXNet, Caffe, Kaldi
[사용 중단됨] Text Generation Inference Server (TGIS) Standalone ServingRuntime for KServe (3) TGI 지원 모델을 제공하기 위한 런타임 PyTorch Model Formats
vLLM NVIDIA GPU ServingRuntime for KServe NVIDIA GPU 가속기를 지원하는 대규모 언어 모델을 위한 고처리량 및 메모리 효율적인 추론 및 서비스 런타임입니다. 지원되는 모델
vLLM Intel Gaudi Accelerator ServingRuntime for KServe Intel Gaudi 가속기를 지원하는 고처리량 및 메모리 효율적인 추론 및 서비스 런타임 지원되는 모델
vLLM AMD GPU ServingRuntime for KServe AMD GPU 가속기를 지원하는 고처리량 및 메모리 효율적인 추론 및 서비스 런타임 지원되는 모델
vLLM CPU ServingRuntime for KServe IBM Power(ppc64le) 및 IBM Z(s390x)를 지원하는 고처리량 및 메모리 효율적인 추론 및 서비스 런타임 지원되는 모델
vLLM Spyre s390x ServingRuntime for KServe IBM Spyre 가속기를 s390x(IBM Z)에서 지원하는 고처리량 및 메모리 효율적인 추론 및 서비스 런타임 지원되는 모델
vLLM Spyre ppc64le ServingRuntime for KServe IBM Spyre 가속기를 ppc64le(IBM Power)에서 지원하는 고처리량 및 메모리 효율적인 추론 및 서비스 런타임 지원되는 모델
MLServer ServingRuntime for KServe 머신러닝 모델 배포를 간소화하도록 설계된 런타임 Scikit-Learn(sklearn), XGBoost, LightGBM, ONNX

(1) 복합 Caikit-TGIS 런타임은 Caikit 및 텍스트 생성 추론 서버(TGIS)를 기반으로 합니다. 이 런타임을 사용하려면 모델을 Caikit 형식으로 변환해야 합니다. 예를 들어, caikit-tgis-serving 저장소의 Hugging Face Hub 모델을 Caikit 형식으로 변환하기를 참조하세요.

(2) Caikit Standalone 런타임은 Caikit NLP를 기반으로 합니다. 이 런타임을 사용하려면 모델을 Caikit 임베딩 형식으로 변환해야 합니다. 예를 들어 텍스트 삽입 모듈 테스트를 참조하세요.

(3) KServe용 Text Generation Inference Server (TGIS) Standalone ServingRuntime은 더 이상 사용되지 않습니다. 자세한 내용은 Red Hat OpenShift AI 릴리스 노트를 참조하세요.

지원되는 모델 서빙 런타임에 대한 배포 요구 사항

런타임 이름 기본 프로토콜 추가 프로토콜 단일 노드 OpenShift 지원 배포 모드
vLLM Spyre AI Accelerator ServingRuntime for KServe REST 제공되지 않음 제공됨 Raw
Caikit Text Generation Inference Server (Caikit-TGIS) ServingRuntime for KServe REST gRPC 제공됨 Raw
Caikit Standalone ServingRuntime for KServe REST gRPC 제공됨 Raw
OpenVINO Model Server REST 제공되지 않음 제공됨 Raw
[사용 중단됨] Text Generation Inference Server (TGIS) Standalone ServingRuntime for KServe gRPC 제공되지 않음 제공됨 Raw
vLLM NVIDIA GPU ServingRuntime for KServe REST 제공되지 않음 제공됨 Raw
vLLM Intel Gaudi Accelerator ServingRuntime for KServe REST 제공되지 않음 제공됨 Raw
vLLM AMD GPU ServingRuntime for KServe REST 제공되지 않음 제공됨 Raw
vLLM CPU ServingRuntime for KServe (1) REST 제공되지 않음 제공됨 Raw
MLServer ServingRuntime for KServe REST 제공되지 않음 제공됨 Raw

(1) KServe용 vLLM CPU ServingRuntime의 경우 IBM Z 및 IBM Power 아키텍처를 사용하는 경우 표준 배포 모드에서만 모델을 배포할 수 있습니다.

테스트 및 검증된 모델 서빙 런타임

이름 설명 내보낸 모델 형식
NVIDIA Triton Inference Server 애플리케이션에서 빠르고 확장 가능한 AI를 위한 오픈 소스 추론 서비스 소프트웨어입니다. TensorRT, TensorFlow, PyTorch, ONNX, OpenVINO, Python, RAPIDS FIL 등.
IBM Power accelerated Triton Inference Server 애플리케이션에서 빠르고 확장 가능한 AI를 위한 오픈 소스 추론 서비스 소프트웨어입니다. PyTorch, ONNX, Python, ML
IBM Z Accelerated for NVIDIA Triton Inference Server 모델 배포 및 실행을 표준화하여 간소화되고 고성능의 추론을 대규모로 제공하는 오픈 소스 AI 추론 서버입니다. ONNX-MLIR, Snap ML(C++), PyTorch.

테스트 및 검증을 거친 모델 서빙 런타임의 배포 요구 사항

이름 기본 프로토콜 추가 프로토콜 단일 노드 OpenShift 지원 배포 모드
NVIDIA Triton Inference Server gRPC REST 제공됨 표준(원시)
IBM Power accelerated Triton Inference Server REST 제공되지 않음 제공됨 표준(원시)
IBM Z Accelerated for NVIDIA Triton Inference Server gRPC REST 제공됨 표준(원시)

학습 이미지

OpenShift AI에서 분산 학습 작업을 실행하려면 다음 유형의 학습 이미지 중 하나를 사용할 수 있습니다.

  • Ray 기반 학습 이미지 — Ray를 사용한 분산 학습을 위해 특별히 제작되고 테스트 및 검증된 이미지입니다. 아래 표를 참조하십시오.
  • Kubeflow Training Operator(KFTO)를 사용한 워크벤치 이미지 — 지원되는 워크벤치 이미지 섹션에 나열된 것과 동일한 x86_64 워크벤치 이미지를 Kubeflow Training Operator를 사용한 분산 학습 작업의 기본 이미지로도 사용할 수 있습니다. 제품 설명서에 나와 있는 대로 추가 패키지를 설치하여 사용자 지정 학습 이미지를 생성할 수 있습니다.

Ray 기반 학습 이미지

다음 표는 Red Hat OpenShift AI에서 사용 가능한 최신 Ray 기반 학습 이미지에 대한 정보를 제공합니다. 이 이미지들은 AMD64용 이미지이므로 다른 아키텍처에서는 작동하지 않을 수 있습니다.

제공된 이미지를 기본 이미지로 사용하고, 제품 설명서에 설명된 대로 추가 패키지를 설치하여 사용자 지정 이미지를 만들 수 있습니다. 사용하려는 교육 이미지에 필요한 패키지가 포함되어 있지 않은 경우, Red Hat 지원팀에 문의하여 해당 패키지를 포함시켜 줄 것을 요청하십시오. 해당 이미지는 테스트 및 검증을 거쳤지만 아직 공식적으로 지원되지는 않습니다.

이미지는 설치된 패키지의 새 버전으로 주기적으로 업데이트됩니다. 이 이미지들은 해당 제품 설명서에 명시된 사용 사례 및 구성에 대해 테스트 및 검증을 거쳤습니다. 버그 수정 및 CVE 수정 사항은 상위 패키지에서 사용 가능해진 후에만 이러한 이미지의 최신 버전에 배포되며, 이전 이미지 버전으로는 백포트되지 않습니다.

이미지 유형 RHOAI 버전 이미지 버전 URL 사전 설치된 패키지
CUDA 3.3 2.52.1-py312-cu128 quay.io/modh/ray:2.52.1-py312-cu128 Ray 2.52.1, CUDA 12.8, Python 3.12
3.4 2.53.0-py312-cu128 quay.io/modh/ray:2.53.0-py312-cu128 Ray 2.53.0, CUDA 12.8, Python 3.12
Ray ROCm 3.3 2.52.1-py312-rocm62 quay.io/modh/ray:2.52.1-py312-rocm62 Ray 2.52.1, ROCm 6.2, Python 3.12
3.4 2.53.0-py312-rocm64 quay.io/modh/ray:2.53.0-py312-rocm64 Ray 2.53.0, ROCm 6.4, Python 3.12

Kubeflow Trainer v2 ClusterTrainingRuntimes

다음 표는 Kubeflow Trainer v2와 함께 사용할 수 있도록 RHOAI 3.4에 사전 설치된 ClusterTrainingRuntimes 목록입니다.TrainJob API). 이러한 런타임 환경은 분산 PyTorch 학습 작업을 위한 바로 사용할 수 있는 템플릿을 제공합니다.

런타임 이름 프레임워크 기본 이미지 가속기(Accelerator) 사전 설치된 패키지
training-hub training-hub quay.io/opendatahub/odh-th06-cuda130-torch210-py312:odh-3.4 CUDA Python 3.12, PyTorch: 2.10.0, Transformers: 4.57.6, Datasets: 4.3.0, Accelerate: 1.12.0, PEFT: 0.18.1, TRL: 0.24.0, DeepSpeed: 0.18.9, Unsloth: 2026.3.3, Flash Attention: 2.8.3, MLflow: 3.10.1, Kubeflow SDK: 0.3.0, NumPy: 2.4.4, Pandas: 2.3.3, scikit-learn: 1.8.0
training-hub-cpu training-hub quay.io/opendatahub/odh-th06-cpu-torch210-py312:odh-3.4 CPU Python 3.12, PyTorch: 2.10.0, Transformers: 4.57.6, Datasets: 4.3.0, Accelerate: 1.12.0, PEFT: 0.18.1, TRL: 0.24.0, MLflow: 3.10.1, Kubeflow SDK: 0.3.0, NumPy: 2.4.4, Pandas: 2.3.3, scikit-learn: 1.8.0
training-hub-rocm training-hub quay.io/opendatahub/odh-th06-rocm64-torch291-py312:odh-3.4 ROCm Python 3.12, PyTorch: 2.9.1, Transformers: 4.57.6, Datasets: 4.3.0, Accelerate: 1.12.0, PEFT: 0.18.1, TRL: 0.24.0, DeepSpeed: 0.18.9, Unsloth: 2026.3.3, Flash Attention: 2.8.3, MLflow: 3.10.1, Kubeflow SDK: 0.3.0, NumPy: 2.4.4, Pandas: 2.3.3, scikit-learn: 1.8.0
torch-distributed torch quay.io/opendatahub/odh-th06-cuda130-torch210-py312:odh-3.4 CUDA Python 3.12, PyTorch: 2.10.0, Transformers: 4.57.6, Datasets: 4.3.0, Accelerate: 1.12.0, PEFT: 0.18.1, TRL: 0.24.0, DeepSpeed: 0.18.9, Unsloth: 2026.3.3, Flash Attention: 2.8.3, MLflow: 3.10.1, Kubeflow SDK: 0.3.0, NumPy: 2.4.4, Pandas: 2.3.3, scikit-learn: 1.8.0
torch-distributed-cpu torch quay.io/opendatahub/odh-th06-cpu-torch210-py312:odh-3.4 CPU Python 3.12, PyTorch: 2.10.0, Transformers: 4.57.6, Datasets: 4.3.0, Accelerate: 1.12.0, PEFT: 0.18.1, TRL: 0.24.0, MLflow: 3.10.1, Kubeflow SDK: 0.3.0, NumPy: 2.4.4, Pandas: 2.3.3, scikit-learn: 1.8.0
torch-distributed-rocm torch quay.io/opendatahub/odh-th06-rocm64-torch291-py312:odh-3.4 ROCm Python 3.12, PyTorch: 2.9.1, Transformers: 4.57.6, Datasets: 4.3.0, Accelerate: 1.12.0, PEFT: 0.18.1, TRL: 0.24.0, DeepSpeed: 0.18.9, Unsloth: 2026.3.3, Flash Attention: 2.8.3, MLflow: 3.10.1, Kubeflow SDK: 0.3.0, NumPy: 2.4.4, Pandas: 2.3.3, scikit-learn: 1.8.0

Comments