Red Hat OpenShift AI Cloud Service 소개

Red Hat OpenShift AI Cloud Service 1

초록

Red Hat OpenShift AI는 데이터 과학자와 인공 지능 및 머신러닝 애플리케이션의 개발자를 위한 플랫폼입니다.

1장. OpenShift AI 개요

사용자는 Red Hat OpenShift AI를 사용하여 데이터, 인텔리전스 및 머신러닝 소프트웨어를 통합하여 엔드 투 엔드 머신러닝 워크플로를 실행할 수 있습니다. OpenShift AI는 다음 두 가지 구성에서 지원됩니다.

  1. Red Hat OpenShift Dedicated 및 Red Hat OpenShift Service on Amazon Web Services(ROSA)와 같은 Red Hat 관리 환경에 애드온으로 설치됩니다.
  2. Red Hat OpenShift Container Platform과 같은 자체 관리 환경에 자체 관리 Operator로 설치됩니다.

데이터 과학자의 경우 OpenShift AI에는 ovirtpyter와 모델 개발에 필요한 툴 및 라이브러리, TensorFlow 및 PyTorch 프레임워크에 최적화된 기본 노트북 이미지 컬렉션이 포함되어 있습니다. 모델을 배포 및 호스팅하고, 모델을 외부 애플리케이션에 통합하고, 모델을 내보내 모든 하이브리드 클라우드 환경에서 호스팅할 수 있습니다. 또한 그래픽 처리 장치(GPU) 및 Habana Gaudi 장치를 사용하여 데이터 사이언스 실험을 가속화할 수도 있습니다.

관리자의 경우 OpenShift AI를 사용하면 기존 Red Hat OpenShift 또는 ROSA 환경의 데이터 정보 워크로드가 활성화됩니다. 기존 OpenShift ID 공급자로 사용자를 관리하고, 노트북 서버에 사용할 수 있는 리소스를 관리하여 데이터 과학자가 데이터 과학자에게 필요한 것을 생성, 교육 및 호스트 모델을 확보할 수 있도록 합니다.

OpenShift AI는 다음 두 가지 배포판을 제공합니다.

  • Red Hat OpenShift Dedicated(AWS 또는 GCP용 고객 클라우드 서브스크립션 포함) 또는 Amazon Web Services(ROSA)에서 Red Hat OpenShift Service의 관리형 클라우드 서비스 애드온 입니다.

    Red Hat 관리 환경의 OpenShift AI에 대한 자세한 내용은 Red Hat OpenShift AI 제품 문서를 참조하십시오.

  • OpenShift Container Platform과 같은 자체 관리 환경에서 온프레미스 또는 퍼블릭 클라우드에 설치할 수 있는 자체 관리 소프트웨어입니다.

    연결되거나 연결이 끊긴 환경에서 OpenShift 클러스터에서 자체 관리 소프트웨어로 OpenShift AI에 대한 자세한 내용은 Red Hat OpenShift AI Self-Managed 제품 설명서 를 참조하십시오.

OpenShift AI 지원 소프트웨어 플랫폼, 구성 요소 및 종속 항목에 대한 자세한 내용은 지원되는 구성을 참조하십시오.

2장. 제품 기능

Red Hat OpenShift AI는 데이터 과학자 및 IT 운영 관리자를 위한 여러 기능을 제공합니다.

2.1. 데이터 과학자의 기능

컨테이너
sendpyterLab과 같은 툴은 데이터 과학자가 자체 시스템에서 모델을 개발할 수 있는 직관적인 방법을 제공하지만, 항상 협업 및 공유 작업과 관련된 복잡성이 있습니다. 또한 강력한 GPU와 같은 특수 하드웨어를 사용하는 것은 직접 구매하고 유지해야 할 때 매우 비용이 많이 듭니다. OpenShift AI에 포함된 NMStatepyter 환경을 사용하면 필요한 모든 곳에서 개발 환경을 구축할 수 있습니다. 모든 워크로드는 컨테이너로 실행되므로 팀 구성원과 이미지를 공유하거나 사용할 수 있는 기본 컨테이너 목록에 간단하게 이미지를 추가할 수 있습니다. 따라서 랩탑에서 지원할 수 있는 내용에 더 이상 제한되지 않으므로 GPU 및 대용량 메모리에 훨씬 더 액세스할 수 있습니다.
타사 머신러닝 툴과의 통합
우리는 모두 선호하는 도구 또는 서비스가 서로 잘 작동하지 않는 상황에 직면해 있습니다. OpenShift AI는 유연성을 염두에 두고 설계되었습니다. OpenShift AI에서 다양한 오픈 소스 및 타사 툴을 사용할 수 있습니다. 이러한 툴은 데이터 엔지니어링 및 기능 추출부터 모델 배포 및 관리에 이르기까지 완전한 머신 러닝 라이프사이클을 지원합니다.
Git을 사용한 노트북 공동 작업
sendpyter의 Git 인터페이스를 사용하여 다른 사용자와 공동으로 작업하고 코드 변경 사항을 잘 추적할 수 있습니다.
안전하게 빌드된 노트북 이미지
모델 개발에 필요한 툴 및 라이브러리를 사용하여 사전 구성된 기본 노트북 이미지 세트 중에서 선택합니다. 소프트웨어 스택, 특히 머신 러닝에 관련된 것은 복잡한 시스템인 경향이 있습니다. Python 에코시스템에는 다양한 모듈과 라이브러리가 있으므로 어떤 라이브러리를 사용할지 결정하는 것이 매우 어려울 수 있습니다. OpenShift AI에는 데이터 과학자 및 권장 사항 엔진의 인사이트를 통해 구축된 많은 패키지 노트북 이미지가 포함되어 있습니다. 임의의 업스트림 리포지토리에서 검증되지 않은 이미지를 다운로드하지 않고 오른쪽에서 새 프로젝트를 빠르게 시작할 수 있습니다.
사용자 정의 노트북
Red Hat 및 ISV(독립 소프트웨어 벤더)에서 제공하고 지원하는 노트북 이미지 외에도 프로젝트의 특정 요구 사항을 충족하는 사용자 정의 노트북 이미지를 구성할 수 있습니다.
데이터 과학 파이프라인
OpenShift AI는 데이터 사이언스 워크로드를 실행할 수 있는 완성도 있고 효율적인 방식으로 데이터 사이언스 파이프라인을 지원합니다. 데이터 사이언스 모델을 개발하고 배포할 수 있는 머신러닝 워크플로를 표준화하고 자동화할 수 있습니다.
모델 서비스
데이터 생성으로 숙련된 머신-러닝 모델을 배포하여 지능형 애플리케이션을 프로덕션 환경에서 제공할 수 있습니다. 모델을 배포하거나 제공하면 모델의 기능을 애플리케이션 테스트 또는 통합에 사용할 수 있는 서비스 엔드포인트로 사용할 수 있습니다. 이 서비스가 수행되는 방법에 대한 많은 제어 권한이 있습니다.
가속기를 사용하여 데이터 사이언스 모델 최적화
대규모 데이터 세트로 작업하는 경우 NVIDIA 그래픽 처리 장치(GPU) 또는 Habana Gaudi 장치를 사용하여 OpenShift AI에서 데이터 사이언스 모델의 성능을 최적화할 수 있습니다. 액셀러레이터를 사용하면 작업을 확장하고 대기 시간을 줄이며 생산성을 높일 수 있습니다.

2.2. IT 운영 관리자를 위한 기능

ID 공급자를 사용하여 사용자 관리
OpenShift AI는 OpenShift 클러스터와 동일한 인증 시스템을 지원합니다. 기본적으로 OpenShift AI는 ID 공급자에 나열된 모든 사용자가 액세스할 수 있으며 해당 사용자에게는 OpenShift AI에 액세스하기 위해 별도의 인증 정보 세트가 필요하지 않습니다. 선택적으로 사용자의 하위 집합을 지정하는 OpenShift 그룹을 생성하여 액세스 권한이 있는 사용자 세트를 제한할 수 있습니다. OpenShift AI에 대한 관리자 액세스 권한이 있는 사용자 목록을 식별하는 OpenShift 그룹을 생성할 수도 있습니다.
OpenShift를 사용하여 리소스 관리
기존 OpenShift 지식을 사용하여 OpenShift AI 사용자에 대한 리소스를 구성하고 관리합니다.
Red Hat 사용 데이터 수집 제어
Red Hat이 클러스터에서 OpenShift AI 사용량에 대한 데이터를 수집할 수 있도록 허용할지 여부를 선택합니다. OpenShift 클러스터에 OpenShift AI를 설치할 때 사용량 데이터 수집은 기본적으로 활성화됩니다.
사용량 비용을 줄이기 위해 클러스터에 자동 스케일링 적용
클러스터 자동 스케일러를 사용하여 현재 요구 사항에 맞게 클러스터 크기를 조정하고 비용을 최적화합니다.
유휴 노트북을 중지하여 리소스 사용량 관리
일정 기간 유휴 상태인 노트북 서버를 자동으로 중지하여 OpenShift AI 배포의 리소스 사용량을 줄입니다.
model-serving 런타임 구현
OpenShift AI는 모델 제공 런타임을 지원합니다. 모델 서비스 런타임은 지정된 모델 서버 및 이를 지원하는 모델 프레임워크와 통합을 제공합니다. 기본적으로 OpenShift AI에는 OpenVINO 모델 서버 런타임이 포함됩니다. 그러나 이 런타임이 요구 사항을 충족하지 않는 경우(예: 특정 모델 프레임워크를 지원하지 않는 경우) 고유한 사용자 지정 런타임을 추가할 수 있습니다.
연결이 끊긴 환경에 설치
OpenShift AI Self-Managed는 연결이 끊긴 환경에서 설치를 지원합니다. 연결이 끊긴 클러스터는 일반적으로 방화벽 뒤에 있으며 인터넷에 연결할 수 없는 제한된 네트워크에 있습니다. 이 경우 클러스터는 Red Hat에서 제공하는 OperatorHub 소스가 있는 원격 레지스트리에 액세스할 수 없습니다. 이 경우 관련 이미지를 미러링(복사)한 프라이빗 레지스트리를 사용하여 연결이 끊긴 환경에 OpenShift Data Science Operator를 배포합니다.
가속기 관리
OpenShift AI에서 NVIDIA 그래픽 처리 장치(GPU) 또는 Habana Gaudi 장치를 활성화하고 데이터 과학자가 컴퓨팅 집약적인 워크로드를 사용할 수 있도록 합니다.

3장. 사용해 보기

데이터 과학자와 개발자는 OpenShift AI를 시도하고 Red Hat Developer sandbox 환경에서 튜토리얼 및 활동에 액세스할 수 있습니다.

IT 운영 관리자는 60일 제품 평가판으로 자체 클러스터에서 OpenShift AI를 시도할 수 있습니다.

4장. 가져오기

관리형 클라우드 서비스

관리형 서비스로 OpenShift AI에 가입하는 데 필요한 다음과 같은 옵션이 있습니다.

  • OpenShift Dedicated의 경우 Red Hat을 구독하십시오.
  • ROSA(Amazon Web Services)의 Red Hat OpenShift Service의 경우 Red Hat을 구독하거나 AWS Marketplace를 통해 구독하십시오.
자체 관리 소프트웨어
Red Hat OpenShift AI를 자체 관리 소프트웨어로 가져오려면 Red Hat 계정 팀에 등록합니다.

법적 공지

Copyright © 2023 Red Hat, Inc.
The text of and illustrations in this document are licensed by Red Hat under a Creative Commons Attribution–Share Alike 3.0 Unported license ("CC-BY-SA"). An explanation of CC-BY-SA is available at http://creativecommons.org/licenses/by-sa/3.0/. In accordance with CC-BY-SA, if you distribute this document or an adaptation of it, you must provide the URL for the original version.
Red Hat, as the licensor of this document, waives the right to enforce, and agrees not to assert, Section 4d of CC-BY-SA to the fullest extent permitted by applicable law.
Red Hat, Red Hat Enterprise Linux, the Shadowman logo, the Red Hat logo, JBoss, OpenShift, Fedora, the Infinity logo, and RHCE are trademarks of Red Hat, Inc., registered in the United States and other countries.
Linux® is the registered trademark of Linus Torvalds in the United States and other countries.
Java® is a registered trademark of Oracle and/or its affiliates.
XFS® is a trademark of Silicon Graphics International Corp. or its subsidiaries in the United States and/or other countries.
MySQL® is a registered trademark of MySQL AB in the United States, the European Union and other countries.
Node.js® is an official trademark of Joyent. Red Hat is not formally related to or endorsed by the official Joyent Node.js open source or commercial project.
The OpenStack® Word Mark and OpenStack logo are either registered trademarks/service marks or trademarks/service marks of the OpenStack Foundation, in the United States and other countries and are used with the OpenStack Foundation's permission. We are not affiliated with, endorsed or sponsored by the OpenStack Foundation, or the OpenStack community.
All other trademarks are the property of their respective owners.