개발 IT 게시판

많은 기업들이 AI를 도입하면서 인프라가 이를 따라잡지 못하는 문제에 직면합니다. 클라우드에서 AI를 실행하는 것도 하나의 방법이지만, 개인정보 보호 문제와 예측 불가능한 비용 발생 가능성이 있습니다. 온프레미스 인프라를 업그레이드하는 것 역시 하나의 선택지이지만, 대규모 GPU 가속기 플랫폼을 지원하려면 데이터센터의 전력 및 냉각 시스템을 대규모로 재설계해야 하므로 상당한 비용이 소요될 수 있습니다.

AMD Instinct™ MI350 PCIe® 카드   는 기업에 세 번째 옵션을 제공합니다. 바로 기존에 보유하고 있는 데이터 센터 인프라에 맞춰 설계된 최고의 AI 성능입니다.

기존 랙에 바로 설치 가능한 고성능 솔루션

AMD Instinct MI350P PCIe 카드는 에이전트 기반 AI 시대를 대비할 수 있도록 설계된 표준 공랭식 서버에 바로 장착 가능한 듀얼 슬롯 카드입니다. 기존 데이터 센터의 전력, 냉각 및 랙 인프라 내에서 추론 환경을 구축할 수 있도록 설계되었습니다. 비용 효율적인 PCIe 카드 형태의 AMD Instinct GPU는 AMD AI 컴퓨팅 포트폴리오를 완성하며, 기업의 고유한 AI 도입 곡선에 맞춰 다양한 옵션을 제공합니다.

PCIe 카드 폼 팩터는 CPU가 제공할 수 있는 것보다 더 많은 AI 컴퓨팅 성능이 필요하지만 전용 GPU 가속기 플랫폼에 투자할 준비가 되지 않은 기업에 탁월한 선택입니다. 최대 8개의 가속기 카드를 지원하는 공랭식 시스템으로 제공되는 AMD Instinct MI350P PCIe 카드는 추론 및 RAG 파이프라인을 위한 소규모, 중규모 및 대규모 AI 모델에 이상적입니다.

AI 규모 확장에만 그치지 마세요. 투자 수익률(ROI)을 확장하세요.

AMD Instinct MI350P PCIe 카드는 탁월한 비용 효율성과 우수한 성능을 바탕으로 뛰어난 AI 성능을 제공하도록 설계되었습니다. 주요 기능은 성능 향상, 배포 간소화 및 비용 절감을 지원하여 평가 단계에서 실제 성과 단계로 빠르게 전환할 수 있도록 합니다.

• 정밀도가 낮은 MXFP6 및 MXFP4를 기본적으로 지원하여 높은 처리량을 제공합니다.
• 대부분의 주류 8비트 및 16비트 정밀도에 대한 희소성 지원을 통해 가속 기능을 제공합니다.
• MXFP4에서 약 2,299 테라플롭스(TFLOPS)의 예상 성능과 최대 4,600 TFLOPS의 피크 성능을 제공하며, 이는 현재 기업용 PCIe 카드에서 사용 가능한 최고 성능입니다.
• 최대 4TB/s의 속도로 작동하는 약 144GB의 고대역폭 메모리 3e(HBM3E)가 탑재될 것으로 예상됩니다.
• 저렴하거나 무료로 이용 가능한 개발 스택 옵션을 갖춘 개방형 생태계는 배포를 간소화하고 운영 비용을 절감하는 데 도움이 됩니다.

기업용 AI 소프트웨어 – 원하는 AI 스택으로 개발하세요. 지금 바로 원하는 방식으로 개발하세요.

AMD Instinct MI350P PCIe 카드는 플랫폼 간 상호 운용성을 위해 개방형 표준을 기반으로 설계되었습니다. 이번 제품 출시를 통해 완전한 개방형 AI 생태계를 구축하고 기업 환경에서 고객에게 다양한 선택권을 제공하는 전략을 더욱 강화할 수 있게 되었습니다.

AMD 엔터프라이즈 AI 스택은 광범위한 AI 소프트웨어 및 도구 생태계와 원활하게 통합되는 핵심 구성 요소입니다. 여기에는 전체 수명 주기 관리를 위한 Kubernetes GPU Operator, 클라우드 네이티브 AMD 추론 마이크로서비스, 그리고 PyTorch와 같은 AI 프레임워크에 대한 네이티브 지원이 포함됩니다. 이 모든 것을 통해 최소한의 코드 변경만으로 추론 워크로드를 마이그레이션할 수 있습니다.

당사는 파트너에게 오픈 소스 AMD 엔터프라이즈 AI 레퍼런스 스택을 라이선스 비용 없이 제공합니다. 이 스택은 코드 투명성을 높이고 운영 비용을 절감하는 데 도움이 됩니다. AMD Instinct MI350P PCIe 카드 및 파트너 제공 솔루션과 결합하면, 조직은 토큰당 지속적인 비용 청구 없이 온프레미스 환경에서 신속하게 AI 솔루션을 구축하고 운영할 수 있습니다.

엔터프라이즈 AI 정밀도 수준을 위한 네이티브 가속

AMD Instinct MI350P PCIe 카드는 기업용 AI 모델이 가장 많이 의존하는 다양한 정밀도 수준을 지원합니다.

정밀도가 낮은 MXFP6 및 MXFP4 포맷은 순수 TFLOPS 성능과 효율적인 모델 구현을 극대화하는 반면, 정밀도가 높은 INT8 및 BF16 포맷은 AMD Instinct MI350P GPU의 희소성 지원을 통해 효율적인 성능을 제공합니다. 정밀도와 관계없이, AMD Instinct MI350P PCIe 카드는 최대 GPU 처리량과 메모리 사용량 감소를 통해 전력 소비 및 냉각 요구 사항을 낮추도록 설계되었습니다.

FP8, MXFP8 및 MXFP4 지원은 AMD Instinct MI350P PCIe 카드가 표준 공랭식 데이터 센터에서 오늘날의 AI 워크로드를 처리할 수 있는 주요 이유 중 하나입니다.

지금 있는 곳에서 엔터프라이즈 AI를 배포하세요

AMD Instinct MI350P PCIe 카드를 사용하면 기업은 베어메탈 인프라에서 강력한 기반 위에 구축된 프로덕션급 AI 시스템으로 신속하게 전환할 수 있습니다. 이 카드를 통해 코드 재작성 없이 워크로드를 마이그레이션하고, 기존 AI 파이프라인과 통합하며, 진화하는 워크로드에 맞춰 확장할 수 있습니다.

AI를 도입한다고 해서 인프라를 처음부터 다시 구축해야 하는 것은 아닙니다. AMD Instinct MI350P PCIe 카드를 사용하면 기업은 기존 데이터 센터에서 더 많은 모델을 실행하고 더 많은 사용자에게 서비스를 제공할 수 있습니다.

더 자세한 내용을 알아보려면 AMD Instinct 웹페이지를 방문하세요