I/ONX, 호스트 택스를 타파하다… 새로운 심포니 식스티포 아키텍처가 AI 추론 및 파인튜닝 수명주기에서 50% TCO 절감 달성
uapple 기자
등록 2026-04-24 12:21
레거시 설계의 인프라 오버헤드를 제거한 I/ONX가 확장된 AI 추론 및 파인튜닝 스택 공개
랙당 최대 30kW 전력 절감 및 랙 규모 배치비용 최대 70% 절감
이기종 AI 시스템의 선도적 공급업체인 I/ONX 하이 퍼포먼스 컴퓨트(I/ONX High Performance Compute, HPC)가 AI 추론 및 파인 튜닝 인프라의 물리적, 경제적 공간을 획기적으로 줄이도록 설계된 고밀도 플랫폼인 ‘심포니 식스티포(Symphony SixtyFour)’의 글로벌 출시를 발표했다. 단일 노드에서 최대 64개의 가속기를 지원함으로써 I/ONX는 엔터프라이즈 AI의 ROI에 부정적 영향을 미치는 전력, 하드웨어 및 라이선싱의 막대한 간접비인 중복된 호스트 택스(Host Tax)를 제거한다.
현재 추론이 엔터프라이즈 AI 워크로드의 90%를 차지하고 있지만, 기업들은 전적으로 트레이닝 하드웨어 플랫폼에서 추론을 운영하도록 제한되어 있다. 심포니 식스티포는 추론 및 파인 튜닝 워크로드를 위한 자본 지출(CapEx) 및 운영 비용(OpEx) 절감 측면에서 상당한 이점을 제공한다. 트레이닝 비교에서 I/ONX 시스템은 멀티 노드 클러스터에서 중복된 CPU, 메모리 및 지원 하드웨어에 일반적으로 낭비되는 30kW의 호스트 택스를 회수하고, 지속적인 지원 작업을 단순화한다. 대체 가속기에서 프로덕션 규모 추론의 경우 이 플랫폼은 훨씬 더 혁신적인데, 기존 64개 장치 클러스터 대비 4분의 1의 전력만 끌어가며 추론 전용의 경우 액체 냉각 필요성을 완전히 제거한다.
I/ONX의 CEO인 저스틴 호너(Justyn Hornor)는 “엔터프라이즈 AI 인프라는 새로운 성숙 단계에 접어들고 있다”라며 “과거의 트레이닝 중심 설계는 실험 단계에서 우리에게 유용했지만, 오늘날 우리가 살고 있는 전력 제약이 심하고 프로덕션 중심의 세계에 최적화되지는 않았다. 심포니 식스티포를 통해 우리는 스택을 더 유연하고 목적에 맞게 재구상하여 조직이 대규모 추론을 마스터하는 동시에 ROI를 저해해온 불필요한 인프라 낭비를 최종적으로 제거할 수 있게 했다”라고 말했다.
심포니 식스티포의 장점: 목적에 맞는 실리콘
이 플랫폼은 엔터프라이즈 AI를 위해 모든 와트와 달러를 최대화하도록 설계되었다.
· 트레이닝 호스트 택스 제거: 대규모 추론 및 파인 튜닝을 위해 심포니 식스티포는 인프라 스택을 8개 노드에서 1개로 축소한다. 이러한 통합은 최대 30kW의 낭비되는 지원 전력을 제거하여 기존 전력 용량 내에서 더 높은 컴퓨팅 밀도를 가능하게 한다.
· 제로-홉(Zero-Hop), 거의 결정적인 성능: 단일 OS 인스턴스 내에 64개의 가속기를 탑재함으로써 심포니 식스티포는 동-서(East-West) 네트워크 지연 시간을 제거한다.
· 이기종 유연성: 심포니 식스티포는 완전히 벤더 중립적이며 혼합 모드 운영을 위해 설계되었다. 기업은 고급 GPU(AMD/NVIDIA 포함)를 보다 목적 지향적인 저전력 코프로세서와 원활하게 결합하고, 전용 추론 실리콘(Axelera/FuriosaAI/Tenstorrent)을 계층화하여 변화하는 시장 동태에 대비한 미래 대비형 인프라를 구축할 수 있다.
· 호스트 택스 단순화를 통한 운용 비용 절감: 하드웨어와 전력 외에도 심포니 식스티포는 막대한 운영상의 부담완화를 제공한다. 단일 관리 환경을 통해 64개 장치단을 제공함으로써 I/ONX는 소프트웨어 택스를 제거하여 엔터프라이즈 운영 체제 및 오케스트레이션 라이선싱 비용을 클러스터당 연간 최대 50만달러 절감한다.
I/ONX는 추론 및 대규모 파인 튜닝을 위해 특별히 설계된 시스템으로의 엔터프라이즈 전환을 가속화한다. 심포니 식스티포는 지금 바로 사용 가능하며, 조직이 중요한 전력 용량을 회수하고 비용을 절감할 수 있도록 지원한다. I/ONX는 프로덕션 AI의 경제적 및 운영적 잠재력을 극대화하는 데 필요한 고밀도 인프라를 제공하기 위해 최선을 다하고 있다.
uapple
기자
여기에 광고하세요!!
여기에 광고하세요!!
여기에 광고하세요!!
여기에 광고하세요!!
여기에 광고하세요!!
여기에 광고하세요!!
여기에 광고하세요!!
여기에 광고하세요!!
피플스토리 uapple © PEOPLE STORY All rights reserved.
피플스토리 uapple의 모든 콘텐츠(기사 등)는 저작권법의 보호를 받은바, 무단 전재, 복사, 배포 등을 금합니다.
RSS