SKT와 람다는 오는 12월 서울시 금천구 가산동에 있는 기존 SK브로드밴드 데이터센터에 엔비디아 GPU ‘H100’을 배치한다.
SKT는 AI 시장 성장에 따라 국내 GPU 수요가 급등하는 것을 고려해 3년 안으로 GPU를 수천 대 이상까지 늘리고, 최신 GPU 모델인 ‘H200’도 조기 도입을 추진 중이다. 이를 통해 가산 데이터센터를 시작으로 엔비디아 단일 GPU로...
‘어센드 910C’ 이르면 10월 출시화웨이 “성능 엔비디아 H100 유사”
중국을 대표하는 정보통신기술(ICT) 기업인 화웨이가 미국의 제재에도 새로운 인공지능(AI) 칩을 곧 출시할 예정이라고 월스트리트저널(WSJ)이 13일(현지시간) 보도했다.
WSJ의 소식통에 따르면 화웨이는 최신 프로세서인 ‘어센드 910C’를 최근 몇 주 동안 테스트하고 있다.
화웨이는 잠재...
중국 최대 통신장비업체 화웨이가 현재까지 상용화된 인공지능(AI) 칩으로는 가장 최신 제품인 엔비디아의 H100 칩에 비견할 만한 칩을 출시할 예정이라는 소식이 이날 전해졌으나 엔비디아 주가는 위를 향했다.
저가 매수세가 유입된 것이 영향을 미친 것으로 풀이된다. 또 뱅크오브아메리카(BoA)가 전날 반도체 업종이 반등에 나설 때 최우 투자 종목으로...
전작인 H100과 H200에는 HBM3가 각각 4개, 6개 탑재됐는데 이보다 탑재량이 대폭 늘어난 것이다.
현재 HBM3E는 SK하이닉스와 마이크론이 납품하고 있다. HBM3는 그간 SK하이닉스만 사실상 독점 공급해왔다.
삼성전자가 AI 반도체 시장의 80%를 장악하고 있는 엔비디아에 HBM 납품을 본격화하면 현재 SK하이닉스가 주도하는 HBM 시장에도 큰 지각 변동이 생길 것으로...
현재 엔비디아 주력 제품인 H100에는 HBM3이 5개, H200에는 HBM3E가 6개 각각 탑재된다. B100에는 HBM3E 탑재량이 8개로 대폭 늘어난다.
아울러 6세대인 HBM4부터는 철저한 고객 맞춤형 제품으로 제작할 계획이다. SK하이닉스는 향후 메모리 산업이 다품종 소량생산 구조로 변화해 고객이 원하는 제품을 장기간 공급하는 주문형 산업으로 진화할 것으로 내다보고...
H20은 미국의 대중국 수출제한 강화 이후 엔비디아가 중국 시장을 겨냥해 만든 첨단 GPU 가운데 하나로, 중국 이외 시장에서 현재 판매되는 주력 제품인 H100보다는 연산 능력이 제한적이다.
소식통들은 삼성전자가 이르면 다음 달 엔비디아에 HBM3 납품을 시작할 수 있을 것으로 예상했다.
엔비디아가 다른 AI 프로세서에도 HBM3 칩을 사용할지, 아니면 그 전에...
중국 이외 시장에서 판매되는 H100보다는 연산 능력이 제한적이다.
엔비디아가 삼성전자의 HBM3를 다른 인공지능(AI) 프로세서에도 사용할지, 혹은 이를 위해 추가적인 테스트를 통과해야 하는지 등은 현재 명확하지 않다고 소식통들은 전했다. 또 이르면 다음 달 엔비디아에 HBM3 납품을 시작할 수 있을 것으로 내다봤다.
삼성전자 측은 HBM3 퀄테스트 통과 및...
엔비디아는 지난 3월 올해 말 대량 생산할 예정인 블랙웰 칩 시리즈를 공개했는데, 이를 기반으로 한 B200의 경우 이전 세대인 H100 대비 추론성능은 30배 이상인 반면, 비용과 에너지 소비는 25분의 1까지 낮췄다.
엔비디아가 중국 수출용 AI 칩을 개발한 것은 이번이 처음은 아니다. 2022년 10월 미 상무부가 중국을 상대로 한 미국 최첨단 반도체 수출 제재에...
현재 엔비디아 주력 제품인 H100에는 HBM3(4세대)가 5개, H200에는 HBM3E(5세대)가 6개 각각 탑재된다. 3분기 출시될 차세대 솔루션 B100에는 HBM3E 탑재량이 8개로 늘어난다.
SK하이닉스는 엔비디아에 HBM3 독점 공급에 HBM3E도 대량 납품하고 있다. 삼성전자 역시 HBM3E 12단 제품에 관해 퀄테스트(품질 검증)를 진행하고 있다. 업계에선 퀄테스트 결과 발표가 임박해 이르면 다음...
그러면서 “도쿄 일렉트론, ASML 등이 중국사업 축소 흐름을 보이지 않음에 따라 해외직접생산품규칙(FDPR)등 더욱 강력한 규제 정책을 고려 중이라 보도했다”며 “더해 디인포메이션은 마이크로소프트와 알파벳이 중국에 외부 데이터센터 클라우드를 제공하는 것은 규제 대상인 엔비디아 A100 과 H100 을 우회 수출하는 것이나 다름 없음을 지적하며 추가적 규제가...
하지만 엔비디아의 H100 등 최고급 GPU 내부 메모리 용량은 수십 GB에 불과해 AI 서비스용 시스템 구축을 위해서는 여러 대의 GPU가 요구돼 고비용 문제가 지적됐다.
CXL-GPU 기술은 CPU와 GPU, 저장장치를 CXL 인터페이스로 연결하고, 대용량 메모리를 GPU 내부에 직접 탑재함으로써 시스템 구축비용을 낮추고 높은 성능을 확보한 것이 특징이다. CXL-GPU 기술은 그동안...
특히 최신 엔비디아 H100 GPU(그래픽처리장치)를 무려 1000대 이상 도입했다. 이들 GPU의 연산 능력을 모두 합치면 99.5페타플롭스(PF·초당 1000조 회 연산처리)에 달한다. 차세대 AI 기술 개발을 위한 데이터와 컴퓨팅 파워를 확보하기 위한 네이버의 선제적 투자로 볼 수 있다.
그러나 소버린 AI 확보를 위한 노력은 이에 그쳐서는 안 된다. 글로벌 AI 투자 경쟁은...
‘초고성능컴퓨팅(HPC) 서비스 이용자 정기모집’의 일환으로 15일까지 모집‘H100 GPU’ 304장 기반 20PF 가속기, 22PB 스토리지 활용
NHN클라우드는 AICA가 추진하는 ‘초고성능컴퓨팅(High Performance Computing·HPC) 서비스 이용자 정기모집’의 일환으로 ‘국가 AI 데이터센터’ HPC 서비스 이용자를 15일까지 모집한다고 밝혔다.
이번 사업에...
H100, A100, V100 등 고객 니즈에 따라 맞춤형 서비스를 제공한다. AI 서브 NPU는 리벨리온과 협업한 추론 전용 인프라다. 기존 그래픽처리장치 기반 추론용 인프라 대비 가성비를 높이고, 자동화 유지 보수 및 스케일링 기능을 갖췄다.
이번 웨비나는 △‘KT클라우드 AI 인프라 소개’ △‘AI 트레인, AI 서브 NPU를 활용한 소형언어모델(sLLM)’ 2개 세션으로...
엔비디아는 H100, H200 등 AI에 최적화된 솔루션을 앞세워 전 세계적으로 폭증하는 데이터 수요에 대응하며 몸집을 키웠다. 현재 AI 시장에서 엔비디아의 점유율은 80%에 달한다. 엔비디아는 올해 하반기 블랙웰 B100, 내년 B200, 2026년 루빈 등 차세대 솔루션까지 미리 발표한 상황이다.
엔비디아의 AI 시장 지배력 강화는 메모리 기업 강국인 우리나라엔 호재다....
이어 “우리는 H100, H200, B100, B200 등 라인업을 가지고 있는데, 거기에 필요한 속도는 상당하기 때문에 HBM은 매우 중요하다”고 덧붙였다.
앞서 로이터통신은 지난달 말 복수의 익명 소식통을 인용해 삼성전자가 엔비디아에 HBM을 납품하기 위한 테스트를 아직 통과하지 못했다고 보도한 바 있다. 황 CEO가 공식적으로 이를 반박하며 삼성전자와의 협업이...
SK하이닉스는 엔비디아 GPU 제품인 H100에 4세대 HBM인 HBM3를 독점 공급할 뿐 아니라 2분기 출시할 예정인 GPU B100에도 5세대 HBM3E를 공급할 예정이다.
반면, 삼성전자는 엔비디아에 HBM 공급을 위해 노력 중이지만 아직 납품 성공 소식은 전하지 못하고 있다. 설상가상 지난달 24일 한 외신에서 삼성전자가 엔비디아의 HBM 품질테스트를 통과하지 못했다고...
기술 전문 뉴스 더인포메이션에 따르면 머스크 CEO는 엔비디아의 최신 칩 중 하나인 H100을 사용해 xAI의 슈퍼컴퓨터를 구축하는 것을 목표로 하고 있다.
캔터 피츠제럴드 CJ뮤즈 애널리스트는 인터뷰에서 xAI 소식에 대해 “AI 칩 지출이 지속될 것이라는 더 큰 자신감을 준다”며 “올해 엔비디아 칩 수요에 대한 에어포켓(수요 공백) 개념이 완전히 사라졌다”고...
현대차증권은 엔비디아 H100의 피크전력은 700W, 인텔, AMD의 기존 서버 프로세서 피크 전력 사용량 280W 대비 약 2.5배라고 분석했다. 그러면서 지난해 H100 출하량 150만 개, 올해 200만 개가 전망되는 가운데, 이들 중 50%가 동시 가동될 경우 피크 전력 부하는 약 2.5GW라고 전망했다.
현대차증권은 "AI 서버향 수요는 올해 말 6GW가 신규 창출된다"며...
생성형 AI 개발에서 선두를 달리는 메타의 마크 저커버그 최고경영자(CEO)는 최근 “대규모 인프라를 구축하고 있다”면서 “올해 안에 엔비디아의 고성능 GPU인 ‘H100’을 35만 개 구매할 계획”이라고 밝혔다.
반도체 바로 위 단계에서 AI 관련 서비스를 지원하는 클라우드 인프라 역시 미국이 시장을 주도하고 있다. 업계 3강으로 불리는 아마존과...