뉴스 검색 결과: AI chip

AI 칩셋에 대한 글로벌 투자 다시 증가세

비싼 GPU대신 효율적인 NPU·TPU에 집중

글로벌 빅테크들 협업 통해 자체 AI 칩 개발

엔비디아 GPU 대체할 AI칩 찾아라…투자나서는 기업들 이미지 확대보기 AI 칩에 대한 투자와 개발이 증가하는 추세다. 사진은 기사 내용과 관계없음. 사진=제미나이

글로벌 기업들이 인공지능(AI) 개발에 열을 올리고 있다. 이런 가운데 비싼 엔비디아의 그래픽 처리 장치(GPU)를 대체하기 위한 AI 칩을 확보하기 위해 스타트업에 대한 투자에 박차를 가하는 추세다. 또 투자를 너머 협업을 통해 자체 칩을 개발하면서 비용 효율화에 나서고 있다.20일 업계에 따르면 올해 AI칩 스타트업에 대한 투자가 증가할 것으로 전망된다. 딜룸(글로벌 IT전문 데이터 분석 기관)이 공개한 자료를 살펴보면 올해 글로벌 기업들이 AI 칩에 86억 달러(약 12조7047억 원)를 투자할 것으로 전망된다. 이는 지난 2021년과 비슷한 수준이다. 당시 신종 코로나바이러스 감염증(코로나19)의 여파로 디지털 전환(DX)이 대두됐다. 하지만 코로나19의 유행이 끝나고 다시 AI 칩셋에 대한 투자가 줄었다. 이는 안정화된 상황과 당시 과대평가됐다는 의견이 나오면서 절반 이하로 감소했었다가 지난해부터 다시 투자가 증가세로 돌아선 것이다. 이는 엔비디아의 독주 체제에서 체질을 전환하기 위한 조치로 풀이된다.AI를 개발하기 위해서는 GPU가 필요한데 공급이 수요를 따라가지 못하는 상황이었다. 이와 동시에 AI 산업의 무게 중심이 학습에서 추론으로 바뀐 것도 한몫하고 있다. 학습에는 그림이나 영상 등 다양한 자료가 필요해 GPU가 필수였지만 확보된 데이터를 바탕으로 결과를 추론하는 모델이 증가하면서 데이터를 효율적으로 처리할 수 있는 전용 칩의 중요성이 더욱 커진 것이다. 이로 인해 추론에 집중할 수 있는 신경망 처리 장치(NPU)나 텐서 처리 장치(TPU) 찾는 기업들이 늘어났고 그 결과 투자도 함께 증가한 것이다.실제로 이뤄진 대규모 투자 현황을 살펴보면 AI 칩 생산·개발기업 세레브라스 시스템즈는 지난 2월에 10억 달러(약 1조4748억 원)의 투자 유치 계약을 체결했고 비슷한 사업을 진행 중인 매트엑스와 아야르랩스, 에칭드 등은 각각 5억 달러(약 7375억 원)의 투자를 유치했다.유럽도 AI 칩 기업에 대한 다양한 투자가 이뤄지는 상황이다. 대표적으로 악셀레라와 올릭스는 올해 2억 달러(약 2953억 원)가 넘는 투자를 유치했으며 △유클리드 △옵탈리시스 △프랙타일 △아라고 등의 기업도 올해 최소 1억 달러(약 1476억 원) 규모의 투자를 받을 계획이라고 발표했다.글로벌 빅테크들은 협업을 통해 직접 개발에 나선다. 더 인포메이션 등 복수의 외신들은 알파벳 산하 구글이 마벨 테크놀로지와 함께 두 종류의 신규 AI 칩을 공동 개발하기 위한 협상을 진행 중이라고 보도했다. 구체적으로는 기존 TPU와 함께 작동하는 메모리 처리 장치(MPU)와 AI 추론에 최적화된 TPU 설계에 맞춰졌다. 특히 추론용 TPU는 엔비디아의 범용 GPU 대비 전력 효율과 비용 측면에서 우위를 점할 수 있는 제품을 목표로 하고 있다.오픈 AI는 세레브라스 시스템즈와 수년에 걸친 대형 계약을 논의 중인 것으로 알려졌다. 계약 규모는 최소 수십억 달러에서 최대 수백억 달러에 달할 것으로 추산된다. 양사는 이를 통해 GPU 대비 최대 15배 빠른 AI 칩을 개발할 계획이다. 또 메타는 브로드컴과 GPU 의존도를 낮추기 위한 '메타 훈련·추론 가속기(일명 MTIA)' 개발에 나선다.이같은 글로벌 시장에 맞춰 국내에서도 AI 칩 개발 기업을 양성하기 위해 정부도 다양한 프로젝트를 진행 중이다. 대표적으로 국산 AI 반도체를 국내 데이터센터에 우선 적용해 실무 레퍼런스를 확보할 수 있는 'K-클라우드'와 스마트폰과 가전, 자동차 등 기기 자체에서 AI가 구동되도록하는 온디바이스 AI 칩 개발을 지원하는 'K-온디바이스 AI 반도체 기술 개발' 등을 진행 중이다.이재현 글로벌이코노믹 기자 kiscezyr@g-enews.com

기술 뉴스 사이트인 더 인포메이션은 4월 19일, 사정에 정통한 두 소식통을 인용해 구글이 마벨 테크놀로지와 인공지능(AI) 모델을 더욱 효율적으로 실행할 수 있는 두 가지 새로운 칩 개발을 위해 협의 중이라고 보도했습니다.

두 개의 칩 중 하나는 구글이 머신러닝 작업을 가속화하기 위해 특별히 개발한 특수 집적 회로인 텐서 프로세서(TPU)와 함께 작동하도록 설계된 메모리 프로세서입니다. 다른 하나는 AI 모델 실행을 위한 새로운 TPU입니다.

구글은 TPU를 엔비디아가 현재 시장을 장악하고 있는 그래픽 프로세서의 실행 가능한 대안으로 만들기 위해 노력하고 있습니다.

TPU 판매는 구글의 클라우드 컴퓨팅 서비스 매출 성장의 주요 동력이 되었으며, 이는 구글이 AI 투자에서 수익을 창출하고 있음을 투자자들에게 보여주기 위한 전략의 일환입니다.

구글과 마벨은 내년 안에 메모리 프로세서 설계를 마무리하고 시험 생산에 들어갈 계획이다.

(VNA/베트남+)

출처: https://www.vietnamplus.vn/google-dam-phan-phat-trien-chip-ai-moi-voi-marvell-technology-post1105944.vnp

테슬라의 자체 인공지능(AI) 반도체 양산 확대로 삼성전자·SK하이닉스의 저전력 D램(LPDDR) 수요가 촉진될 전망이다. 테슬라가 구상 중인 차세대 AI칩은 최신 LPDDR 표준인 'LPDDR6'를 탑재할 것으로 알려졌다.

17일 업계에 따르면 테슬라는 자체 AI 반도체에 삼성전자, SK하이닉스 등 국내 주요 메모리 기업의 최첨단 LPDDR을 채용할 전망이다.

테슬라는 자율주행 및 휴머노이드 로봇 기술을 고도화하기 위해 AI 반도체를 자체 개발해 왔다. 현재 2나노미터(nm) 공정 기반 'AI5'까지 테이프 아웃(Tape-out)에 성공한 상태다. 테이프 아웃은 칩 설계를 완료하고 파운드리 양산 공정에 이관하는 단계를 뜻한다.

일론 머스크 테슬라 CEO가 공개한 AI5 칩 샘플(사진=일론 머스크 X)

차세대 제품 개발도 진행되고 있다. 테슬라는 지난해 하반기 'AI6' 양산을 위해 삼성전자와 22조7600억원 규모 위탁생산 계약을 체결했다.

지난 16일에는 AI6 개선 버전인 AI6.5 양산 계획을 처음 공개했다. AI6.5는 TSMC 2나노 공정을 기반으로 한다. 이로써 테슬라는 AI5와 AI6 시리즈 모두 삼성전자·TSMC를 파운드리로 활용하는 이원화 전략을 취하게 됐다. 향후 칩 생산량 증가를 고려한 결정으로 풀이된다.

당시 일론 머스크 CEO는 "AI6는 미국 텍사스의 삼성전자 2나노 팹을 사용하고, AI6.5는 애리조나의 TSMC 2나노 팹을 사용해 성능을 더욱 향상시킬 것"이라고 밝힌 바 있다.

테슬라의 AI 반도체 양산 확대는 삼성전자, SK하이닉스의 메모리 사업에도 긍정적이다. AI5 및 AI6 시리즈가 최첨단 LPDDR 제품을 탑재하기 때문이다.

세부적으로, AI5용 LPDDR은 SK하이닉스가 주력 벤더 지위에 오른 것으로 파악된다. 테슬라가 최근 공개한 AI5 샘플 역시 SK하이닉스의 LPPDR 제품을 탑재하고 있다. AI6부터는 삼성전자 역시 본격적인 LPDDR 공급망에 합류할 것으로 전망된다.

반도체 업계 관계자는 "AI5는 초기 TSMC가 양산을 수주한 제품으로, SK하이닉스의 LPDDR5X를 채용한 것으로 안다. AI6부터는 삼성전자도 파운드리 및 메모리를 턴키로 공급할 수 있을 것"이라며 "테슬라의 AI칩 라인업 확대는 양사 메모리 사업에 수혜로 작용한다"고 말했다.

관련기사

특히 AI6 및 AI6.5는 LPDDR6를 탑재할 예정이다. LPDDR6는 8세대 LPDDR로, 지난해 7월 표준이 제정됐다. 메모리의 성능을 좌우하는 대역폭은 10.6~14.4Gbps로 이전 세대인 LPDDR5X(8.5~10.7Gbps) 대비 약 1.5배 가량 향상됐다.

LPDDR6의 본격적인 상용화 시점은 이르면 올 하반기다. 이에 고성능컴퓨팅(HPC) 반도체를 설계하는 팹리스 기업들은 이미 LPDDR5X 및 LPDDR6의 설계자산(IP)을 병행 탑재하는 방안을 적극 논의 중인 것으로 알려졌다.

구글이 마벨과 함께 AI 추론 효율을 높이기 위한 2종 칩 개발을 검토 중인 것으로 알려졌다. 기존 TPU의 메모리 병목을 덜어주는 보조 칩과 추론 전용 차세대 TPU를 병행하는 구상으로, AI 반도체 시장에서 ASIC 설계 방향 자체를 바꿀 수 있는 시도라는 해석이 나온다.

Google is reportedly discussing a two-chip AI inference strategy with Marvell, pairing a memory-focused companion chip for existing TPUs with a next-generation TPU designed specifically for inference workloads.

구글이 마벨과 함께 AI 추론용 반도체 전략을 손보고 있다. 관련 업계에 따르면 양사는 서로 다른 역할을 맡는 두 종류의 칩 개발을 논의 중이다. 하나는 기존 TPU와 함께 쓰이는 메모리 처리용 칩이고, 다른 하나는 AI 추론에 맞춰 새로 설계하는 차세대 TPU다. 단일 칩 성능을 높이는 방식에서 벗어나, 추론 과정의 병목을 기능별로 나눠 풀려는 접근이다.

먼저 눈에 띄는 것은 메모리 처리용 보조 칩이다. 기존 TPU가 처리하던 일부 메모리 관련 작업을 분담하는 성격이다. 대규모 언어모델 추론에서는 연산 성능만큼 데이터 이동과 메모리 접근 효율이 중요하다. 이런 구조라면 TPU는 핵심 연산에 더 집중하고, 별도 칩은 메모리 처리와 데이터 흐름 최적화를 맡는 식으로 역할을 나눌 수 있다.

다른 한 축은 추론 전용 TPU다. 차세대 TPU를 학습과 추론을 모두 포괄하는 범용 가속기가 아니라, 추론 성능과 효율에 초점을 맞추고 있다. 현재 구글의 주력 AI 가속기는 TPU v7 아이언우드다. 192GB HBM 메모리와 4614TFLOPs급 성능을 바탕으로 대규모 슈퍼팟 구성에 투입되고 있다. 다만 AI 인프라의 중심이 학습에서 서비스 단계의 추론으로 이동하면서, 추론 특화 설계의 필요성이 더 커졌다는 평가가 나온다.

핵심은 구글이 TPU를 더 빠르게 만드는 데 그치지 않고, 추론 시스템 전체를 다시 설계하려 한다는 점이다.

AI 추론 성능은 메모리 대역폭, 데이터 이동 경로, 지연시간, 전력 효율이 함께 맞물려야 실제 처리량이 올라간다. 때문에 보조 칩과 메인 칩을 분리하는 방식은 추론 인프라의 병목을 보다 직접적으로 겨냥하는 전략으로 볼 수 있다.

이번 구상은 최근 AI 반도체 시장의 흐름과도 맞닿아 있다. 시장에서는 학습용 대형 가속기와 별도로, 추론에 맞춘 전용 아키텍처의 중요성이 빠르게 커지고 있다. 특히 대규모 모델을 실제 서비스에 투입하는 환경에서는 최고 연산 성능보다 메모리 활용 효율과 저지연 처리가 더 중요한 경쟁력으로 작용한다. 구글이 메모리 처리 칩을 별도로 붙이는 방안을 검토하는 것도 이런 현실을 반영한 움직임에 가깝다.

업계에서는 이를 ASIC 진화의 다음 단계로 보는 시각도 있다. 그동안 추론용 ASIC은 GPU의 대안으로 주목받아 왔지만, 실제 확산 과정에서는 메모리와 패키징, 공급망 문제가 발목을 잡아왔다. 결국 연산칩 하나를 키우는 방식만으로는 한계가 있다는 뜻이다. 구글이 TPU와 별도 메모리 처리 칩을 조합하는 구조를 현실화한다면, 앞으로는 AI 가속기를 평가할 때 연산 성능보다 시스템 구성 능력이 더 중요해질 가능성이 있다.

다만 변수도 적지 않다. 구글 TPU 수요는 늘고 있지만, 첨단 반도체 생산능력은 여전히 빠듯하다. 새 칩이 실제 제품으로 이어지려면 설계 완성도뿐 아니라 HBM 조달, 패키징, 양산 일정까지 함께 맞아떨어져야 한다. 특히 추론 특화 칩은 성능 수치보다 운영 비용과 공급 안정성이 더 중요하게 작용할 수 있어, 시장 안착 여부는 양산 단계에서 판가름 날 가능성이 크다.