뉴스 검색 결과: Xai

xAI 그록 [사진: 셔터스톡]

[디지털투데이 황치규 기자]일론 머스크가 이끄는 xAI와 AI 기업 앤트로픽이 xAI 콜로서스1(Colossus 1) 데이터센터 컴퓨팅 용량 전체를 앤트로픽이 인수하는 파트너십을 발표했다고 테크크런치가 6일(현지시간) 보도했다.

약 300MW 규모 컴퓨팅 용량을 확보한 앤트로픽은 바로 클로드 서비스 사용량을 높일 수 있게 됐다. xAI 입장에서는 수십억달러 규모로 추정되는 이번 거래로 학습 작업을 콜로서스 2(Colossus 2)로 이전한 뒤 비어있던 콜로서스 1을 수익화하는 발판을 마련했다고 테크크런치는 전했다.

일론 머스크는 xAI가 이미 신규 데이터센터로 학습 인프라를 옮겼기 때문에 두 곳 모두 필요하지 않아 앤트로픽에 제공하기로 했다고 설명했다.

xAI 그록(Grok) 모델은 올해 초 이미지 생성 논란 이후 이용량이 크게 줄었다. 데이터센터 규모가 그록 운영에 필요한 수준을 크게 웃도는 상황에서 앤트로픽에 컴퓨팅을 판매하면 회사 재무제표는 개선될 것이라고 테크크런치는 전했다.

보다 넓게 보면 이번 파트너십은 xAI 실제 사업 방향이 AI 모델 학습보다 데이터센터 구축에 보다 가까울 수 있음을 시사한다고 테크크런치는 전했다.

구글과 메타의 경우컴퓨팅을 전략적 자산으로 내부에 유지하는 방향을 택하고 있지만 xAI는 엔비디아에서 GPU를 구매해 앤트로픽 같은 모델 개발사들에게 임대하는 네오클라우드 사업 모델을 취하고 있다고 테크크런치는 전했다.

(사진=셔터스톡)

미국 정부가 AI 모델의 국가안보 위험을 사전에 점검하기 위해 주요 기술 기업들과 협력을 확대하며 규제 체계 구축에 속도를 내고 있다.

미 상무부 산하 AI 표준 및 혁신 센터(CAISI)는 5일(현지시간) 구글 딥마인드, 마이크로소프트(MS), xAI와 협약을 체결하고, AI 모델이 일반에게 공개되기 전 성능과 위험성을 평가할 수 있는 체계를 마련했다고 발표했다.

이번 협약에 따라 기업들은 최신 AI 모델 출시 전에 CAISI에 제공해야 하며, 정부는 이를 기반으로 ‘사전 배포 평가’와 표적 연구를 수행하게 된다. 특히 일부 안전장치를 완화하거나 제거한 상태에서 모델을 분석해 사이버보안, 생물학, 화학 등 국가안보에 영향을 줄 수 있는 위험 요소를 집중 점검할 계획이다.

CAISI는 “독립적이고 엄격한 평가 체계가 첨단 AI의 역량과 국가안보 영향을 이해하는 데 필수적”이라며, 이번 협력이 공공 이익을 위한 중요한 진전이라고 강조했다. 이 기관은 이미 비공개 모델을 포함해 40건 이상의 평가를 수행한 바 있다.

이번 조치는 2024년 오픈AI와 앤트로픽과 체결한 기존 협력의 연장선이다. 당시 바이든 정부는 당시에도 주요 AI 기업으로부터 모델을 사전에 제공받아 AISIC(AI Safety Institute Consortium)에서 안전성을 점검하는 체계를 구축했는데, 트럼프 행정부 들어 조직의 이름을 바꿨다가 이번에 협력 범위를 더 넓힌 것이다.

백악관도 AI 감독 강화를 위한 추가 조치를 검토 중이다. 트럼프 행정부는 AI 모델의 공개 전 검증 절차를 제도화하기 위해 새로운 민관 합동 워킹그룹 구성을 논의하고 있으며, 행정명령을 통해 이를 추진하는 방안도 검토 중이다.

이 같은 움직임은 최근 고도화된 AI 모델이 예상보다 빠르게 발전하면서 보안 우려가 커진 데 따른 것이다. 특히 앤트로픽이 공개한 ‘클로드 미소스’는 소프트웨어 취약점을 탐지하고 악용할 수 있는 능력이 크게 향상된 것으로 알려져 정부의 주목을 받았다. 이 모델은 사이버보안 위험을 고려해 제한된 기업에만 공개되는 등 통제된 방식으로 배포되고 있다.

이와 관련해 다리오 아모데이 앤트로픽 CEO는 백악관 고위 관계자들과 만나 모델의 위험성과 활용 방안을 논의했다.

강력한 AI 모델이 사이버 공격이나 기타 사회적 위험을 초래할 가능성이 커지면서, ‘출시 전 검증’이 새로운 글로벌 표준으로 자리 잡을 가능성도 제기된다.

박찬 기자 cpark@aitimes.com

(사진=AI 이미지/제작=엠에스투데이)

[MS투데이] 미국 정부가 인공지능(AI) 모델의 국가안보 위험을 사전에 점검하기 위한 협력 체계를 본격 확대하고 있다. 구글 딥마인드, 마이크로소프트(MS), xAI 등 주요 기술기업이 자사 최신 AI 모델을 정부에 제공해 출시 전 평가를 받기로 하면서 ‘사전 배포 검증’이 제도화 단계에 들어섰다.

미 상무부 산하 AI표준·혁신센터(CAISI)는 5일(현지시간) 이들 기업과 협약을 체결하고, 일반 공개 전 최신 AI 모델에 대한 초기 접근권을 확보했다고 밝혔다. 이에 따라 기업들은 새 모델을 배포하기 전에 정부에 제공하고, CAISI는 이를 기반으로 성능과 잠재적 위험을 분석하게 된다.

평가 범위는 사이버보안, 생물학·화학 관련 위험, 오작동 가능성, 악용 가능성, 편향성 등 국가안보와 직결될 수 있는 영역이다. 특히 일부 안전장치를 완화하거나 제거한 상태에서 모델을 시험해 실제 위협 가능성을 점검하는 방식이 포함된다.

CAISI는 “독립적이고 엄격한 평가 체계는 첨단 AI의 역량과 국가안보 영향을 이해하는 데 필수적”이라며 이번 협력이 공공 이익을 위한 진전이라고 강조했다. 이 기관은 이미 미공개 모델을 포함해 40건 이상의 평가를 수행한 바 있다.

‘미토스’ 이후 가속화된 사전 검토 흐름

이번 조치는 최근 고도화된 AI 모델의 등장과 맞물려 속도를 내고 있다. 특히 앤트로픽의 보안 특화 모델 ‘클로드 미토스’가 소프트웨어 취약점을 탐지하고 악용할 수 있는 수준의 능력을 갖췄다는 평가가 나오면서, 정부 차원의 선제 대응 필요성이 부각됐다.

미토스는 사이버 공격 시뮬레이션 분석 능력이 강화돼 국가안보 위험 요소로 주목받았다. 현재는 일부 기업에만 제한적으로 제공되고 있다. 이 같은 사례는 AI 모델이 공개된 이후 문제를 통제하는 기존 방식의 한계를 드러냈다는 분석이 나온다.

트럼프 행정부 역시 신규 AI 모델에 대한 공식 검토 절차를 제도화하는 방안을 논의 중이다. 뉴욕타임스(NYT)에 따르면 기술기업과 정부가 참여하는 민관 합동 워킹그룹 구성이 검토되고 있으며, 행정명령을 통해 이를 추진하는 방안도 거론된다.

트럼프 대통령은 그동안 AI 산업 육성을 위해 규제를 최소화해야 한다는 입장을 밝혀왔지만, 최근 일자리 감소, 정신건강 문제, 사이버보안 우려 등이 제기되면서 접근 방식이 보다 신중해지는 분위기다.

규제 아닌 ‘파트너십 모델’ 강조

미 정부는 이번 조치를 강제 규제가 아닌 ‘협력 기반 관리 모델’로 설명하고 있다. 기업은 출시 전 정부 검증을 수용하고, 정부는 기술 발전 속도를 저해하지 않으면서 위험을 사전에 점검하는 구조라는 것이다.

다만 일부 기술 업계에서는 정부의 초기 단계 접근이 혁신 속도를 늦출 수 있다는 우려도 제기한다. AI 패권 경쟁이 치열한 상황에서 정부 개입이 기업 자율성을 제약할 수 있다는 시각이다.

AI 거버넌스 연구 전문가는 “이번 합의는 규제라기보다 전략적 리스크 관리 체계를 구축하려는 시도에 가깝다”며 “AI가 국가안보 자산으로 인식되는 상황에서 사전 검증은 국제 표준으로 자리 잡을 가능성이 높다”고 분석했다.

한국에도 던지는 시사점

미국의 이번 조치는 국제 AI 거버넌스 논의에도 영향을 미칠 전망이다. 정부가 민간 개발사의 내부 모델에 접근해 배포 이전 단계에서 안전성을 점검하는 구조는 향후 글로벌 기준 형성의 참고 사례가 될 수 있다.

한국 역시 AI 반도체와 대규모 언어모델 분야에서 기술 역량을 확대하고 있지만, 정부-기업 간 안전성 평가 체계는 아직 초기 단계라는 평가가 많다. 미국 주도의 안전 기준이 국제 규범으로 자리 잡을 경우, 이를 선제적으로 이해하고 대응하는 전략이 필요하다는 지적이 나온다.

AI 경쟁이 성능과 속도 중심에서 안전성과 국가안보 관리 영역으로 확장되면서, ‘출시 전 검증’은 새로운 정책 축으로 자리 잡는 모양새다. 기술 패권과 리스크 관리 사이에서 미국이 구축하는 협력 모델이 글로벌 표준으로 이어질지 주목된다.

미국 정부가 구글, 마이크로소프트, xAI 등 3사의 AI모델이 출시되기전 미리 성능과 보안 수준을 평가한다고 월스트리트저널(WSJ)이 5일자(미국시각)로 보도했다.

평가는 미 상무부 산하 AI 기준 및 혁신 센터(CAISI,Center for AI Standards and Innovation)가 주도한다.

WSJ은 3사가 트럼프 행정부와 이 같은 내용을 협약했고, 앞서 오픈AI와 앤트로픽도 지난 2024년 유사한 협약을 미 상무부와 이미 맺었다고 전했다. CAISI는 공개되지 않은 AI모델들을 포함해 약 40건이 넘는 평가를 수행해온 것으로 알려졌다.

CAISI 책임자인 크리스 폴(Chris Fall)은 "최첨단 AI가 국가 안보에 미치는 영향을 이해하기 위해서는 독립적이고 엄격한 측정이 필수"라며 “산업계와의 협력 확대는 중요한 시점에서 공익을 위한 우리의 작업을 확장하는 데 도움을 준다”고 밝혔다. 그가 언급한 중요한 시점은 '미토스' 공개에 따라 달라진 보안 환경을 의미한다.

관련기사

미국 캘리포니아주 마운틴뷰에 위치한 구글 본사 전경 (사진=로이터/뉴스1)

이번 협약에 따라 이들 3사는 CAISI가 국가 안보와 관련된 잠재적 능력과 위험 요소를 보다 정확하게 측정할 수 있게 안전장치(Safeguard)를 제거하거나 축소한 후 제공해야 한다.

특히 이번 움직임은 트럼프 행정부가 미토스에 대해 새로운 정부 검토 절차를 모색하고 있는 가운데 나와 주목을 받았는데, 백악관은 사이버보안에 초점을 맞춘 새로운 행정명령을 검토중이다. 새 행정명령은 특히 강력한 AI 모델에 대한 기준을 마련하기 위해 정부 감독 기구를 공식화하는 내용을 포함할 것으로 알려졌는데, 이는 성급히 공개한 AI 모델로 발생할 수 있는 사이버 공격이나 기타 혼란으로부터 소비자와 기업을 보호하는 것을 목표로 한다고 미 당국은 밝혔다.

미국 정부가 구글 딥마인드, 마이크로소프트(MS), 일론 머스크의 xAI 등 빅테크 3사가 개발한 첨단 인공지능(AI) 모델을 일반 공개 전 직접 들여다볼 수 있게 됐다.

미 상무부 국립표준기술연구소(NIST) 산하 'AI 표준·혁신 센터'(CAISI)는 5일(현지시간) 이들 3사와 프런티어 AI 모델에 대한 국가안보 차원의 사전 평가와 공동 연구를 골자로 한 협약을 체결했다고 발표했다.

이번 협약에 따라 CAISI는 이들 기업이 새로운 모델을 출시하기 전에 정부가 직접 사전 평가(pre-deployment evaluation)하고 보안 취약점을 추적하는 표적 연구를 수행하게 된다.

하워드 러트닉 상무장관 지시에 따라 정부와 AI 업계를 잇는 단일 창구 역할을 맡게 됐다. 사이버 공격이나 군사적 용도 등 안보 위협을 살피고자 개발사들로부터 AI 안전장치를 일부 제거하거나 약화시킨 버전의 모델도 제공받기로 한 것으로 전해졌다.

이번 협약은 조 바이든 행정부 시절 미 AI안전연구소로 설립됐던 CAISI가 2024년 오픈AI·앤스로픽과 맺은 자율검증 협약을 도널드 트럼프 행정부의 'AI 액션플랜' 기조에 맞춰 재협상한 결과다. CAISI에 따르면 그간 40여 건이 넘는 모델 평가를 완료했다.

MS는 별도 성명을 통해 영국 AI보안연구소(AISI)와도 유사한 협약을 체결했다고 밝혔는데, 이곳 또한 세계 최초로 세워졌던 AI안전연구소가 명칭을 바꾼 것이다.

AI 기술 개발에 대한 비개입주의를 선호해온 트럼프 행정부가 이렇듯 AI 안전성으로 방향을 선회하는 배경에는 '미토스'의 등장으로 워싱턴 정가에 확산된 경계심이 있다. 앤스로픽이 그 위험성 때문에 공개를 제한한 이 모델은 소프트웨어(SW) 보안 취약점 탐색과 해킹 등에 기존 AI들보다 월등한 성능을 내는 것으로 알려졌다.

전날 뉴욕타임스(NYT)는 백악관이 신규 AI모델에 대한 정부 사전심사 절차를 공식 제도화하는 행정명령을 검토 중이라고 보도한 바 있다. 'AI 차르'로 불렸던 데이비드 삭스 백악관 과학기술자문위원장이 지난 3월 자리에서 물러나고 수지 와일스 백악관 비서실장과 스콧 베선트 재무장관이 그 자리를 대신하는 등 백악관 참모진 변화도 정책 방향 선회에 영향을 끼친 것으로 매체는 분석했다.

한편 이달 초 미 국방부(전쟁부)는 기밀네트워크에 AI 기술을 도입·배포하기 위해 스페이스X·오픈AI·구글·엔비디아·리플렉션·마이크로소프트(MS)·아마존웹서비스(AWS) 등 7개사와 협약을 체결했는데, 앞서 공급망 위험 기업으로 지정한 앤스로픽을 이번 협약에도 제외했다. 기존에 미 국방부 등 정부기관에 AI를 공급해온 앤스로픽은 자사 기술이 완전자율형 살상무기나 자국민 감시에 쓰이는 것에 반대하면서 트럼프 행정부와 수개월째 갈등을 빚고 있다.

팽동현 기자 dhp@dt.co.kr

오픈AI 챗GPT로 그린 이미지.