정동영 통일부장관 “AI 추론의 높은 비용 효율성이 경쟁력의 핵심”

정동영 통일부장관(국회 과학기술정보방송통신위원회 소속)과 최형두 의원(국민의힘·창원 마산-합포)이 공동주최하고, 정보통신산업진흥원(NIPA)이 주관하는 'AI G3 강국 신기술전략 조찬포럼'이 24일 개최됐다. 

포럼에서는 현재 ‘학습(Training)’ 중심인 인공지능(AI)시장에서 ‘추론(Inference)’의 가능성에 대해 논의했다. 

정 장관은 “추론의 높은 비용 효율성이 경쟁력의 핵심”이라며 “이는 전력 수급문제와도 직결돼 국가 데이터센터 인프라에도 중요한 시사점”이라고 지적했다. 

박성현 리벨리온 대표는 발제에서 “AI 서비스 상용화 단계에서 앞으로 ‘학습’보다 ‘추론’이 경쟁력을 선점할 것”이라며 추론의 가치를 높게 평가했다. 

박 대표는 “AI 데이터센터 인프라에서 가장 중요한 것은 ‘연산 속도가 얼마나 빠른지’보다 ‘소모 전력 대비 얼마나 효율적인 성능을 내는지’가 핵심”이라며 “전력 1W당 성능이 승부처”라고 강조했다. 

글로벌 리서치회사인 마켓츠앤마켓츠(MarketsandMarkets) 조사에 따르면, 글로벌 AI ‘학습’시장 규모는 2024년 약 4조 원, 2029년 약 13조 원에 이를 것으로 추정했다. 반면, AI ‘추론’시장은 2025년 약 143조 원, 2030년 약 340조 원까지 성장할 것으로 추정했다. 앞으로 AI 서비스 상용화 단계에서 학습보다 추론의 수요가 훨씬 많아질 것임을 의미한다.

추론의 확장 요인은 △생성형 AI 사용량 급증 △트랙픽당 추론 연산량 증가에 있다. 하루에도 수십억 건의 챗봇, 검색, 이미지 생성 요청이 발생 중이며, 초거대 AI 모델이 등장하면서 더 많은 매개변수와 연산량을 필요로 한다. 반면 추론은 문자·이미지·음성 등 다양한 입력을 동시에 처리하고, 연쇄적 사고 기반의 논리적 추론까지 가능하다.

또 데이터센터의 에너지 효율은 설비투자 비용뿐 아니라 전기요금, 냉각비용, 장비 유지비 등 운영비용에도 직접적 영향을 미치기 때문에 에너지 효율이 곧 경쟁력을 뜻한다.

임문영 국가인공지능전략위원회 부위원장은 “AI를 위한 모든 것이 연결돼 있는 ‘에코 시스템’이 키 포인트”라며 “따라서 본 위원회는 정부의 '데이터 사일로(Silo)'를 깨뜨리고자 한다”고 강조했다. 

데이터 사일로란 정부부처·기관·기업마다 각자 데이터를 보관해 공유하지 않는 상태를 뜻한다. AI 학습을 위해 데이터를 모으고 활용해야 하는데 서로 벽을 치고 있으면 효율이 떨어진다는 의미다.

또한 임 부위원장은 “본 위원회 심의·의결 범위에 ‘AI 관련 정책 및 사업의 부처 간 조정’ 사항이 포함돼 있다”며 “법인제 부처를 구성해 산업통상자원부·중소벤처기업부 등 기능별로 분류해 역할을 나눌 예정”이라고 언급했다. 이에 더해 “오는 11월까지 AI 액션플랜을 완성할 예정”이라고 밝혔다.

김경수 KAIST 부총장은 “과기정통부에서 올 하반기 신진연구자 400명 자리를 마련하기로 했다”며 “해외 인재 영입을 위해 미국 뉴욕·보스턴 등 실리콘밸리로 직접 방문해 박사급 인재 398명을 모집했다”고 밝혔다.

김 부총장은 “본교에 약 1만2000명이 재학 중인데 AI를 필수과목으로 지정하려고 한다”며 “임문영 부위원장이 언급한 것처럼 에코 시스템이 형성될 수 있도록 대학에서도 최선을 다할 것”이라고 강조했다.

이영탁 SK텔레콤 부사장은 “변전소 한 개 건설하는 비용이 약 1000억 원이고, 1kg의 전선을 지상에 설치하는 데 약 32억 원, 지하에 설치하는 데 약 210억 원이 발생한다”며 “GPU(그래픽 처리 장치)보다 상대적으로 전력 효율이 높은 NPU(신경망 처리장치) 사용을 활성화해야 한다”고 발언했다. 

이 부사장은 이어 “SKT는 리벨리온의 NPU를 적용하기 위한 테스트를 진행 중이며, 향후 NPU 서버 도입을 지속적으로 확장할 계획”이라며 “NPU 보급이 활성화될 수 있도록 정부와 공공기관의 마중물 역할이 중요하다”고 강조했다.