반도체는 반세기 동안 컴퓨팅과 기술 발전의 중심에 자리하고 있습니다. 특히 시스템 반도체는 인공지능(AI), 자율주행 등 최신 기술의 핵심 요소인데요. CPU, GPU 등의 시스템 반도체는 대규모 연산을 효율적으로 처리하기 위해 끊임없이 발전했습니다. 높은 효율의 연산과 저전력 등을 목적으로 개발된 반도체는 AI의 핵심 두뇌로 자리 잡고 있습니다. AI를 위한 차세대 반도체가 개발되는 한편, AI는 반도체 생산 프로세스에도 활용되고 있습니다.

반도체와 인공지능의 만남

과거 인텔이 세계 최초로 마이크로프로세서를 출시한 이후 반도체는 빠르게 발전했습니다. 무어의 법칙에 따라 오늘날 반도체의 성능은 과거보다 수백만 배 이상 강력합니다. 반도체의 진화는 AI의 발전을 이끌었습니다. 반대로 AI의 발전도 반도체의 혁신을 끌어낼 수 있습니다.

반도체는 AI를 어떻게 활용하고 가치를 찾을 수 있까요? AI, 머신러닝은 반도체의 설계부터 생산, 판매에 이르는 밸류체인 전반에 막대한 가치를 만들어 낼 수 있습니다. 아직 대부분의 반도체 기업은 AI 도입 초기 단계에 있는데요. 향후 몇 년 동안 지속적인 투자를 통해 AI의 장점을 최대한 활용할 전망입니다.

반도체는 설계, 공정(생산), 품질 검사 등의 과정을 거쳐 탄생합니다. 그간 반도체 설계는 전문 엔지니어의 손에서 진행돼 왔습니다. 앞으로는 AI가 직접 반도체 설계를 할 수 있습니다. 구글은 올해 6월에 국제 학술지 ‘네이처’를 통해 발표한 논문에서 반도체 설계를 위해 신경망 구조를 활용했습니다. 반도체 설계 도면을 학습시킨 후 AI가 빈 도면에 설계를 하도록 진행한 것인데요. 수많은 반도체 설계 데이터를 학습한 AI는 전력 소모가 낮고 칩과 부품의 배치가 효율적인 반도체 설계도를 그려 냈습니다.

반도체는 새로운 장비와 기술 투자에 막대한 비용을 필요로 합니다. 반도체 생산 과정에서 제조 비용을 줄인다면 큰 도움이 될 텐데요. 반도체 공장은 24시간 가동되고 수십, 수백만 장의 웨이퍼를 투입해 생산합니다. 따라서 사람이 모든 상황을 모니터링할 수 없는 게 현실입니다. 수백 개에 이르는 공정 단계를 모두 눈으로 직접 확인하기란 불가능합니다.

현재 반도체 공장은 사람이 거의 개입하지 않는 자동화 수준을 갖추고 있습니다. 자동화 프로세스를 통해 활용할 데이터를 수집하기 용이합니다. 수집한 데이터를 학습하고 분석하면 생산 과정에서 발생하는 불량품 발생이나 기계 고장 등 다양한 문제를 해결해, 프로세스 최적화와 생산성, 수율 향상이 가능합니다. 반도체 공장의 완전 자동화를 위한 핵심은 ‘예측’입니다. 정확한 예측이 가능해야 최적화 및 생산성 향상이 가능합니다.

생산된 반도체는 품질 검사를 진행합니다. 생산 공정에서 전기적 테스트를 거치고, 육안으로 불량 여부를 판단하기도 합니다. 최근에는 컴퓨터 비전을 활용한 딥러닝 기반 웨이퍼 검사 시스템이 탄생했습니다. 덕분에 생산 전 웨이퍼 자체에 결함이 있는지 감지하고 분류할 수 있습니다. 생산 이후에는 반도체의 불량 여부를 기존 학습 데이터와 비교해 빠르게 판단할 수 있습니다. 이러한 방식은 문제를 조기에 해결할 수 있는데요. AI의 학습량이 늘어날수록 문제를 더욱 정확히 파악할 수 있습니다.

미국 인공지능 기업인 C3.AI는 반도체 공정 최적화를 위해 AI를 기반으로 한 수율 최적화 시스템을 구현했습니다. 초기 단계에서 수율이 낮은 웨이퍼를 예측하고 이후 공정에 반영해 전체 수율 향상이 가능한 사례를 선보였습니다. 불량 웨이퍼를 식별해 수율 최적화로 인한 경제적인 효과는 설계와 제조 측면에서 연간 3천만 달러 이상으로 추정될 정도로 높은 가치를 보입니다.

이처럼 AI가 반도체에 활용되면 큰 경제적 가치와 기술적 발전을 기대할 수 있습니다. 자동화 영역을 더욱 최적화를 할 수 있고, 아직 자동화가 되지 않고 사람이 직접 설계하거나 육안으로 확인해야 하는 부분도 자동화할 수 있습니다.

AI 반도체 시대

대표적인 메모리 반도체인 DRAM과 FLASH처럼 시스템 반도체 역사에서 가장 잘 알려진 반도체는 CPU입니다. CPU의 기본 아키텍처는 1945년에 폰 노이만이 만들었습니다. 이후 폰 노이만이 설계한 구조는 수십 년간 변하지 않았습니다.

하지만 매개변수 조정과 행렬이 계속해서 더해지는 AI 시대에는 기존의 직렬 구조의 프로세서가 적합하지 않습니다. 수백만 혹은 수십 억에 해당하는 연산이 반복적으로 일어나기 때문인데요. 때문에 AI 분야에서는 많은 양의 반도체의 메모리와 연산 코어를 최대한 가깝게 배치하고 속도와 효율성을 높이는 것이 핵심으로 떠올랐습니다.

본격적인 AI 시대의 문은 GPU(그래픽 처리 장치)가 열었습니다. 미국 반도체 기업인 엔비디아가 개발한 GPU 아키텍처는 대량의 데이터를 빠르게 처리해 고화질의 이미지와 영상처리가 가능합니다. GPU는 AI 작업에 널리 활용되고 있지만 사실 AI를 목적으로 개발되지 않았습니다. GPU를 활용한 연산 성능은 향후 AI, 자율주행을 위한 목적으로 활용하기에는 부족합니다. 이런 이유로 AI 반도체가 주목받기 시작했습니다.

AI 반도체는 인공지능 개발 및 학습을 위한 시스템 반도체입니다. AI 구현에 특화돼 많은 데이터를 빠르게 처리할 수 있습니다. AI 반도체는 GPU, FPGA 등 다양한 유형이 있는데요. 그래픽 처리나 주문형 반도체 등 각각의 목적과 특성이 존재합니다. AI, 자율주행, 사물인터넷(IoT) 등 최근 주목받는 기술을 실현하는 반도체는 시스템 반도체가 핵심입니다.

따라서 자동차, 모바일, 가전제품 등 다양한 산업 영역에서 활용할 무궁무진한 가치를 지니고 있습니다. 인텔, 엔비디아를 비롯해 SK하이닉스, 삼성전자 등 대부분의 반도체 기업이 AI 반도체 개발에 뛰어들었습니다. 올해 AI 반도체 시장 규모는 121억 달러지만, 2023년에는 343억 달러, 2030년에는 1,179억 달러로 약 10배 가까이 성장할 것으로 예측됩니다. 앞으로 메모리 반도체 시장만큼 높은 잠재력과 성장성을 갖고 있습니다.

AI 반도체는 1세대와 2세대로 구분할 수 있습니다. 한국전자통신연구원(ETRI)에서는 기존 반도체 진화형, 1세대 AI 반도체, 2세대 AI 반도체로 구분합니다. 기존 반도체 진화형은 기존에 사용하던 CPU, GPU 등을 AI 용도에 맞게 개발한 반도체를 일컫습니다. 다만, 직렬 처리라는 한계를 벗어날 수 없습니다. 1세대 AI 반도체에는 주문형 반도체(ASIC)와 TPU(Tensor Processing Unit) 등이 있습니다. 1세대 AI 반도체는 대량생산하기 어렵다는 한계가 있습니다.

2세대 AI 반도체는 AI의 모습이 반도체에 나타납니다. 뇌를 모델로 한 뉴로모픽(Neuro + Morphic)이 대표적입니다. 뉴로모픽은 기존 반도체 개발 방식인 폰노이만 방식(입력 데이터 순차처리)을 따르지 않고 인간의 뇌 구조인 뉴런과 시냅스 구조를 차용합니다. 2세대 AI 반도체는 향후 가장 높은 효율성과 발전 가능성을 기대하지만, 아직 반도체는 폰노이만 방식이 대세라 대량 생산과 범용성에서는 한계를 보입니다.

시장조사 기관 가트너에 따르면 AI 반도체는 GPU 이후 FPGA, DNNASIC(Deep Neural Network ASIC), 뉴로모픽 반도체의 순서로 이어질 것으로 예상됩니다. 가장 눈길을 끄는 반도체는 뉴로모픽입니다. 새로운 개념의 AI 반도체인 뉴로모픽은 뇌에서 찾아낸 반도체의 미래입니다.

뉴로모픽은 사람의 뇌처럼 프로세서를 병렬로 구성하고 인간의 뇌처럼 학습하는 구조를 띱니다. 많은 IT 기업이 뉴로모픽 개발에 관심을 갖는 이유는 메모리 반도체의 저장 기능과 시스템 반도체의 연산 기능을 함께 갖추는 게 가능하기 때문입니다. 사람의 뇌처럼 외부 데이터를 받으면 저장하고 바로 연산까지 가능합니다. 인간의 뇌가 정보를 처리하기 위해 뉴런 속 정보를 동시다발적으로 보내고 판단을 내리는 것과 같습니다. 뉴로모픽에 다른 뉴로모픽을 연결하면 뇌의 뉴런 수를 지속해서 늘리는 것처럼 확장도 가능합니다. 뉴로모픽의 모습은 반도체가 AI 그 자체가 되는 것입니다.

미국의 통신용 반도체 칩 제조업체인 퀄컴은 이미 2013년 뉴로모픽 개념의 프로세서 ‘제로스(Zeroth)’를 선보였습니다. IBM은 2014년 ‘트루노스(TrueNorth)’라는 이름의 뉴로모픽 칩을 개발했습니다. 2017년 인텔은 13만 개의 뉴런과 1억 3천만 개의 시냅스를 가진 최초의 뉴로모픽 칩인 ‘로이히(Loihi)’를 개발했습니다.

다른 차세대 AI 반도체로 지능형 메모리 반도체(PIM, Processing In Memory)도 주목받고 있습니다. PIM은 메모리 코어에 프로그래밍 가능한 AI 엔진을 통합하는 방식으로 메모리 내에서도 연산이 가능합니다. 메모리가 CPU와 데이터를 주고받지 않아도 자체 연산이 가능해 전력 소모를 크게 줄이고 작업처리 속도가 비약적으로 빨라집니다. PIM은 데이터 저장과 연산의 기능을 통합한 새로운 개념의 AI 반도체입니다.

반도체의 미래 블루오션

AI와 반도체의 결합은 큰 시너지를 만들어낼 수 있습니다. AI 반도체의 발전은 반도체를 사용하는 모든 산업 영역에서 기술적 가치를 가져올 전망입니다. 반도체 기업은 AI를 활용해 비용 절감과 생산성 향상이라는 비즈니스 목표를 달성할 수 있습니다.

이미 미국, 중국, 대만 등 AI 반도체 선도국은 차세대 AI 반도체 R&D에 적극적으로 투자하고 있습니다. 우리나라도 차세대 AI 반도체 개발에 체계적인 투자가 필요합니다. 정부는 아직 초기 단계인 AI 반도체 시장을 선점하기 위해 ‘제2의 DRAM’ 개발을 선언하고 PIM 반도체를 비롯한 차세대 성장 동력을 위한 정책을 수립하고 있습니다.

다가오는 AI 시대에 동력이 될 하드웨어를 개발하기 위한 경쟁은 이제 치열하게 전개될 것입니다. AI 반도체 산업은 아직 초기 단계입니다. 구글, 엔비디아, 인텔 등 많은 글로벌 기업은 물론 국내 반도체 대기업도 뛰어든 만큼 성장 속도는 그 어느 반도체 개발보다 빠르게 진행될 것입니다. 반도체의 블루오션은 AI에서 찾아야 할 때입니다.

글 ㅣ 윤준탁 ㅣ  IT 저널리스트