[김정호의 AI시대의 전략] 인공지능 컴퓨터의 미래, 반도체 간의 데이터 소통 역량에 달려있다

 

[김정호의 AI시대의 전략] 인공지능 컴퓨터의 미래, 반도체 간의 데이터 소통 역량에 달려있다 (daum.net)

[김정호의 AI시대의 전략] 인공지능 컴퓨터의 미래, 반도체 간의 데이터 소통 역량에 달려있다

/그래픽=양진경

인간의 기억에 관한 실험 연구를 개척한 독일의 심리학자가 헤르만 에빙하우스(Hermann Ebbinghaus)이다. 그는 인간의 기억에 관해서 최초로 엄격한 실험적 연구를 진행했으며, 특히 그 연구 결과로 ‘기억의 망각 곡선’을 발견했다. 기억의 망각 곡선에 따르면 인간의 뇌는 학습 후 10분 후부터 망각을 시작하고, 1시간 이후에는 56%, 하루 뒤에는 66%, 한 달 뒤에는 79%를 망각한다고 한다. 이처럼 인간의 두뇌는 데이터를 오래 기억하지 못한다. 이를 보완하기 위해 인간은 항구적이고 효율적인 데이터 저장 장치를 필요로 했다. 수천 년 전에는 데이터 기억 장치로 벽화와 그림을 사용했고, 문자를 고안했으며, 최근에는 반도체 메모리를 사용하고 있다. 그 반도체 메모리도 최근에 빠른 속도로 진화를 거듭하고 있다. 그리고 이는 디지털 혁명의 핵심 기기인 인공지능 컴퓨터 내에서 프로세서 반도체에 최대한 가까이 설치된다. 반도체 메모리는 인간의 망각을 보완하면서 동시에 인공지능 컴퓨터의 성능을 완성하는 두 가지 핵심적인 역할을 동시에 수행하는 것이다.

메모리 중심 인공지능 컴퓨팅 시대

인공지능 컴퓨터에는 계산 기능을 담당하는 프로세서 반도체가 있다. 주로 그래픽 프로세서(GPU)가 병렬 계산을 담당한다. 이곳에서 인공지능 학습과 판단을 위한 수많은 수학 벡터와 행렬 계산이 병렬로 이루어진다. 이때 계산 결과를 빠르게 반도체 메모리에 저장해야 한다. 그리고 다음 계산을 위해서 바로 다시 불러올 수 있어야 한다. 그래야 실시간 인공지능 서비스가 가능하다. 이처럼 인공지능 컴퓨터의 성능은 얼마나 메모리에 저장된 디지털 데이터를 바로 빠르고, 정확하고, 전력 소모가 적게 되고 다시 쓸 수 있느냐에 따라서 정해진다. 그래서 미래의 인공지능 컴퓨터에서는 프로세서 반도체와 메모리 반도체가 함께 최대한 가깝게, 공간적으로 그리고 기능적으로 융합된다. 이 과정에서 메모리 성능이 더 중요해지고 있다. 이를 ‘메모리 중심 컴퓨팅(Memory Centric Computing)’이라고 부른다. 인공지능 컴퓨터 설계에서 프로세서와 메모리의 원활한 데이터 ‘소통’이 가장 핵심적인 요구 조건이 되는 것이다. 인공지능 컴퓨터와 반도체의 혁신 방향이자 미래 성공의 열쇠이다.

기회는 ‘반도체 패키징’ 산업에 있다

인공지능 컴퓨터에서 프로세서와 메모리 사이의 데이터 소통을 최대로 끌어올리는 방법이 바로 ‘반도체 3차원 적층형 구조’이다. 쉽게 이야기해서 반도체로 수백 층 고층 빌딩을 짓는 것이다. 그러면 평면적으로 배치하는 것보다 훨씬 가깝게 만들 수 있다. 데이터도 더 빠르게 주고받을 수 있다. 일종의 초고층 주상복합 건물과 비슷하다. 아래 층에는 주로 프로세서를 배치하고 고층에는 메모리 반도체를 설치한다. 그리고 초고속 엘리베이터를 수만 개, 혹은 수백만 개를 설치한다. 그 속도는 빛의 속도이다. 이렇게 좁은 공간에 반도체 초고층 건물을 제작하는 기술을 ‘반도체 패키징(Packaging)’ 기술이라고 한다. 그리고 초고속 엘리베이터에 해당하는 데이터 소통 구조를 ‘관통 실리콘 전극(TSV: Through Silicon Via)’이라고 부른다. 이렇게 데이터 기억에 필요한 시간과 공간을 줄이고 전력 효율을 최대화하기 위해 반도체가 고층 구조로 발전하고 있다. 매년 수직으로 쌓는 층수가 지속적으로 늘어난다. 하늘까지 닿는 인간의 욕망과 닮았다.

지난 50여 년간 반도체 혁신을 이끌고 인공지능 시대를 가능하게 했던 반도체 ‘무어의 법칙(Moore’s Law)’은 이제 서서히 끝나가고 있다. 반도체 나노 공정의 혁신을 이끌었던 무어의 법칙에 따르면, 매 2년마다 공간의 크기가 반으로 줄어들고 그에 따라 트랜지스터의 숫자도 늘어난다. 마침내 공간이 너무 좁아 반도체 속의 전자가 양자역학 세계로 들어갔다. 양자역학 불확실성 이론에 따르면 전자의 존재 여부는 공간에 갇히지 않는다. 확률로 존재할 뿐이다. 이제 디지털 ‘1′과 ‘0′이 기억되기 어렵다.

이제 반도체의 혁신은 3차원적인 고층 패키징 구조가 이끈다. 인공지능 컴퓨터, 데이터센터 서버, 자율자동차 컴퓨터, 그리고 메타버스의 성능이 반도체 패키징 기술에 의해 좌우되고 있다. 반도체 산업의 패러다임이 바뀌고 있다. 따라서 패키징 기술 개발에 대한 국가 차원의 투자와 산업 지원, 그리고 인재 육성을 위한 파격적 전략이 필요하다. ‘패키징 기술’은 우리나라가 메모리뿐만 아니라 시스템 반도체와 파운드리 산업 분야에서도 진정한 세계 1등이 되기 위한 비장의 ‘초격차 무기’이다.

인공지능에서도 소통과 공감이 핵심

인공지능이 제대로 성능을 내기 위해서는 컴퓨터 내에서 프로세서와 메모리가 고속 디지털 데이터를 빛의 속도로 주고받아야 한다. 이를 위해서는 데이터 송신 회로, 연결선, 수신 회로의 전기적 특성인 ‘임피던스(Impedance)’가 모두 맞아야 한다. 임피던스가 바로 그 전기적 공감(共感) 조건이다. 이렇게 인공지능 컴퓨터에서도 ‘소통’이 관건이다. 소통을 위해서는 서로의 공감이 필요하다. 그리고 공감은 바로 감동을 부른다. 인간 사회와 인공지능 컴퓨터의 공통 조건이다. 인공지능 컴퓨터와는 달리, 요즘 우리 사회에서는 소통, 공감, 감동, 그리고 희망(希望)이라는 단어가 점점 사라지고 있다.

김정호 KAIST 전기·전자공학과 교수ㅣ조선일보 2021.11.10

/ 2022.06.02 옮겨 적음