고전 컴퓨터의 한계 — 무어의 법칙은 왜 끝나가는가

스마트폰을 살 때마다 '작년 것보다 두 배는 빠르다'는 말을 당연하게 받아들이던 시절이 있었다. 실제로 그 말은 거짓이 아니었다. 수십 년 동안 컴퓨터는 정말로 2년마다 두 배씩 강력해졌고, 우리는 그 흐름을 공기처럼 당연하게 여겼다. 그런데 언제부터인가 새 칩이 나와도 체감 성능 차이가 희미해졌다. 발열은 여전히 뜨겁고, 배터리는 여전히 빨리 닳는다. 무슨 일이 벌어지고 있는 걸까.

그 답을 찾으려면 반도체 칩 안으로, 아주 깊이 들어가야 한다. 그리고 그 끝에서 우리는 물리학의 벽과 마주친다.

50년을 달려온 예언

1965년, 인텔의 공동 창업자 고든 무어는 논문 한 편을 발표했다. 내용은 단순했다. 집적회로(여러 전자 부품을 하나의 작은 칩에 모아 놓은 것) 안에 들어가는 트랜지스터(전기 신호를 켜고 끄는 초소형 스위치)의 수가 약 2년마다 두 배씩 늘어난다는 관찰이었다. 무어는 이것이 당분간 계속될 것이라고 예측했다. 그 예측은 '무어의 법칙'이라는 이름을 얻었고, 반도체 산업 전체가 그 예언을 실현하는 방향으로 움직였다.

결과는 놀라웠다. 1971년 인텔의 첫 상업용 마이크로프로세서에는 트랜지스터가 2,300개 들어 있었다. 2020년대 애플의 M 시리즈 칩에는 그 수가 수백억 개에 달한다. 같은 면적 안에 수천만 배 더 많은 스위치가 들어간 셈이다. 이것이 가능했던 비결은 트랜지스터를 계속 작게 만드는 것, 즉 '미세화'였다.

그런데 2010년대 중반을 지나면서 이 흐름이 흔들리기 시작했다. 미세화 속도가 느려졌고, 2년 주기는 3년, 4년으로 늘어났다. 엔비디아의 젠슨 황, 인텔의 전 CEO 팻 겔싱어 모두 공개 석상에서 무어의 법칙의 종말을 언급했다. 단순한 비관론이 아니라, 물리학이 내린 판정이었다.

트랜지스터가 원자 크기에 가까워지면

트랜지스터의 크기는 나노미터(nm, 10억분의 1미터) 단위로 측정된다. 2022년 TSMC와 삼성이 양산에 들어간 3nm 공정 칩의 트랜지스터 게이트(전기 신호를 통제하는 부분)는 실리콘 원자 약 10~15개를 나란히 놓은 크기다. 머리카락 굵기의 3만분의 1이다.

여기서 문제가 시작된다. 트랜지스터는 본질적으로 '전류를 흘리거나 막는 문'이다. 이 문이 제대로 작동하려면 전자(음전하를 띤 입자)가 명령대로 움직여야 한다. 그런데 구조물이 원자 몇 개 크기로 작아지면, 전자는 더 이상 우리가 기대하는 대로 행동하지 않는다. 이때 등장하는 것이 양자 터널링(quantum tunneling)이다.

양자 터널링은 직관에 완전히 반하는 현상이다. 고전 물리학에서 공은 벽보다 높이 튀어 오르지 못하면 벽을 넘을 수 없다. 하지만 양자역학의 세계에서 전자는 에너지가 충분하지 않아도 얇은 장벽을 '뚫고' 반대편으로 나타날 확률이 존재한다. 마치 벽에 공을 던졌는데 어느 순간 벽 반대편에서 공이 튀어나오는 것과 같다. 트랜지스터의 절연층(전류를 막는 얇은 층)이 원자 몇 개 두께로 얇아지면, 전자가 이 층을 그냥 통과해버린다. '닫혀 있어야 할 문'이 저절로 열리는 것이다.

결과는 치명적이다. 트랜지스터가 꺼져 있어야 할 때도 전류가 새어나오고(누설 전류), 이것이 열로 바뀐다. 칩이 뜨거워지는 것은 단순히 열심히 일해서가 아니라, 제어할 수 없는 전자들이 사방으로 흘러다니기 때문이기도 하다. 더 심각한 것은 신뢰성 문제다. '0'과 '1'을 구분해야 하는 디지털 회로에서 예측 불가능한 전자의 이동은 오류를 만들어낸다.

물론 반도체 업계가 손을 놓고 있는 건 아니다. 게이트올어라운드(GAA, 전류 통로를 사방에서 감싸는 구조) 같은 새로운 트랜지스터 구조, 칩을 3차원으로 쌓는 패키징 기술, 실리콘 대신 다른 소재를 쓰는 시도들이 이어지고 있다. 하지만 이 모든 혁신은 미세화의 한계를 '늦추는' 것이지 '없애는' 것이 아니다. 물리 법칙 자체를 바꿀 수는 없으니까.

컴퓨터가 풀지 못하는 문제들

트랜지스터 미세화가 한계에 부딪혔다는 것은 단순히 스마트폰이 조금 느려진다는 이야기가 아니다. 우리가 지금 가진 가장 강력한 슈퍼컴퓨터로도 풀 수 없는 문제들이 있고, 그 문제들이 인류에게 실제로 중요하다는 데 진짜 위기가 있다.

단백질 접힘 문제가 대표적이다. 우리 몸 안의 단백질은 아미노산이라는 작은 분자들이 수백에서 수천 개 연결된 사슬이다. 이 사슬이 어떤 3차원 형태로 접히느냐에 따라 단백질의 기능이 결정된다. 암, 알츠하이머, 파킨슨병 같은 질병들은 단백질이 잘못 접히는 것과 깊이 연관되어 있다. 만약 어떤 단백질이 어떻게 접힐지 컴퓨터로 정확하게 예측할 수 있다면, 신약 개발의 속도는 지금과 비교할 수 없을 만큼 빨라진다.

문제는 경우의 수다. 아미노산 100개짜리 단백질이 취할 수 있는 형태의 수는 우주에 존재하는 원자의 수보다 많다. 고전 컴퓨터는 이 경우의 수를 하나씩 따져가며 답을 찾는다. 이론적으로 지구의 나이보다 긴 시간이 걸린다. 딥마인드의 알파폴드(AlphaFold)가 AI로 이 문제를 부분적으로 돌파했지만, 그것은 패턴 인식이지 물리적 시뮬레이션이 아니다. 분자 수준의 정밀한 시뮬레이션은 여전히 고전 컴퓨터의 능력 밖이다.

암호 해독 문제도 있다. 오늘날 인터넷 보안의 상당 부분은 RSA 암호화에 의존한다. 이 방식의 핵심은 매우 큰 수를 두 소수(素數, 1과 자신으로만 나뉘는 수)의 곱으로 분해하는 것이 극도로 어렵다는 사실이다. 예를 들어 2,048비트 RSA 키를 현재 최고 성능의 고전 컴퓨터로 해독하려면 수백만 년이 걸린다. 이 어려움이 곧 보안이다. 그런데 양자컴퓨터는 이론적으로 이 문제를 수 시간 안에 풀 수 있다. 이것은 기회이자 위협이다. 금융 거래, 국가 기밀, 의료 기록이 모두 이 암호 체계 위에 올라와 있기 때문이다.

이 두 사례는 단순히 '더 빠른 컴퓨터'가 필요한 게 아니라는 것을 보여준다. 트랜지스터를 더 작게 만들어서 고전 컴퓨터를 아무리 강력하게 해도, 이런 종류의 문제는 구조적으로 풀리지 않는다. 문제를 접근하는 방식 자체가 달라야 한다. 그 다른 방식의 후보가 바로 양자컴퓨터다.

양자컴퓨터는 트랜지스터 대신 양자역학의 원리로 작동하는 소자를 쓴다. 고전 컴퓨터의 비트가 0 아니면 1인 것과 달리, 양자 비트(큐비트)는 0과 1을 동시에 가질 수 있는 상태(중첩)에 놓인다. 이것이 무엇을 의미하는지, 왜 이것이 특정 문제를 풀 때 폭발적인 이점을 주는지는 다음 편에서 본격적으로 다룬다. 지금 이 시점에서 중요한 것은, 양자컴퓨터가 갑자기 하늘에서 떨어진 아이디어가 아니라는 사실이다. 고전 컴퓨터가 물리적 한계에 부딪히고, 그 한계가 실제 문제를 막고 있기 때문에 등장한 필연적인 흐름이다.