큐비트란 무엇인가 — 0이면서 1인 것의 진짜 의미

당신의 스마트폰은 지금 이 순간에도 수십억 개의 트랜지스터를 통해 0과 1을 오가며 계산하고 있다. 1편에서 다룬 대로, 이 고전 비트의 세계는 아주 단순하다. 전기가 흐르면 1, 흐르지 않으면 0. 명확하고, 이진적이고, 의심의 여지가 없다.

그런데 양자컴퓨터는 이 명확함을 버린다. 큐비트(quantum bit)는 0일 수도 있고 1일 수도 있다. 아니, 정확히는 0도 아니고 1도 아니면서 동시에 둘 다인 상태로 존재한다. 이것이 양자컴퓨터가 고전컴퓨터보다 강력할 수 있는 근본 이유다. 하지만 이 "동시에 둘 다"라는 표현은 오해를 낳기 쉽다. 큐비트가 정말 무엇인지, 그리고 왜 이것이 고전 비트와 완전히 다른 계산 능력을 가져오는지 살펴보자.

비트에서 큐비트로: 상태 공간의 확장

고전 비트의 세계는 1차원이다. 0 아니면 1. 이를 그래프로 그리면 수직선 위의 두 점일 뿐이다. 하지만 큐비트는 다르다. 큐비트의 상태는 복소수(complex number) 평면 위의 벡터로 표현된다. 이를 시각화한 것이 바로 블로흐 구면(Bloch sphere)이다.

블로흐 구면은 큐비트의 상태를 기하학적으로 표현하는 방법이다. 구의 맨 위는 |0⟩ 상태, 맨 아래는 |1⟩ 상태를 나타낸다. 하지만 핵심은 이것이다: 구 표면의 모든 점이 유효한 큐비트 상태라는 뜻이다. 고전 비트는 두 점에만 존재할 수 있지만, 큐비트는 무한히 많은 상태 중 하나에 있을 수 있다.

이를 수학적으로 표현하면, 큐비트는 |ψ⟩ = α|0⟩ + β|1⟩ 형태의 선형 결합으로 나타난다. 여기서 α와 β는 복소수 계수이고, |α|² + |β|² = 1이라는 정규화 조건을 만족한다. 이 α와 β가 바로 확률 진폭(probability amplitude)이다.

확률 진폭: 동시성이 아니라 가능성의 무게

여기서 중요한 오해를 풀어야 한다. 흔히 "큐비트는 0과 1을 동시에 가진다"고 말하지만, 이는 정확하지 않다. 큐비트는 0일 확률과 1일 확률을 동시에 가지고 있을 뿐이다.

α와 β는 단순한 확률이 아니라 확률 진폭이다. 이 둘의 절댓값 제곱이 실제 확률이 된다. 예를 들어, |ψ⟩ = (|0⟩ + |1⟩)/√2 라는 상태를 생각해보자. 여기서 α = 1/√2, β = 1/√2이다. 측정했을 때 0이 나올 확률은 |1/√2|² = 1/2, 1이 나올 확률도 |1/√2|² = 1/2이다. 정확히 반반이다.

하지만 만약 |ψ⟩ = (|0⟩ + i|1⟩)/√2 라면? 여기서 i는 허수 단위다. 이번에는 α = 1/√2, β = i/√2이다. 절댓값을 취하면 |1/√2| = 1/√2, |i/√2| = 1/√2이므로, 측정 확률은 여전히 반반이다. 그런데 두 상태는 동일한가? 아니다. 복소수 계수의 위상(phase)이 다르다.

이 위상의 차이가 양자간섭(quantum interference)을 만든다. 여러 큐비트를 조합할 때, 이 위상들이 서로 더해지거나 상쇄되면서 특정 결과의 확률을 증폭하고 다른 결과의 확률을 억제할 수 있다. 이것이 양자컴퓨터가 고전컴퓨터보다 특정 문제를 빠르게 풀 수 있는 메커니즘이다.

측정: 파동함수 붕괴와 현실의 결정

큐비트의 가장 신비로운 성질은 측정의 순간이다. 측정 이전, 큐비트는 중첩 상태 |ψ⟩에 있다. 하지만 측정하는 순간, 이 상태는 순식간에 |0⟩ 또는 |1⟩ 중 하나로 붕괴된다. 이를 파동함수 붕괴(wave function collapse)라고 부른다.

더 놀라운 점은, 측정 이전에 큐비트가 "실제로" 0인지 1인지를 알 수 없다는 것이다. 이는 우리의 측정 능력 부족 때문이 아니다. 양자역학의 근본적 성질상, 측정 이전에는 그러한 성질이 존재하지 않는다. 측정이 현실을 결정한다. 이것이 코펜하겐 해석(Copenhagen interpretation)의 핵심이다.

이것이 양자컴퓨터 설계의 핵심 도전이다. 양자 알고리즘은 중첩 상태에서 양자간섭을 이용해 우리가 원하는 답의 확률을 최대한 높이고, 틀린 답의 확률을 최대한 낮춰야 한다. 그리고 나서 측정하면, 높은 확률로 올바른 답을 얻을 수 있다. 하지만 한 번의 측정으로는 충분하지 않을 수 있으므로, 여러 번 반복 측정해야 할 수도 있다.

N개 큐비트의 지수적 상태 공간

이제 양자컴퓨터가 왜 강력한지 이해할 수 있다. N개의 고전 비트는 정확히 2^N개의 가능한 상태 중 하나를 가진다. 3비트면 000, 001, 010, 011, 100, 101, 110, 111 중 하나다. 8가지 중 정확히 하나.

하지만 N개의 큐비트는? 각 큐비트가 블로흐 구면 위의 임의의 점이 될 수 있으므로, 전체 상태 공간은 2^N 차원의 복소 벡터 공간이다. 예를 들어, 3개의 큐비트는 |ψ⟩ = α₀|000⟩ + α₁|001⟩ + ... + α₇|111⟩ 형태로 표현되며, 8개의 독립적인 복소 계수를 가진다.

300개의 고전 비트는 약 10^90개의 가능한 상태를 가진다. 하지만 300개의 큐비트는 2^300 ≈ 10^90 차원의 상태 공간을 가진다. 같은 수처럼 보이지만, 차원이 다르다. 고전 비트는 한 번에 하나의 상태만 표현하지만, 큐비트는 모든 상태의 중첩을 동시에 인코딩할 수 있다. 이것이 "양자 병렬성(quantum parallelism)"이다.

물론, 측정하면 결국 하나의 상태로 붕괴되므로, 직접적인 속도 향상은 없다. 하지만 양자 알고리즘이 이 중첩과 간섭을 영리하게 활용하면, 특정 문제를 지수적으로 빠르게 풀 수 있다. 예를 들어, Shor의 소인수분해 알고리즘은 고전컴퓨터에서는 지수 시간이 걸리지만, 양자컴퓨터에서는 다항 시간에 풀 수 있다.

현실의 큐비트: 이상과 현실 사이

지금까지 설명한 것은 이상적인 큐비트다. 하지만 현실은 훨씬 복잡하다. 1편에서 언급한 NISQ(Noisy Intermediate-Scale Quantum) 단계의 양자컴퓨터들은 완벽한 중첩과 측정을 구현하지 못한다.

IBM, Google, IonQ 같은 기업들의 양자컴퓨터는 다양한 물리적 구현을 사용한다. IBM과 Google은 초전도 큐비트를 사용하고, IonQ는 포획된 이온(trapped ion)을 사용한다. 각각의 방식은 장점과 단점이 있다. 초전도 큐비트는 빠르지만 노이즈에 취약하고, 이온 큐비트는 안정적이지만 느리다.

또한 현실의 큐비트는 환경과의 상호작용으로 인해 코히어런스(coherence)를 잃는다. 이를 디코히어런스(decoherence)라고 부르며, 이는 양자컴퓨터의 가장 큰 적이다. 큐비트가 중첩 상태를 유지할 수 있는 시간을 T2 시간이라고 부르는데, 현재 기술로는 이것이 마이크로초 단위에 불과하다. 이 짧은 시간 안에 충분한 계산을 수행해야 한다.

이 때문에 양자 오류 정정(quantum error correction)이 중요해진다. 하나의 논리 큐비트(logical qubit)를 구현하기 위해 수십 개 이상의 물리 큐비트(physical qubit)가 필요할 수 있다. 이는 현재 양자컴퓨터가 아직도 실용적 수준에 도달하지 못한 이유 중 하나다.

큐비트에서 양자 우월성으로

큐비트를 이해하는 것은 양자컴퓨터의 가능성과 한계를 동시에 이해하는 것이다. 0과 1을 동시에 가질 수 있다는 것, 그리고 그것이 확률 진폭이라는 것, 측정이 현실을 결정한다는 것—이 모든 개념이 함께 작동할 때, 양자컴퓨터의 강력함이 나타난다.

하지만 동시에, 큐비트의 불안정성과 측정의 확률적 성질은 양자컴퓨터가 모든 문제를 빠르게 풀 수 없다는 것을 의미한다. 양자컴퓨터가 빛날 수 있는 분야는 제한적이다. 약물 발견, 재료 과학, 최적화 문제, 암호 해독 등 특정 영역에서만 고전컴퓨터를 능가할 수 있다.

Google이 2019년 "양자 우월성(quantum supremacy)"을 선언했을 때, 그들은 53개의 큐비트를 가진 Sycamore 칩으로 고전컴퓨터가 1만 년 걸릴 계산을 200초에 수행했다고 발표했다. 이는 실제 응용 문제가 아니라 특정 랜덤 회로 샘플링 문제였지만, 원칙적으로 큐비트의 지수적 상태 공간이 현실에서 작동할 수 있음을 보여주었다.

현재는 IBM, Google, IonQ, Rigetti 같은 기업들이 경쟁적으로 큐비트 수를 늘리고 있다. 하지만 단순히 큐비트의 개수만 중요한 것은 아니다. 큐비트의 품질, 게이트 충실도(gate fidelity), 측정 정확도, 그리고 오류 정정 능력이 모두 중요하다. 이 모든 요소가 함께 발전해야 실제로 유용한 양자컴퓨터가 탄생할 수 있다.