QAOA·VQE — 최적화와 화학 시뮬레이션의 근거리 미래
지난 몇 편에서 우리는 Shor 알고리즘과 Grover 알고리즘이라는 양자 컴퓨팅의 '이론적 거인'들을 만났습니다. 하지만 현실은 냉정합니다. 오늘날의 양자 칩은 이들 알고리즘을 실행할 만큼 크지도, 안정적이지도 않습니다. 그렇다면 지금 우리가 실제로 할 수 있는 일은 무엇일까요? 바로 QAOA와 VQE라는 두 알고리즘이 그 답입니다. 이 둘은 NISQ 시대의 양자 컴퓨터가 고전 컴퓨터를 이기지는 못하더라도, 적어도 현실적인 문제를 풀기 위해 설계된 알고리즘들입니다.
1. 현재의 양자 칩은 수십~수백 개 큐비트만 가지고 있음.
2. 큐비트 하나가 오류를 일으키면 전체 계산이 틀려지기 때문에 오류 정정을 할 수 없는 상태임.
3. 이런 제약 속에서도 실용적인 결과를 원하는 것이 NISQ(Noisy Intermediate-Scale Quantum) 시대의 현실임.
4. Shor나 Grover 같은 알고리즘은 완벽한 큐비트 수천 개를 요구하므로 지금은 불가능함.
5. 대신 QAOA와 VQE는 노이즈가 있어도 동작할 수 있도록 설계된 알고리즘임.
왜 이 문제가 생겼는가
6. 양자 우월성(quantum advantage)을 입증하려면 엄청난 크기의 문제가 필요함.
7. 하지만 NISQ 칩으로는 그런 규모를 다룰 수 없으므로 우월성 증명이 아닌 '실용성'을 목표로 전환함.
8. 즉, 고전 컴퓨터보다 빠르지는 않더라도 특정 분야에서 쓸모 있는 결과를 내는 것이 목표임.
9. 이 철학 위에서 탄생한 것이 VQE(Variational Quantum Eigensolver)와 QAOA(Quantum Approximate Optimization Algorithm)임.
VQE — 분자 에너지를 양자-고전 하이브리드로 푸는 방법
10. 분자의 기저 상태(ground state) 에너지를 구하는 것은 화학과 신약 개발의 핵심 문제임.
11. 고전 컴퓨터로는 전자의 양자 상태를 정확히 시뮬레이션하기 위해 지수적으로 증가하는 계산 자원이 필요함.
12. VQE는 이 문제를 양자-고전 협력으로 푸는 알고리즘임.
13. 먼저 양자 회로가 임의의 매개변수로 분자의 상태를 표현함.
14. 그 상태의 에너지를 양자 칩에서 측정함.
15. 측정 결과를 고전 컴퓨터로 받아 매개변수를 조정함.
16. 이 과정을 반복하면서 에너지가 최소가 되는 매개변수를 찾아감.
17. 최종적으로 분자의 기저 상태 에너지와 그 구조를 알아낼 수 있음.
양자 회로와 고전 최적화 알고리즘이 협력하며, 양자는 '측정'만 담당하고 고전이 '학습'을 담당함
18. 이 접근법의 장점은 노이즈에 어느 정도 강함.
19. 왜냐하면 양자 회로의 깊이(연산 단계)가 얕기 때문에 누적 오류가 적음.
20. Merck와 Roche 같은 제약사들이 이미 VQE를 신약 후보 물질 탐색에 시험하고 있음.
21. 하지만 현재 NISQ 칩의 노이즈 수준에서 고전 컴퓨터 시뮬레이션을 능가하는 결과는 아직 없음.
QAOA — 조합 최적화 문제를 푸는 근사 알고리즘
22. 현실의 많은 문제는 '최적의' 해를 찾는 것임.
23. 예를 들어 물류 회사는 배송 경로를 최소화하고, 금융사는 포트폴리오의 리스크를 최소화하려 함.
24. 이런 조합 최적화(combinatorial optimization) 문제는 경우의 수가 지수적으로 증가하기 때문에 고전적으로 풀기 어려움.
25. QAOA는 이 문제를 양자 회로로 근사적으로 푸는 알고리즘임.
26. 기본 아이디어는 문제를 양자 해밀토니안(Hamiltonian)으로 인코딩하고, 양자 간섭을 이용해 좋은 해의 진폭을 증폭시키는 것임.
27. QAOA의 동작 과정은 다음과 같음.
28. 먼저 모든 큐비트를 균등한 중첩 상태로 초기화함.
29. 문제를 나타내는 해밀토니안으로 회전시킴.
30. 그 다음 믹서(mixer) 해밀토니안으로 다시 회전시킴.
31. 이 두 회전을 여러 번 반복(깊이 p)하면 특정 해의 확률이 증가함.
32. 마지막에 측정하면 높은 확률로 좋은 해를 얻을 수 있음.
양자 간섭을 이용해 최적화 문제의 좋은 해의 확률을 높이되, 완벽한 최적해를 보장하지는 않음
33. QAOA의 깊이 p가 깊을수록 더 나은 해를 찾을 가능성이 높음.
34. 하지만 NISQ 칩에서는 깊이가 깊어질수록 누적 노이즈가 증가해 결과가 악화됨.
35. 따라서 현실의 QAOA는 깊이가 p=1 또는 p=2 수준으로 제한됨.
36. JPMorgan Chase는 QAOA를 포트폴리오 최적화에 시험했고, 초기 결과를 발표함.
37. 하지만 현재까지 고전 알고리즘(예: CPLEX)을 능가하는 성능은 아직 입증되지 않음.
지금 어디쯤 왔는가 — 현실의 한계와 미래의 가능성
38. QAOA와 VQE는 모두 하이브리드 알고리즘이라는 점이 중요함.
39. 양자 부분과 고전 부분이 반복적으로 협력하기 때문에, 양자 칩의 한 번의 오류가 전체를 망치지 않음.
40. 이것이 NISQ 시대에 실행 가능한 유일한 전략임.
41. 하지만 동시에 이 구조는 한계를 드러냄.
42. 양자 부분이 할 일이 제한적이므로, 고전 컴퓨터를 완전히 능가하기 어려움.
43. 현재의 벤치마크 결과는 양자 알고리즘이 고전 알고리즘과 '비슷한' 수준의 성능을 보이거나, 특정 인위적 문제에서만 우월함을 보임.
44. VQE의 경우, 분자 에너지 계산에서 고전 시뮬레이션과 비교해 실질적 이득이 있는지 불명확함.
45. QAOA의 경우, 깊이 제약으로 인해 근사 비율(approximation ratio)이 고전 휴리스틱과 비슷하거나 낮음.
46. 이런 현실이 바로 NISQ 시대의 '진실'임 — 양자 우월성은 아직 미래, 현재는 '공존'의 시대.
47. 그럼에도 불구하고 이 두 알고리즘은 중요함.
48. 왜냐하면 양자 칩이 발전할 때 즉시 적용할 수 있는 '준비된 알고리즘'이기 때문임.
49. 큐비트 수가 수천 개로 늘어나고 오류율이 10배 낮아지면, QAOA와 VQE는 현재의 고전 알고리즘을 능가할 가능성이 높음.
50. IBM, IonQ, Rigetti 같은 양자 컴퓨팅 기업들은 이 알고리즘들을 클라우드 플랫폼에서 직접 실행할 수 있도록 제공 중임.
51. Merck, Roche, JPMorgan Chase, BASF 같은 산업 파트너들은 이미 이 알고리즘들을 테스트하고 있음.
52. QAOA와 VQE가 상용화되기 위한 마지막 난제는 '노이즈'임.
53. 측정 오류, 게이트 오류, 결어긋남(decoherence) 등이 결과의 신뢰도를 떨어뜨림.
54. 현재 이온트랩 양자컴퓨터(IonQ)의 게이트 충실도는 99.5% 수준이고, 초전도 큐비트(IBM)는 99% 수준임.
55. 이 오류율로도 깊이 10~20 정도의 회로에서는 노이즈가 지배적이 됨.
56. 따라서 오류율을 99.9% 이상으로 개선하거나, 오류 정정 코드를 도입해야 실질적 이득을 볼 수 있음.
57. 이것이 NISQ 시대의 '미션'임 — 하드웨어 개선과 알고리즘 혁신이 동시에 진행되어야 함.
58. 결국 QAOA와 VQE는 '지금 할 수 있는 최선'이자 동시에 '미래를 위한 초석'임.
59. 이들 알고리즘은 양자 컴퓨터가 발전할 때 자동으로 성능이 올라가도록 설계됨.
60. 즉, 더 좋은 하드웨어가 나오면 같은 코드로도 더 나은 답을 얻을 수 있음.
📚 관련 글
QAOA와 VQE는 양자 우월성을 기다리는 것이 아니라, 현재의 제약 속에서 고전 컴퓨터와 함께 일하는 현실적인 알고리즘들입니다.
슈로 🐾