미지를 향한 인간의 본능

과학의 본질은 결국 미지(未知)의 영역을 탐험하는 일이다. 아직 규명되지 않은 현상을 이해하고, 설명가능한 질서 속에 편입시키는 것—그것이 인류 지식의 확장 과정이다. 물리학에서 '미지'는 단순히 알지 못하는 상태를 의미하지 않는다. 그것은 이미 우리가 사는 세상을 구성하고 있지만 아직 우리의 언어로 충분히 기술되지 않은 세계의 구조를 가리킨다. 우리 세계의 이면에 있는 이러한 영역을 탐색하여 이해하고, 이해를 바탕으로 더 나은 세상을 만들려는 시도가 지금 내가 매일 마주하는 '연구'라는 행위의 본질이기도 하다.

양자 과학 기술, 새로운 질서의 문턱에서

나는 절대영도에 가까운 온도까지 냉각한 분자를 이용해 양자 컴퓨팅과 양자 시뮬레이션, 그리고 양자 화학 반응을 연구하고 있다. 분자를 극저온으로 식히면 열적 요동이 거의 사라지고, 분자의 내부 상태가 양자역학적으로 정밀하게 구분된다. 이 상태에서는 레이저나 마이크로파를 이용해 개별 분자의 양자 상태를 세밀하게 조절할 수 있다. 같은 실험 장비와 원리를 사용하더라도, 그 제어를 계산에 활용하면 양자 컴퓨터가 되고, 양자 상태의 변화가 화학 반응에 어떤 영향을 주는지를 탐구하면 양자 화학 반응 연구가 된다.

"본질은 다르지 않다. 모두 '자연이 허락한 가장 순수한 양자 상태'를 다루며, 그 속에서 물질 세계의 근본적 질서를 해석하고 활용하려는 시도이다."

그중 양자 컴퓨터는 최근 많은 주목을 받고 있는 분야로, 양자역학에서 가장 신기한 현상에 속하는 '중첩'과 '얽힘'을 이용해서 기존 컴퓨터로는 계산하기 어려운 계산을 수행하는 컴퓨터를 말한다.

양자 중첩이란 한 시스템이 동시에 여러 상태에 존재할 수 있는 현상을 말한다. 예를 들어, 기존 컴퓨터의 비트(bit)가 정보를 0과 1 중 하나의 명확한 상태로만 저장하고 처리한다면, 양자 컴퓨터의 큐비트(양자 비트, quantum bit, 줄여서 qubit)는 '0'이면서 동시에 '1'일 수 있다. 이것이 '중첩'이다. 하지만 이 상태가 '0.5'와 같은 중간값을 의미하는 것은 아니다. 중첩인 큐비트가 어떤 값을 가지고 있는지 측정하면 반드시 '0' 혹은 '1' 중 하나의 결과만 관측된다.

양자 컴퓨터는 큐비트의 양자 중첩을 이용해 여러 계산 상태를 동시에 처리함으로써, 고전 컴퓨터가 모든 경우를 하나씩 계산해야 하는 문제를 한 번의 연산에 병렬적으로 다룰 수 있다. 큐비트 수가 늘어날수록 이 병렬성은 지수적으로 증가하여, 고전 컴퓨터나 GPU의 선형적 병렬 처리보다 훨씬 강력한 계산 능력을 발휘한다.

양자 얽힘이란 두 개 이상의 양자 시스템이 서로 강하게 연결되어, 하나의 상태가 다른 하나의 상태를 즉시 결정짓는 현상이다. 즉, 각 시스템을 독립적으로 설명할 수 없으며, 두 시스템이 하나로 통합되어 존재하는 상태를 의미한다. 예를 들어 A가 '0'이면 B도 반드시 '0', A가 '1'이면 B도 반드시 '1'인 상태와 같이 하나의 상태가 다른 하나의 상태를 결정하는 상태를 말한다. 고전 컴퓨터에서는 각 비트가 독립적으로 동작하지만, 양자 컴퓨터의 큐비트들은 얽힘을 통해 하나의 연산으로 다수의 큐비트를 동시에 제어할 수 있어 연산 효율이 비약적으로 향상된다.

양자 컴퓨터는 지금 이 순간에도 급속하게 발전하며, 과학, 산업, 통신, 인공지능 등 사회 전반에 혁신의 파동을 일으키고 있다. 머지않아 우리는 이 거대한 변화의 중심에서 '양자 정보 시대'라는 새로운 질서의 탄생을 직접 목격하게 될 것이다.

미지를 현실로: 범용 양자 컴퓨터를 향한 노력

양자 컴퓨터가 세상을 바꿀 잠재력을 지녔다는 데에는 의심의 여지가 없지만, '범용 양자 컴퓨터(Universal Quantum Computer)'의 완성까지는 여전히 긴 여정이 남아 있다. 현재 세계 주요 연구 그룹과 기업들이 개발 중인 양자 컴퓨터의 큐비트 수는 대체로 수십 개에서 수천 개 수준에 머물고 있다. 대표적으로 IBM은 2023년 1000큐비트를 넘는 프로세서를, 구글은 2024년 '윌로우' 칩으로 약 100큐비트 규모의 실험적 계산을 수행했다. 중성 원자 시스템에서는 6000큐비트의 시스템이 공개되기도 하였다. 하지만 오류를 억제하고 완전한 양자 오류 정정을 수행하기 위해서는 수만에서 수백만 개의 물리적 큐비트가 필요하다고 추산된다. 즉, 현재의 기술 수준은 아직 '계산의 영역'이 아니라 '스케일링의 실험 단계'에 있다고 볼 수 있다.

큐비트의 수를 늘리는 일은 단순히 시스템을 확장하는 문제로 끝나지 않는다. 큐비트가 많아질수록 양자 얽힘의 제어와 노이즈 제거, 결맞음 소실(decoherence)방지, 정밀 동기화 등 복합적 문제가 함께 커진다. 고전 컴퓨터가 독립적인 트랜지스터를 집적하는 방식으로 발전해온 것과 달리, 양자 컴퓨터의 큐비트 간 얽힘은 물리적으로 서로 간섭하며, 시스템 전체가 하나의 거대한 양자 상태로 동작한다. 이 때문에 한 큐비트를 안정화하는 데 성공했다고 해서 곧바로 수백 개를 안정적으로 제어할 수 있는 것은 아니다.

여기에 양자 오류 정정(quantum error correction) 문제도 더해진다. 큐비트는 열, 진동, 전자기적 잡음 등 미세한 외부 요인에도 쉽게 영향을 받아 상태가 무너진다. 하나의 논리 큐비트를 만들기 위해 수십에서 수천 개의 물리적 큐비트를 묶어야 하는 이유가 바로 여기에 있다. 완전한 오류 정정 기능을 갖춘 범용 양자 컴퓨터를 실현하려면, 지금보다 몇 자릿수 이상 많은 규모의 큐비트 제어 기술이 필요하다.

범용 양자 컴퓨터를 실현하기 위해서는 여전히 수많은 과제 남아 있지만, 중요한 것은 우리의 기술이 꾸준하고 확실하게 진전하고 있다는 점이다. 지난 10여 년간은 연구자인 나조차 놀랄 만큼 빠른 속도로 발전이 진행되어왔고, 그 과정에서 우리는 양자 시스템의 작동 원리를 점점 더 깊이 이해하게 되었다. 결국 범용 양자 컴퓨터를 향한 여정은 단순한 기술 개발을 넘어, 인간이 불확실성과 노이즈로 가득한 자연을 어디까지 이해하고 통제할 수 있는지를 시험하는 실험이자, 미지의 세계를 현실로 바꾸려는 쉼 없는 노력 그 자체이다.

양자 컴퓨터가 바꿀 새로운 세계 — 기술과 책임의 경계 위에서

나는 종종 머릿속으로 양자 컴퓨터가 실용화된 세상을 그려본다. 그때의 세상은 단순히 더 빠르고 더 효율적인 사회가 아닐 수도 있다. 양자 컴퓨터는 분명 막대한 잠재력을 지닌 도구다. 복잡한 분자 구조의 시뮬레이션, 최적화 문제, 암호 해독 등 고전적 알고리즘이 감당하지 못하던 문제 영역에서 혁신적 변화를 일으킬 수 있다. 그러나 동시에, 이런 계산 능력이 비밀 통신망을 무력화하거나, 특정 산업과 국가 간의 기술 격차를 극단적으로 벌려놓을 가능성 또한 존재한다. 그리고 그만큼 우리는 이전보다 훨씬 더 깊은 수준의 책임과 윤리적 선택을 요구받게 될 것이다.

"기술은 본질적으로 중립적이다. 그것이 선이 될지 악이 될지는 사용 주체의 선택과 제도적 방향에 달려 있다."

불확실한 잠재력 앞에서 과학자의 역할은 단순한 기술자나 발견자에 머물러서는 안 된다. 기술의 사회적 파장과 윤리적 경계를 예측하려는 사고의 책임이 동반되어야 한다. 연구 과정에서도 "이 기술이 어디까지 확장되어야 하는가?", "누가 이 계산 능력을 통제하고 접근할 수 있는가?"를 끊임없이 질문해야 한다. 과학적 진보가 인류 전체의 지식과 복지로 귀결되기 위해서는, 기술 그 자체보다 그 기술을 둘러싼 의사결정 구조가 더 중요할 수도 있다.

양자 컴퓨터를 연구한다는 것은, 결국 인간이 아직 완전히 이해하지 못한 계산 가능성의 영역을 실험적으로 검증해 가는 과정이다. 실험과 이론을 반복적으로 보완해 나가며, 우리는 자연이 허용하는 정보 처리의 한계와 구조를 조금씩 더 정확하게 파악하게 될 것이다. 그러나 양자 시스템에 대한 완전한 이해에 도달하는 일은 현실적으로 불가능할지도 모른다. 대신, 불확실성을 줄여 나가며 점진적으로 더 높은 수준의 예측 가능성과 제어 가능성에 도달하는 경험을 축적해 간다. 이러한 축적된 과정 자체가 곧 미지의 영역을 과학적으로 탐구하는 행위이며, 양자 과학이 갖는 핵심적인 의미라 할 수 있다.

Interview

희소성을 찾아, 가지 않은 길을 걷다
물리학과 채은미 교수 인터뷰

2002년 대학수학능력시험에서 자연계 수석을 차지한 여학생은 국내 대학 진학 대신 일본 유학을 선택했다. 2003년 도쿄대에 입학한 그는 4년 후 졸업식에서 도쿄대 전체 수석에 해당하는 총장 대상을 한국인 최초로 수상하며 화제에 올랐다. 그리고 20여 년이 지난 지금, 채은미 교수는 도쿄대 석사 과정, 하버드대 박사 과정을 거쳐 고려대학교 물리학과 교수이자, 과학정보통신부 지정 '저온양자반응연구단'의 단장으로 연구에 몰두하고 있다.

Q. 안녕하세요,⟨고대투데이⟩와 두번째 만남이시지요?

맞습니다. 작년 가을호 고려대학교 직장 어린이집 기사에 아이들과 함께 인터뷰가 실렸었어요. 제 연구 생활에 크나큰 도움을 주는 고려대 직장 어린이집에 다시 한번 감사드립니다.(웃음)

Q. 오래전 일이지만, 수능시험 결과 자연계 수석이셨는데 일본 유학을 선택해서 큰 화제가 되었어요. 그 이유가 궁금합니다.

고등학교 3학년 때 우연히 교실 뒤 게시판에서 한일 공동 이공계 학부 국비유학생 모집 공고를 보았어요. 저는 단순히 수능의 부담을 줄이려고 큰 고민 없이 신청했는데, 감사하게도 합격했죠. 수능 결과가 나오고 최종 결정을 해야 했을 때는 정말 많이 고민했습니다. 어린 나이에 유학을 가는 것이 과연 좋을까? 혼자 잘 살 수 있을까? 그래도 한국에서 학부 공부를 하는 것이 나중에 인맥 관리 등에서 유리하지 않을까? 등등 수많은 질문이 떠올랐지요. 그러다가 이공계로 진로를 선택한다면, 인생의 어느 단계에서든 대학원 혹은 포닥 공부를 위해 해외로 나가게 될 텐데, 일찍 나가서 더 많은 경험을 하면 좋지 않을까 라는 생각이 들었어요. 그리고 남들이 가지 않는 길을 간다면 '나'라는 사람의 희소성이 높아지지 않을까? 라는 생각으로 일본 학부 진학을 선택했습니다.

Q. 도쿄대, 하버드대에서의 유학 생활은 어떠셨어요?

도쿄대에는 오로지 물리에만 모든 것을 쏟는 '물리 덕후' 학생들이 있었어요.(웃음) 처음에는 그 친구들을 보며, '나는 물리를 좋아하긴 하지만, 저 친구들만큼 사랑할 자신은 없으니, 아마 물리를 계속 공부하지는 못하겠구나'라고 생각했습니다. 그러다가 감사하게도 총장 대상을 받으면서 '조금 더 해볼까?' 하는 용기를 내게 되었어요. 그런데 일본에서는 석박사 과정이 5년이면 끝나는데, 겨우 5년 뒤에 내가 '박사' 타이틀을 갖는다는 것이 너무 두려웠습니다. 아직 많이 부족하다고 생각했거든요. 그래서 다시 한번 저를 시험해보기로 하고 미국 유학에 도전해서 하버드 대학에 갔어요. 어떻게 보면 저의 여정은 제 부족한 자신감을 극복하기 위한 도전의 연속이었습니다. 그리고 그건 지금도 현재 진행형이고요.

Q. 물리학 중에서도 양자역학을 연구하시게 된 계기는 무엇인가요?

저는 사실 레이저가 좋아서 이쪽에 발을 들였습니다. 다양한 색깔의 레이저가 예쁘게(?) 켜져 있는 연구실 풍경을 보고 '아! 이런 실험이라면 재미있게 할 수 있을 것 같아!'라는 생각으로 학부 졸업 연구의 연구실을 정했는데, 알고 보니 양자역학의 코어 연구를 하는 곳이었고 연구 분야도 재미있어서 그대로 양자 연구를 계속하게 되었습니다. 양자역학을 이해하기 위해 가장 중요한 부분은 일단 마음의 벽을 낮추는 것입니다. 양자역학이라고 하면 일단 '어렵다', '나와는 상관이 없다'라고 생각하시는데, 사실 수학적인 부분을 제외하면 양자역학에는 재미있는 성질이 많이 있습니다. 물론 직관적으로 이해가 안 가는 부분은 있지만, '그런가 보다~' 하고 열린 마음으로 받아들이면 정말 재미있는 학문이에요.

Q. 첫 책 《처음 만나는 양자의 세계》를 출간하셨고, 강의·유튜브 등 다양한 방식으로 대중과 소통하며 양자역학에 대해 알리고 계신데요.

생각보다 정말 많은 분들이 양자역학, 양자 기술에 대해서 알고 싶어 하시고, 그럼에도 아직 너무 어렵다고 생각하신다는 것을 알게 되었어요. 양자역학 교양서가 많이 있지만, 복잡한 수식이 없이 쉽게 설명해 주는 책에 대한 요청도 많이 받았습니다. 많은 책들이 양자역학이 발전하게 된 역사적인 과정(여기에 재미있는 스토리들이 많거든요)과 양자역학의 핵심 개념들을 잘 설명하지만, 그러한 개념들이 어떻게 지금의 혹은 미래의 기술에 접목되는지 정리한 책은 많지 않았습니다. 그래서 한번 정말 수식이 거의 없는, 양자역학과 양자 기술의 교양서를 써보자는 마음으로 집필을 했습니다. 사실 책 출간과 관련된 활동들이 정말 제게는 처음 접하는 경험의 연속이었는데요, 많은 분들이 '그래도 조금 이해가 가요!'라고 말씀하실 때 정말 기쁘고 보람이 느껴집니다. 그리고 수식을 사용하지 않고 양자역학을 설명하는 과정에서 저도 양자역학에 대해서 훨씬 깊이 있게 이해할 수 있었던 것 같습니다. (사실 이과생들에게는 수식으로 설명하는 것이 제일 쉽거든요.)

Q. 교수님은 양자역학의 어떤 분야를 연구하시나요? 그 연구는 인류에게 어떤 영향을 끼칠까요?

저는 학부 때부터 지금까지 양자역학의 여러 현상을 실험적으로 구현하는 연구를 하고 있습니다. 일본에서는 고체 시스템에서 2001년 노벨상을 받은 보스-아인슈타인 응축이라는 양자역학의 대표 현상을 구현하는 연구를 진행했고, 하버드에서는 레이저를 이용해서 분자를 절대영도까지 냉각시켜 양자역학적으로 제어하는 연구를 했습니다. 내 손으로 만든 장비를 이용해서 눈에 보이지 않는 원자나 분자를 절대영도까지 냉각시키고 이들의 양자 상태를 자유자재로 제어할 수 있다는 점이 무척 재미있습니다. 이러한 기술이 발전하면 분자 큐비트도 구현할 수 있어서 양자 컴퓨터, 양자 센싱 같은 기술에 쓰일 수 있습니다. 최근 다양한 시스템(초전도 큐비트, 원자, 이온, 광자 등)에서 많은 수의 큐비트를 정교하게 제어하는 기술이 어마어마한 속도로 발전하고 있는데, 이런 흐름은 제가 봐도 경이롭습니다.

Q. 고려대 물리학과 교수로 만나는 '고려대 학생들의 세계'는 어떠한가요?

저는 팬데믹이 시작된 2020년 3월에 부임해서 한동안 학생들을 만나지 못했어요. 그러다가 마침내 코로나 국면이 잦아들어 봄학기에 아산이학관 앞 잔디밭에 옹기종기 모여 있는 학생들을 보고 너무 좋았던 기억이 납니다. 우리 고려대 학생들은 일본이나 미국의 최고 학부 학생들과 견주어도 조금도 부족하지 않아요. 강의실에서 만나는 학부 학생들, 제 연구실의 대학원생들 모두 굉장히 아이디어가 좋고 실험 센스도 있고, 반짝반짝 빛이 납니다. 정말 제 학부 시절보다 뛰어난 것 같아요. 다들 좋은 연구자로 성장하리라 기대하고 있어요. 그리고 응원전 연습 때 화정체육관 방향으로 줄을 선 학생들의 어마어마한 물결은 정말 감동적이었어요.

Q. ⟨고대투데이⟩ 이번 호의 주제는 "Uncharted Realm(미지의 영역을 개척하는 도전)"입니다. 도전을 고민하는 후배들을 위한 조언을 부탁드립니다.

돌아보면 제 삶은 '희소성'을 추구하는 여정이었던 것 같습니다. 선택의 기로에 섰을 때, 남들은 잘 안 가지만 제가 끌리는 길을 선택해왔고, 그게 저만의 독특한 이력이 되어 제 경쟁력이 되었죠. 여러분도 각자 선택의 순간이 있을 텐데, 자신은 원하지만 남들이 많이 선택하지 않아서 주저하고 있다면 그냥 과감하게 도전해보시면 어떨까요? 그 선택이 여러분만의 강점이 되어 줄 겁니다.

채은미 교수
고려대학교 물리학과 교수. 도쿄대학교에서 물리공학을 전공하고, 하버드대학교 물리학과에서 박사학위를 받았다. 도쿄대학교 조교수를 거쳐 2020년 고려대학교에 부임했다. 원자·분자·광물리 실험과 양자 정보 과학을 연구하며, 양자 과학의 학문적 확장과 대중적 소통을 위해 노력하고 과학 교육과 양자 과학 대중화에 기여했다.