양자내성암호는 양자컴퓨팅 환경에서 안전하게 암호기술을 이용할 수 있는 새로운 공개키 암호로 양자컴퓨터의 모든 공격에 대해 안전한 내성을 가지고 있다.
 
국내 연구진이 이러한 양자컴퓨터 시대의 새로운 암호체계인 ‘양자내성암호’를 공략할 수 있는 세계최고 성능 수준의 양자 알고리즘을 개발에 성공했다. 양자컴퓨터뿐 아니라, 수학, 암호학 등 관련 산업 분야의 전환점이 될 전망이다.
 
한국전자통신연구원(ETRI)은 KIST·서울대·한양대·KIAS·영국 임페리얼 대학 등 국내·외 연구진과 함께 양자내성암호의 주요 기반문제 중 하나인 선형잡음문제를 효과적으로 공략할 수 있는 세계 최고 수준의 양자 알고리즘을 개발했다고 지난 3일 밝혔다. 선형잡음문제는 에러가 있는 선형일차방정식의 해를 구하는 문제로, 무작위 추출된 입력과 에러가 포함된 출력으로 이루어진 샘플을 얼마나 적게 사용해 해당 문제를 해결할 수 있는지로 난이도가 결정된다.
 
양자컴퓨팅 연구 초기, 양자 소인수 분해 알고리즘의 등장으로 공개키 암호시스템(RSA)과 같은 기존 암호체계는 양자컴퓨터가 실용화될 경우 보안성 유지가 어려울 것으로 전망됐다. 이에, 양자컴퓨터를 이용한 해킹에서도 안전할 것으로 기대되는 새로운 암호체계인 소위 ‘양자내성암호(PQC)’암호체계가 등장했다.
 
양자내성암호는 양자컴퓨터조차도 해결하기 어려운 수학적 난제를 활용한 차세대 암호체계다. 이를 풀기 위해선 문제의 규모 대비 지수함수적으로 증가하는 큐비트(Qubit) 자원이 필요하다. 이에 실제로는 양자컴퓨터조차도 공략 불가능한 것으로 여겨왔다.
 
그러나 연구진은 세계최초로 ‘분할-정복(divide-and-conquer) 전략’을 활용해 비교적 소규모 수준의 양자컴퓨터로도 양자내성암호를 공략할 수 있는 양자 알고리즘을 개발했다. 분할-정복 전략은 전체 구조를 하부 구조들로 작게 나누고 개별 공략하는 방법이다. 적정한 수준의 양자 연산능력만으로도 지수함수적 양자이득이 가능함을 증명한 것이다. 이는 계산에 필요한 자원의 증가량이 다항함수로 줄었다는 뜻이며 보통 자원량 증가가 다항함수적이면 쉬운 문제로 분류된다.
 
연구진은 본 기술 공개로 양자 내성이 무효화되는 조건을 보다 구체적으로 특정할 수 있게 됐다. 이에 따라 양자기술을 활용하는 기업·연구기관·공공기관의 차세대 암호 연구 시 활용영역을 명확하게 할 수 있을 것으로 기대했다.

박성수 ETRI 양자기술연구단장은 “그동안 불가능하다고만 생각되던 양자내성암호 양자공략이 원리적으로 가능하다는 점에서 해당 연구결과는 그 의미가 크다”며 “하지만 양자내성암호를 실제 효과적으로 공략하기 위해서는 양자컴퓨터의 연산능력을 더 확보해야 한다”고 말했다.
 
또한 이번 공동 교신저자인 영국 임페리얼대 김명수 교수도 “잡음을 동반한 선형문제를 양자컴퓨터를 쓰면 고전컴퓨터에 비해 빨리 풀 수 있다는 점을 증명했다”며 특히 “분할-정복 전략을 양자알고리즘에 사용한 첫 사례이며, 이에 새로운 암호체계의 신뢰도계산에 직접적으로 연관되어 좋은 파급효과가 있을 것으로 기대한다”고 밝혔다.
 
ETRI는 이번 연구성과가 양자컴퓨터가 양자내성을 완전히 정복했다는 뜻은 아니라고 밝히며 양자내성암호 공략 및 수호 관점에서 지속적인 연구가 더 필요하다고 덧붙였다.
 
연구진은 향후, 양자샘플을 생성‧준비하는 단계부터 주요 알고리즘의 동작에 이르기까지 문제해결 전체 과정의 계산 자원량을 결함허용 양자컴퓨팅 관점에서 최적화하는 연구를 추가 수행할 계획이다. 이를 통해, 보다 현실적 측면에서 양자내성암호 양자공략 가능성을 검증할 계획이다.
 
한편, 본 연구는 과학기술정보통신부의 양자컴퓨팅 기술개발 사업과 정보통신기획평가원 양자암호통신 집적화 및 전송기술 고도화 사업 등의 지원을 통해 개발됐으며, 본 성과는 양자정보과학기술 전문 학술지인 퀀텀 사이언스&테크놀로지에 게재됐다.