KIST-경희대 연구진, 차세대 반도체 나노 자석
상태 규명 에너지 최소화 변이 오토인코더 개발
머신러닝 기술로 최적화 문제 해결방법 제시


최적화 문제는 어떠한 목적을 이루기 위한 가장 적합한 해결책을 찾는 문제를 이른다. 간단한 문제라면 모든 경우의 수를 조사하면 되나, 복잡한 문제는 셀 수 없이 많은 경우의 수를 가지므로 여러 연구 분야에서 대표적인 난제로 취급된다.

차세대 반도체 연구에서도 최적화 문제는 등장한다. 실리콘 반도체의 집적 한계를 극복하는 저전력, 고성능 반도체를 개발하는 스핀트로닉스(Spintronics) 분야가 대표적이다. 소재인 나노 자석의 가장 안정적인 상태를 규명하고, 특성을 자세히 파악하지 못하면, 스핀 소자의 정확한 동작 특성과 범위를 설계할 수 없다.

한국과학기술연구원(KIST) 스핀융합연구단 권희영, 최준우 박사, 경희대학교 원창연 교수 연구팀은 나노 자석의 가장 안정적인 상태인 기저 상태(Ground State)에서 나타나는 스핀 구조를 추정하는 생성적 머신러닝 모델(Generative machine learning model)인 ‘에너지 최소화 변이 오토인코더(Energy-minimization Variational Autoencoder; E-VAE)’를 개발했다고 밝혔다.

생성적 머신러닝 기법은 주어진 데이터를 학습하여 그 데이터가 가지는 특성을 추출하고, 재조합하여 새로운 데이터를 생성하기 위해 사용된다. 연구진은 기존 생성적 머신러닝 모델을 나노 자석에 적용하면, 국소적 노이즈 및 흐림 효과 등이 발생하며, 물리법칙에 어긋나는 상태가 생성됨을 확인하였다.

기존 모델에선 입력된 상태보다 새롭게 생성된 상태의 에너지를 낮게 하는 과정이 없어 나노 자석의 기저 상태를 탐색하는 데 사용하기 어려웠다. 연구진은 기존 모델의 하나인 변이 오토인코더(Variational Autoencoder; VAE)에 생성된 상태들의 에너지를 최소화하는 과정을 포함한 E-VAE 모델을 개발하고, 나노 자석의 스핀 구조가 가질 수 있는 최적의 상태를 효율적으로 찾아내는 데 성공했다.

이는 기존 시뮬레이티드 어닐링 기법(Simulated annealing; SA)과 비교했을 때 최적의 상태를 찾는 문제에 있어서 높은 효율과 정확성을 보여줬다.

KIST 권희영 박사는 “최적화 문제는 순수과학이나 반도체 연구뿐만 아니라 수학 및 컴퓨터 사이언스 분야에서도 중요한 연구 주제”라며, “E-VAE 모델은 다양한 분야에서 높은 학술적 가치를 가질 것으로 기대된다”라고 밝혔다. 이번 연구는 과학기술정보통신부 지원 KIST 주요 사업, 교육부 지원 학문 후속 세대 양성사업으로 수행됐다. 연구 결과는 국제 저널 어드밴스드 사이언스 6월호에 게재됐다.