최근 Attention 메커니즘을 바탕으로 한 거대 언어 모델(LLM)의 발전은 사회 전반에 큰 변화를 이끌고 있다. 물리학계에서도 AI의 방법론을 물리 문제에 적용하고, 반대로 물리적 지식을 AI 모델 구조에 녹여내려는 시도가 활발하다. 특히 응집물질물리의 주요 난제인 강상관 문제(strongly correlated problems)를 풀기 위해 Attention 기법을 활용하는 최근의 연구들이 두 분야를 잇는 중심에 있다.

기계학습에서 Attention은 데이터 안의 여러 요소가 서로 얼마나 중요한지 가중치를 두어 전체적인 흐름을 읽어내는 기법이다. 놀랍게도 이러한 수학적 구조는, 고체 속 전자가 주변 수많은 전자의 상태에 따라 자신의 상태를 바꾸는 '강한 상관관계'를 설명하는 데 아주 잘 들어맞는다. 이 점에 주목하면서 최근 다체계(many-body system) 계산 방법론은 빠른 속도로 발전하고 있다.

본 콜로퀴엄에서는 인공 신경망 양자 상태(Neural Quantum States, NQS) 연구의 최근 흐름을 소개한다. 구체적으로 self-attention transformer 구조를 활용해 강상관 문제를 풀고, 변분 몬테카를로(VMC)를 통한 강화학습으로 제일원리(ab initio) 수준에서 바닥 상태(ground state)를 찾아내는 최신 연구들을 다룬다. 이와 함께 현재 진행 중인 본 연구자의 관련 연구 결과도 일부 공유할 예정이다.

이번 강연을 통해 AI의 핵심 기술이 복잡한 물리 문제를 푸는 새로운 도구로 어떻게 쓰일 수 있는지 논의하고, 두 분야의 만남이 열어가는 기초과학 연구의 새로운 방향을 함께 살펴보고자 한다.