사이언스타임즈 김민재 리포터

인공지능 분야의 연구, 첫 물리학상 수상

2024년 10월 8일, 스웨덴 왕립과학원은 존 J. 호필드와 제프리 E. 힌튼에게  2024년 노벨 물리학상을 수여하기로 결정했다고 발표했다. 이는 인공지능 분야의 연구가 물리학상을 수상한 첫 사례로 순식간에 과학계에도 큰 반향을 일으켰다.

노벨 위원회는 이들의 연구가 인간의 뇌에서 영감을 받아 기계에 독특한 인지 능력을 부여했다고 평가했다. 즉, 이들은 인공 신경망을 이용한 기계 학습을 가능하게 하는 근본적인 발견과 발명에 대한 공로를 인정받았는데, ‘물리학’의 도구를 활용하여 오늘날 강력한 기계 학습의 기반이 되는 방법을 개발한 장본인들인 셈이다. 구체적으로 호필드는 이미지와 다른 유형의 데이터 패턴을 저장하고 복원할 수 있는 연관 메모리를 만들었고, 힌튼은 데이터에서 자율적으로 특성을 찾아내는 방법을 고안했다. 이러한 연구는 인공지능의 발전에 큰 기여를 했으며 특히 딥러닝의 발전에 중요한 역할을 했다.

자연 및 인공 뉴런 비교 © Johan Jarnestad/The Royal Swedish Academy of Sciences

인공 신경망은 인간의 뇌 구조를 모방한 컴퓨팅 시스템으로 복잡한 문제를 해결하는 데 사용된다. 이러한 기술은 자율주행차, 음성 인식, 이미지 분석 등 다양한 분야에서 혁신을 이끌고 있는데, 특히 딥러닝은 대량의 데이터를 처리하고 학습하는 능력을 갖춘 인공 신경망의 한 형태이다. 딥러닝은 의료, 금융, 엔터테인먼트 등 다양한 산업에서 활용되고 있으며 최근 몇 년간 인공지능 연구의 중심에 서 있다. 예를 들어 의료 분야에서는 딥러닝을 활용한 진단 시스템이 개발되어 질병을 조기에 발견하고 치료하는 데 도움을 주고 있다. 금융 분야에서는 딥러닝을 활용한 알고리즘이 시장 변동을 예측하고 투자 결정을 지원하는 데 사용되고 있으며, 엔터테인먼트 분야에서는 딥러닝을 활용한 콘텐츠 추천 시스템이 사용자 경험을 향상시키고 있다.

어떤 연구를 한 과학자들일까?

홉필드와 힌튼은 1980년대부터 인공 신경망에 대한 연구를 시작했다. 그들의 연구는 당시 주목받지 못했다. 하지만 시간이 지나면서 현대 인공지능의 근간이 되었으며 이에 노벨 위원회는 그들의 연구가 없었다면 오늘날 우리가 경험하는 ‘AI 혁명’은 불가능했을 것이라고 언급했다.

존 홉필드와 제프리 힌튼. Ill. Niklas Elmehed © Nobel Prize Outreach

존 홉필드는 1982년 ‘홉필드 네트워크’를 발표했다. 이는 인간의 기억 시스템을 모방한 재귀적 인공 신경망으로, 패턴 인식과 최적화 문제 해결에 큰 기여를 했다. 홉필드 네트워크는 연상 기억(불완전하거나 노이즈가 있는 입력에서도 완전한 패턴을 복원할 수 있음), 에너지 함수(네트워크의 상태를 에너지 함수로 표현하여 안정적인 상태로 수렴하게 함), 병렬 처리(모든 뉴런이 동시에 작동하여 빠른 계산이 가능하게 됨) 등으로 대표되며, 그의 연구는 물리학과 신경과학, 컴퓨터 과학을 연결하는 중요한 가교 역할을 하고 있다. 그의 접근 방식은 이후 볼츠만 머신과 같은 더 복잡한 신경망 모델 개발의 기초가 되었다.

존 홉필드의 연상 메모리는 지형을 형성하는 것과 유사한 방식으로 정보를 저장한다. 네트워크가 학습되면 저장된 모든 패턴에 대해 가상 에너지 지형에 계곡을 만든다. © Johan Jarnestad/The Royal Swedish Academy of Sciences

반면, 제프리 힌튼은 ‘역전파 알고리즘’의 개발과 ‘딥러닝’의 발전에 크게 기여했다. 1986년 힌튼은 데이비드 루멜하트, 로널드 윌리엄스와 함께 역전파 알고리즘을 개발했다. 이 알고리즘은 다층 신경망의 효율적인 학습을 가능하게 했으며, 2006년 힌튼은 제한 볼츠만 머신을 이용한 딥러닝 학습 방법을 제안한다. 이는 깊은 신경망의 효과적인 사전 학습을 가능하게 만들어주었다. 2012년 힌튼의 연구팀은 드롭아웃이라는 정규화 기법을 제안했는데 이는 과적합을 줄이고 신경망의 일반화 성능을 크게 향상시켰다고 평가받고 있다. 최근에는 캡슐 네트워크라는 새로운 신경망 구조를 제안하여 기존 합성곱 신경망의 한계를 극복하려는 시도를 하고 있다. 결과적으로 힌튼의 연구는 이미지 인식, 음성 인식, 자연어 처리 등 다양한 분야에서 혁명적인 발전을 이끌고 있다.

홉필드와 힌튼의 연구는 물리학뿐만 아니라 기후 과학, 의료, 자연어 처리, 금융, 컴퓨터 과학, 생물학 등 다양한 학문 분야에 걸쳐 영향을 미치고 있다. 이들의 업적은 학제 간 연구의 중요성을 보여주며 미래의 연구 방향에 대한 새로운 통찰을 제공하고 있는 셈이다.

존 홉필드의 연관 메모리는 모든 노드가 서로 연결되도록 구축되어 있어 모든 노드에서 정보가 입력되고 읽혀지는 반면, 제프리 힌튼의 볼츠만 머신은 보통 두 개의 레이어로 구성되며, 보이는 노드 레이어를 통해 정보가 입력되고 읽혀진다. 숨겨진 노드는 네트워크의 전체 기능에 영향을 미치는 숨겨진 노드에 연결된다. © Johan Jarnestad/The Royal Swedish Academy of Sciences

제프리 힌튼은 수상 소감에서 놀라움을 표현하며, 기계 학습이 인간의 지적 능력을 초과할 것이라는 믿음을 밝혔다. 그는 AI의 발전 속도가 우리의 예상을 훨씬 뛰어넘고 있다고 주장하며 AI의 개발과 적용에 있어 주의와 투명성이 필요하다고 강조했다. 인공지능의 대부로 불리고 있는 힌튼은 사실 이전에 AI 발전에 기여한 것에 대한 후회를 표명한 바 있다. (관련 기사 바로 보러 가기: ‘인공지능의 대부’, 이제 인공지능을 걱정하다) 그는 자신이 하지 않았더라도 누군가는 했을 것이라고 말하면서도, AI의 잠재적 위험성에 대한 경고를 계속해왔다. 그의 이러한 태도는 AI 기술의 양면성을 잘 보여주고 있다.

존 홉필드는 이번 수상에 대해 물리학의 원리가 인공지능 발전에 중요한 역할을 했다는 것을 인정받아 기쁘다고 말하며 앞으로도 신경과학과 물리학, 컴퓨터 과학의 융합 연구가 더욱 중요해질 것이라고 전망했다.

물리학계의 반응

사실 많은 학자들과 대중은 노벨 물리학상의 주인공이 어떻게 ‘컴퓨터 과학 분야’에서 탄생했는지, 그 결과에 대해 놀라움을 보였다. 이번 수상은 예측이 쉽지 않았지만 물리학자들은 노벨 위원회의 결정을 대체로 환영하고 있다. 홉필드와 힌튼의 연구가 물리학의 원리를 컴퓨터 과학과 신경과학에 적용한 훌륭한 사례라고 평가하며, 특히 통계 물리학과 복잡계 이론이 인공 신경망 연구에 중요한 역할을 했다는 점을 강조한다. 일부 물리학자들은 이번 수상이 학제 간 연구의 중요성을 보여주는 좋은 예라고 말했다. 한 물리학자는 물리학의 경계가 계속 확장되고 있으며 이는 다른 분야와의 협력을 통해 가능해졌다고 언급했다.

물리학계는 홉필드와 힌튼의 연구가 물리학의 원리를 컴퓨터 과학과 신경과학에 적용한 훌륭한 사례라고 평가하며, 특히 통계 물리학과 복잡계 이론이 인공 신경망 연구에 중요한 역할을 했다는 점을 강조한다.  © Johan Jarnestad/The Royal Swedish Academy of Sciences

반면, 물리학계는 AI의 잠재적 위험에 대한 정치적 논의의 필요성을 제기했다. 많은 과학자들이 AI 기술의 발전 속도가 윤리적, 법적 프레임워크의 발전 속도를 앞지르고 있다는 점을 우려하고 있다.

잠재적 위험과 윤리적 우려도 존재한다

노벨 위원회 및 많은 전문가들은 물리학계의 우려처럼 기계 학습 기술의 이점을 인정하면서도 그 오용에 따른 잠재적 위험과 결과를 언급하고 있다. 인공지능 기술의 발전은 많은 이점을 제공하지만 동시에 개인정보 보호, 일자리 대체 등과 같은 사회적 문제를 야기할 수 있기 때문이다.

예를 들면 AI 기술이 개인 정보를 과도하게 수집하고 분석할 수 있는 능력에 대한 우려를 들 수 있으며, 학습 데이터에 내재된 편향이 AI 시스템의 의사 결정에 반영되어 사회적 차별을 강화할 수 있다는 우려가 존재한다. 또한, 자율 주행 차량이나 의료 AI 시스템같이 중요한 결정을 내리는 AI의 오류가 심각한 결과를 초래할 수 있다. AI의 발전으로 인한 자동화가 많은 직업을 대체하여 실업 문제를 야기할 수 있으며, AI 기술이 자율 무기 시스템에 사용되어 윤리적 문제를 야기할 수 있다는 우려가 존재한다. 이러한 문제를 해결하기 위해서는 기술 개발과 함께 윤리적 고려가 필요하다.

반면, 일부 전문가들은 인간의 통제를 벗어난 초인공지능의 출현 가능성에 대해 우려하고 있다. 이러한 우려에 대응하여 노벨 위원회는 인류의 최대 이익을 위해 이 기술을 안전하고 윤리적으로 사용할 인간의 집단적 책임을 강조했다.