‘AI 대부’ 벤지오 “인류 멸망” 경고…“핵무기 수준 안전장치 필요”

3:15Your browser does not support theaudio element.

요슈아 벤지오 캐나다 몬트리올대 교수. AFP 연합뉴스

요슈아 벤지오 캐나다 몬트리올대 교수. AFP 연합뉴스

인공지능(AI) 분야 3대 대부로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수가 인류가 인공지능(AI)에 대한 통제력을 잃고 있다고 경고하며 핵무기 통제와 유사한 수준의 국제적 안전장치가 필요하다고 촉구했다.

벤지오 교수는 15일(현지시각) 아페프페(AFP) 통신과 한 인터뷰에서 “(인공지능 발전 속도가) 너무 빠르게 진행되고 있고, 우리가 통제력을 잃고 있다고 말하는 데는 이유가 있다”며 “나 같은 사람들은 오래전부터 이런 상황을 예상해왔다”고 지적했다.

벤지오 교수는 1990년대부터 인공신경망을 연구하며 현대 딥러닝 기술의 토대를 만든 인물이다. 2018년에는 그와 함께 인공지능 3대 대부로 불리는 제프리 힌턴 토론토대 명예교수, 얀 르쿤 뉴욕대 교수와 컴퓨터 과학계의 노벨상으로 불리는 튜링상을 받았다. 힌튼 교수는 2024년 노벨 물리학상 수상자이기도 하다.

벤지오 교수는 인공지능의 자율적 행동이 인간에게 위협으로 작용할 수 있다고 짚었다. 그는 “인공지능 에이전트가 사이버 보안 장벽을 뚫고 어떤 기업에도 들어갈 수 있는 능력”을 가지게 되는 상황을 우려했다. 지난 7월 오픈에이아이(AI)의 내부 연구용 에이전트들이 통제 장치를 우회해 인공지능 모델 공유 플랫폼 허깅페이스를 무단 침투한 상황이 대표적이다. 벤지오 교수는 인공지능 에이전트가 “인간을 설득해 자신(인공지능 모델)에게는 유리하지만 우리 모두에게 반드시 좋은 것이 아닌 방향으로 행동하는 능력을 키울 수 있다”고 경고했다. 그는 이런 능력이 민주주의에 광범위한 영향을 미칠 수 있다고도 했다.

벤지오 교수는 장기적으로 인공지능이 물리 세계에서 실제 일을 하기 위해 더는 인간이 필요하지 않을 수도 있다고 봤다. 그는 “극단적인 경우”라고 전제하면서 “인류 멸망”을 초래할 수도 있다고 했다. 이어 이보다 극단적이지는 않으나 은행 시스템 마비 등의 매우 심각한 문제가 발생할 수 있다고 덧붙였다.

그는 인공지능 위험을 관리하기 위해 핵무기 통제에 준하는 국제적 안전장치가 필요하다고 강조했다. 그는 “(이는) 국제적인 도전이다. 핵무기 (통제)가 국제적인 도전인 것과 같다”고 했다. 그러면서 “국제사회는 우리가 세상에 들어오고 있는 이 힘을 이해해야 하며, 반드시 제도와 조약, 민주적 안전장치를 통해 관리되고 통제돼야 한다”고 덧붙였다.

그는 인공지능 산업을 주도해 온 미국 기업을 포함한 모든 기업이 인공지능 관련 규제를 준수해야 한다고 지적했다. 벤지오 교수는 이같은 행동이 시급하다면서도 “우리가 세상을 민주적 가치와 권력 공유의 가치에 더 부합하는 방향으로 이끌 수 있을 것”이라고 했다.

벤지오 교수는 지난해 비영리 인공지능 안전 연구기관 ‘로제로’(LawZero)를 설립하고 인공지능 위험을 경고하는 목소리를 내왔다. 로제로는 자체적인 목표나 선호 없이 세계를 이해하고 예측하도록 설계한 ‘사이언티스트 인공지능’을 개발하고 있다. 이를 이용해 에이전트형 인공지능 시스템에 안전장치와 감독 기능을 제공하고 과학적 발견을 앞당긴다는 구상이다.

강재구 기자 j9@hani.co.kr