인공지능(AI)의 대부 격으로 통하는 저명한 과학자가 연일 AI의 위험성을 경고하고 나섰다. AI는 끊임없는 학습을 통해 그리 머지않은 미래에 인간의 능력을 추월할 것이기에 인간의 통제를 벗어날 수밖에 없다는 것이다.

50여년간 AI를 연구해 챗GPT 등이 세상에 나오는 데 큰 역할을 했다는 평가를 받는 제프리 힌턴(76) 박사는 2일 공개된 영국 공영방송 BBC와의 인터뷰에서 이같은 우려를 나타냈다.

그는 지금까지 10여년간 구글에서 AI를 연구하다 최근 회사를 떠났다. 그는 앞서 미국 언론 뉴욕타임스(NYT)에 보낸 성명에서 구글과 결별한 것은 조직에서 벗어나 AI의 위험성을 자유롭게 알리고 싶기 때문이라고 밝힌 바 있다. 힌턴 박사는 BBC에 "AI 챗봇의 위험성은 매우 무서운 정도"라고 말했다.

그는 "지금으로선 그들은 우리 인간보다 덜 지능적일 수 있지만, 곧 그들은 인간을 추월할 것"이라고 말했다.

영국 태생으로 1972년부터 인공지능을 연구해 온 그는 컴퓨터가 정보를 분석할 수 있는 인공 신경망과 딥 러닝이라는 기술을 개척한 인물로, 챗봇과 같은 현 AI 시스템에 대해 누구보다 잘 알고 있는 과학자로 꼽힌다.

챗봇이 흡수하는 정보량은 머지않아 사람의 두뇌가 감당할 수 있는 수준을 뛰어넘을 것이라는 게 힌턴 박사의 설명이다.

그는 "지금 우리는 GPT-4와 같은 것들이 사람보다 훨씬 많은 일반상식을 습득하고 있는 것을 보고 있다"라며 "사고(思考)의 측면에선 아직 챗봇들은 그만큼 잘하지는 못하지만 이미 간단한 사고는 하고 있으며, 발전의 속도를 보면 챗봇들은 이마저도 꽤 빨리 잘하게 될 것"이라고 말했다.

AI의 이런 점들이 우려되는 것이라고 힌턴 박사는 덧붙였다.

그는 앞서 NYT 기사에선 블라디미르 푸틴 러시아 대통령과 같은 악인이 AI를 나쁜 일에 쓰게 되는 상황을 우려한 바 있다. 

이에 대해 힌턴 박사는 "최악의 상황에 대한 얘기"라고 부연했다.

그는 "예를 들어 푸틴과 같은 악인이 AI에 스스로 어떤 AI만의 부차적인 목표를 설정하도록 허용하는 경우를 생각해볼 수 있다"라며 이렇게 되면 AI가 '더 강한 힘을 가지겠다'는 등의 목표를 스스로 정할 수 있다고 설명했다.

그러면서 그는 인간이 AI를 감당할 수 없는 이유는 인간은 생물이라는 유한한 존재이기 때문이라고 설명했다.

그는 "우리가 생물학적인 시스템이라면 AI는 디지털 시스템"이라고 언급하고, "디지털 시스템은 이 세상을 수많은 복사본으로 만든 다음 각각의 복사본을 통해 학습한 지식을 끊임없이 섞을 수 있다"고 말했다.

이는 마치 1만명의 사람이 있다고 했을 때 한명이 무엇인가를 알게 되면 나머지 9천999명도 동시에 이를 알게 되는 것과 같다고 힌턴 박사는 부연했다.

이런 점 때문에 챗봇은 어떤 누구보다 많은 것을 알 수밖에 없다는 것이다.

그러나 힌턴 박사는 구글을 비난하고 싶지 않고, 구글을 나온 것도 회사의 좋은 점을 홍보해주고 싶기 때문이라고 덧붙였다.

구글의 수석 과학자인 제프 딘은 성명을 통해 "우리는 AI에 대해 책임감 있는 접근을 하기 위해 애쓰고 있으며, 과감한 혁신을 추구하면서도 새로운 위험을 이해하는 방법을 배우고 있다"고 밝혔다.