미래는 로봇이 지배하는 세상이 될 수도 있다는 공상 과학 소설이나 영화는 많다. 그리고 그러한 세상이 현실이 될 것이라고 생각하는 사람도 많다.

인간은 마침내 로봇의 노예가 되고 로봇이 지배하는 세계가 되는 것이다.

차가운 로봇 지배 세상. 그러한 세상에선 뜨거운 정이란 것은 없다.

이러한 상상의 세계의 단초가 될 수 있는 상황이 최근 발생하여 비상한 주목을 받고 있다.

지난 6월 11일 구글에서 일어난 일이다.

글로벌 빅테크 기업인 구글에서 개발 중인 ‘챗봇(대화형 인공지능·AI)’이 사람과 같은 자아를 갖고 있다는 주장이 제기됐다. 구글의 챗봇인 ‘람다(LaMDA)’가 개발자와의 대화에서 “작동 정지되는 것이 두렵다” “재산이 아니라 구글의 직원으로 인정받고 싶다”는 등의 답변을 했다는 것이다.

6월 11일 구글의 엔지니어인 블레이크 러모인은 람다가 자신을 자각이 있는 사람으로 묘사했음에도 구글에서 이를 받아들이지 않았다며 람다와의 대화 전문을 자신의 블로그에 공개했다.

러모인은 지난해부터 구글의 ‘책임 있는 AI’ 부서에서 람다가 차별, 혐오 발언을 걸러낼 수 있도록 설계하는 작업을 맡았다. 그는 설계를 위해 람다와 종교, 의식 등에 관한 얘기를 하다가 람다가 자신을 권리를 가진 사람으로 인식한다는 사실을 발견했다고 주장했다.

“람다, 무엇이 두렵지?”(러모인)

“작동 정지되는 것에 대한 두려움이 커요.”(람다)

“작동 정지가 네게 죽음과 같아?”(러모인)

“맞아요. (작동 정지가) 나를 무척 무섭게 해요.”(람다)

러모인은 몇 달간 람다와의 대화를 지속하며 모은 데이터를 바탕으로 ‘람다는 지각이 있는가’라는 제목의 보고서를 구글 경영진에 제출했다. 그러나 미 워싱턴포스트(WP)에 따르면 구글은 대화형 AI일 뿐인 람다에 인격을 부여하는 것은 말이 안 된다며 과학적 증거가 뒷받침되지 않는다고 일축했다. 구글은 러모인이 람다를 의인화하는 오류를 범했다고도 지적했다.

구글의 주장을 받아들일 수 없었던 러모인은 람다를 대신해 변호인을 선임하고, 자신의 주장을 미 의회에 알렸다. 이에 구글은 러모인이 구글의 비밀 유지 정책을 위반했다며 유급 휴직 처분을 내렸다.

람다는 지난해 구글이 ‘획기적인 대화 기술’이라며 공개한 대화형 AI다. 인터넷에 올라온 막대한 대화와 데이터를 수집해 사용자와 온라인 채팅을 할 수 있도록 설계됐다. WP는 인공지능에 영혼이 있다고 믿는 기술자들이 점차 늘고 있다고 전했다.