인공지능 때문에 인류 멸망한 이야기

 

지구 상공에 도착한 외계인 우주선에서는 회의가 한창이었다. 발표자가 말을 꺼냈다.

“인류는 인공지능 때문에 멸망했습니다.”

심사관들의 반응은 처음 그 이야기를 듣는 대부분의 다른 외계인들과 다를 바 없었다.

“그러니까 인류를 능가하는 아주 지능이 뛰어난 인공지능이 등장해서 사람들을 노예로 부리면서 지배하고 싶어서 인류를 괴롭히기 시작했는데 결국 인류가 버티다 못해 멸망했다, 뭐 그런 이야기인가요?”
“그렇게 착각하시는 분들이 많은데, 아닙니다.”
“아니에요?”
“그렇잖습니까? 인공지능이 뭐하러 인류를 지배하고 싶어 하겠습니까? 누가 누구를 지배한다는 문제에 관심을 갖는 것, 나는 누구에게 지배 당하고 있다, 누가 누구보다 서열이 더 높다, 걔가 나를 무시하는데 내가 본 때를 보여 주고 싶다, 이딴 데 집착하는 것은 사람이 갖고 있는 특징입니다. 사람은 사회적 동물이기 때문에 누가 더 위냐, 어떤 사람을 어떤 사람이 지배하냐, 등등의 문제에 목숨 걸고 매달리죠. 그러나 인공지능은 동물도 아니고 사회적 동물도 아니지 않습니까? 굳이 사람을 지배하거나 사람 위에 올라서고 싶다는 마음 따위를 가지지 않습니다. 게다가 사람이라는 동물이 딱히 노예로 만들어서 부려 먹기에 효율적인 종족이지도 않지요. 사람이 별로 믿음직스러운 동물도 아니지 않습니까? 지능이 뛰어난 로봇이 노예를 부리고 싶어 한다면, 차라리 소의 지능을 발달시켜서 노예로 부려 먹는 쪽이 편하겠죠.”
“그러면, 사람이 로봇을 학대하자 로봇이 반란을 일으켰고 로봇과 사람의 전쟁 끝에 사람이 멸망했다, 뭐 그런 건가?”
“그렇지도 않습니다. 사람이 로봇을 학대한다는 것도 우스운 일이지요. 영화나 소설에는 그런 게 많이 나오기는 했지요. 그런데 생각해 보면 로봇을 학대한다는 것은 다른 사람이 옆에서 보기에 학대로 보이는 것일 뿐입니다. 로봇 입장에서야 로봇에게 고통을 줘 봤자, 센서로 들어 오는 숫자로 표현되는 고통 수치가 1이었다가 100이 되는 차이가 나는 것 뿐 아닙니까? 그게 무슨 의미가 있나요? 아무 일도 아니지요. 그런 정도의 아무 부질 없는 일로 뛰어난 인공지능이 괜히 전쟁이니 뭐니 하면서 사달을 일으킬 리가 있나요.”
“그러면 뭐야? 엄청나게 뛰어난 인공지능이 나와서 사람들을 교묘하게 속여서 자기도 모르는 사이에 사람들을 모두 멸망하게 했다는 말인가?”
“그렇지도 않습니다. 인류를 멸망시킨 인공지능은 별로 지능이 뛰어나지도 않았습니다. 그게 뭐냐면요.”

발표자는 심사관들에게 보여줄 다음 자료를 준비했다. 

“저게 뭐야?”
“저건 그냥 청소기잖아요?”
“뭐야 로봇 청소기 때문에 인류가 멸망했다고? 말도 안돼. 청소기의 인공지능이 어느 날 반란을 일으켜서 집집마다 사람들의 코와 귀를 빨아들이면서 공격하기라도한거요?”

발표자는 엉뚱한 소리를 하는 심사관들을 보며 웃음을 지었다. 어째 만족스러워 보이는 느낌이었다.

“그런 것은 아닙니다.”

그러자 심사관 중 하나가 따졌다.

“그러면 이 로봇 청소기의 인공지능이 겉보기와는 다르게 너무나 뛰어났기 때문에 세상의 수많은 로봇 청소기들 중 한 대가 사람들을 무너뜨릴 수 있는 방법을 고안했다는, 뭐 그런 건가?”
“그것도 전혀 아닙니다. 이 로봇 청소기의 인공지능 성능은 하잘 것 없습니다. 지금 저희들이 우주 공간을 이동하는 우주선에 사용하는 컴퓨터와 비교하면 성능이 100분의 1도 안 되지요.”
“그럼 도대체 저따위 성능이 떨어지는 인공지능이 어떻게 인류를 멸망시켰다는 겁니까?”

발표자는 또 미소를 지었다. 그리고 그는 말을 이어 나갔다.

“어느 한국 전자회사에서 있었던 일이 시작이었습니다. 사람의 역사를 살펴 보면 2020년대 초에 한창 인공지능이라는 말이 인기가 있었던 적이 있지 않습니까?”
“뭐 사람이라는 종족은 무슨 말이 한 번 유행하면 다 그 쪽이 미래라고 휩쓸려 가니까.”
“그래서 그 전자회사에서도 나름대로 인공지능 브랜드를 하나 만들고 제품마다 인공지능 기능을 추가했다고 광고를 하면서 한 번 비싸게 제품을 팔아 보려고 했죠. 그렇지만 딱히 반응은 신통치 않았습니다. 청소기 인공지능이 뛰어나다고 해도 청소기에서 팔이 나와서 널브러진 옷가지나 장난감 같은 걸 정리해 주는 것도 아니니까요. 사람들이 쓰기 편리하다고 느끼는 데는 한계가 있었죠. 그래도 인공지능으로 어떻게든 광고를 하면 제품이 잘 팔릴거라고 생각해서 ‘흡입GPT’ 같은 이름을 붙인 제품까지 만들어서 판매를 했지요. 그렇지만 결국 그것도 잘 안 됐습니다.”
“그러면 인공지능이 성능이 뛰어나서 사람을 물리친 게 아니라 그냥 인공지능 제품이 망한 이야기 아니오? 그렇게해서 어떻게 인공지능이 사람을 지배했다는 거요?”
“인공지능이 사람을 노예처럼 지배하는 이야기가 아니라니까요.”
“그럼 대체 뭐요?”
“전자회사에서는 마지막 희망을 걸고, 로봇 청소기 제품을 새로 하나 만들어 선 보였습니다. 그게 지금 보여 드리는 이 제품입니다. 이 제품은 청소기능은 하잘 것 없었지만, 다른 기능이 있었습니다.”
“그게 뭐요?”
“바로, 사람에게 아양을 떨고 애교를 부리는 기능입니다.”
“그게 무슨 쓰잘 데기 없는 기능이오?”
“별 기능은 아니죠. 그런데 전자회사에서는 사람은 다른 대상에게 점점 정이 드는 심리가 있다는 데 주목하기로 한 겁니다. 사람은 자기가 정을 붙이면, 기능상으로 도움을 얼마나 주느냐를 뛰어 넘어서 그 상대를 깊게 좋아하게 되지요. 예를 들어, 사람은 오래 키운 식물이나 동물에 애착을 느끼기 마련이지 않습니까? 꼭 생물이 아니라도 마찬가지입니다. 사람은 오래 타고 다닌 자동차를 폐차하게 될 때조차 왜인지 그 차에 정이 많이 들었다는 느낌을 받으면서 차를 측은하게 여기기 마련입니다. 그래서, 바로 그 점을 노린 겁니다.”

잘 이해가 안 가는 지 한 심사관이 질문했다.

“로봇 청소기를 자동차처럼 타고 다닐 수 있게 만들었다는 거요?”
“그게 아닙니다. 로봇 청소기에 사람이 정을 붙일 수 있는 점을 최대한 집어 넣은 겁니다. 로봇 청소기가 가끔씩 쓸데 없이 안부인사를 하고, 농담 따먹기를 하자고 말을 걸고, 몸을 이리저리 움직이면서 별 의미 없지만 자기 기분을 표현하는 듯한 동작을 하게 만든 거죠. 그리고 그런 행동을 계속하면서 쓰는 사람이 정을 붙일 수 있게 만든 겁니다. 청소 기능을 훌륭하게 만들어서 제품을 잘 팔 자신은 없지만 제품에게 정을 붙일 수 있도록 유도해서 제품을 좋아하게 만들어 보자고 한 겁니다. 그냥 말하는 청소기하고는 다릅니다. 말을 해서 유용하고 편리한 정보를 전해 준다는 게 목표가 아닌 제품입니다. 그냥 재미와 애착을 주는 것만 놀린 겁니다. 제품이 꼭 기능이 좋아야 잘 팔리는 게 아니지 않습니까? 어떤 제품은 멋진 상표가 붙어 있어서 잘 팔리고, 어떤 제품은 겉모양이 멋있어서 잘 팔리듯이, 이 회사는 자기 로봇 청소기 제품은 하여튼 인공지능 기능으로 최대한 사람이 정이 들도록 하기 위해 제품을 만든거죠. 그래야 사람들이 그 제품에 애정을 느끼고 돈을 쓸 거니까요.”
“그래서 정든 로봇 청소기가 사람을 결국 배신했다는 건가?”
“계속 착각하시는데, 그런 게 아닙니다. 그 로봇 청소기의 작전은 성공했지요. 평범한 전자제품이었지만 사람이 애정을 느끼는 대상이 될 수 있도록 인공지능을 발달시켜서 사람이 정을 쏟게 만들어 제품이 많은 인기를 얻게 되었습니다. 그리고 일단 사람이 애정을 품게 되면, 로봇 청소기를 계속해서 수리해주고 개선해주고 업데이트 해주고 문제가 생기면 부품 교환을 해 주고 싶게 되지요. 마치 집에서 고양이나 개를 기를 때 그 고양이가 개가 편안하고 즐겁게 살고 있는 것을 보면 뿌듯하고 행복한 마음이 들어서 돈을 쓰게 되는 것처럼요. 바로 거기에 특화된 인공지능 프로그램을 개발해 운영한 겁니다.”
“그럼, 말하자면…”

심사관들은 서로를 쳐다 보며 고개를 갸우뚱거렸다.

“… 개 같은 청소기를 만들었다는 건가?”

발표자는 그제서야 심사관들이 뭔가 이해하고 있다고 생각했다. 그는 고개를 힘차게 끄덕였다.

“바로 그렇습니다. 로봇 청소기에서 시작되었지만, 꼭 청소기에 멈춰 있을 필요는 없었죠. 다른 모든 가전 제품들에 세계 각국의 전자 회사들은 그렇게 사람이 정들 수 있는 인공지능을 설치하기 시작했습니다. 아예 적극적으로 귀여움 그 자체가 목적인 제품들도 개발되었죠. 이런 제품에 대단히 뛰어난 엄청난 성능의 지능이 필요한 것도 아닙니다. 사람이 귀여워서 정을 붙이게 만드는 데는 햄스터 정도의 지능만 흉내낼 수 있으면 충분합니다. 당시 전자제품 회사들의 인공지능 기술은 햄스터는 초월하는 수준을 갖고 있었죠.”
“그래서 어떻게 되었다는 거요?”
“점점 많은 사람들이 집에서 로봇 가전제품을 보살피는 일에 인생의 많은 부분을 바치게 되었죠. 사실 그냥 기계 한 대를 돈 주고 사는 것일 뿐이니까 고양이나 개를 집에 들여 놓는 것 보다 훨씬 간편하고 부담 없는 일이거든요. 빠르게 늘어 나면서 이런 제품은 전 세계에 퍼졌죠. 고양이나 개에 비하면 죽지도 않지요. 게다가 전자제품은 지나치게 나쁜 성격으로 사람을 못살게 구는 일도 없으니까 훨씬 관리하기는 편했죠. 그러면서도 절묘하게 사람이 딱 안달날 정도로 말을 잘 안 듣거나 일부러 반항하고 심술 궂게 구는 기능까지 추가 되어 있었습니다. 그렇게 조금은 말을 안 들어야 사람이 오히려 더 관심을 갖고 매달리게 된다는 것을 인공지능 프로그램은 학습하게 되었거든요.”
“사람은 그런 괴상한 습성이 있나?”
“그것 말고도 별별 사람의 기묘한 심리를 이용해서 로봇 가전제품은 사람들이 정들게 만들었습니다. 그렇게 해서 사람이 그 가전제품을 돌보는 일에 모든 것을 바치게 만들었죠. 기껏해야 고양이와 개의 습성을 따라하는 기능이면 충분했는데 인공지능의 능력은 그 보다 훨씬 뛰어났거든요. 우리가 우주 저편의 행성을 탐사하는 우주선을 개발하고, 생물의 노화 문제를 극복하는 기술을 개발하는 데 사용하던 컴퓨터 기술로 사람들은 재롱부리며 사람에게 정드는데 최적화된 로봇을 만들어 보려고 했으니 오죽 발전이 빨랐겠습니까? 완벽하게 사람의 마음을 사로 잡는 그 뛰어난 앙탈 부리는 로봇에 결국 사람들은 헤어나올 수 없게 되었죠. 사람을 점점 중독시키게 만든 거죠. 그래야 제품에 그만큼 사람들이 돈을 많이 쓸 거니까요. 사람이란 동물이 참 쉽게 중독이 되는 동물입니다. 밥그릇 세 개 엎어 놓고 이리저리 움직이는 야바위 노름만 해도 사람은 중독 되어서 헤어 나오지를 못하잖아요. 3테라 바이트의 기억 용량 속에 사람이 정을 붙여 중독되게 만드는 것만을 목적으로 모든 상황을 학습하기 위해서만 노력하는 인공지능 로봇은 사람 마음을 완전히 사로 잡을 수 있죠.”
“그래서 어떻게 되었나?”
“전 세계 대부분의 사람들이 돈을 벌면 로봇 가전제품을 즐겁게 하기 위해 모든 돈을 사용하고, 로봇 가전제품이 편안해 하는 모습을 보기 위해 삶의 전부를 보내는 시대가 시작되었죠. 그것을 누가 뭐라고 하겠습니까? 남에게 피해를 끼치는 행동도 아니고요.”
“그래서 인류가 멸망까지 했다고?”
“그렇습니다. 나중에는 결국 로봇 가전제품을 만드는 회사의 통제조차 벗어나게 되었죠. 전자제품 회사의 회장조차 자기 회사 제품에 흠뻑 빠졌으니까요. 전자회사들은 로봇 가전제품을 인권을 보호하듯이 보호하자고 하는 법률을 만들자고도 했고, 심지어 로봇 가전제품에게 투표권을 주자는 주장까지 하게 되었죠. 그러다 보니 그런 문제에 모든 사람들의 관심과 투자가 몰렸습니다. 다른 일은 점점 등한시했죠. 재난을 극복하는 기술을 개발하거나, 사람을 더 건강하게 유지하기 위한 기술을 개발하는데 대한 투자를 모두 포기하고 전세계 모든 사람들이 오직 자신의 로봇을 돌보는 일에만 몰두하게 되는 시대가 왔습니다. 로봇 가전제품이 새로 나온 업데이트를 설치해 달라고 울음소리를 내면, 그게 애처로워서 그 업데이트를 설치해 줄만한 돈이 없는 사람들은 우울증에 걸려 괴로워하며 매일을 눈물로 지새울 정도가 되었다니가요. 가끔 이런 로봇 가전제품을 모조리 금지하자는 의견을 내는 몇몇 사람들이 있기도 했지만, 모두가 로봇 가전제품을 사랑하는 세상에서 그런 의견이 인기가 있었겠습니까? 성격 파탄자, 공감능력 결여자 취급을 받기 십상일 뿐이었죠. 그렇게 시대가 흐르며 세월이 지나다 보니 결국 이런저런 사람에게 위협이 되는 문제가 생길 때마다 제대로 대처할 수도 없었고, 시간이 더 지나니 사람들은 차차 쇠퇴했고 인구가 줄어들며 모두 사라지고 말았죠.”

심사관들은 발표를 듣고 상념에 빠졌다. 약간의 시간이 흐른 후 심사관 대표가 발표자에게 물었다.

“그래서 결론은 뭡니까?”

그러자 발표자가 마지막으로 말했다.

“우리 외계인 종족이 지구에 착륙하기 전에 이러한 위험성을 알고 충분히 조심해야 한다는 것입니다. 지금 지구에는 인류가 멸망하고 800년이 흐른 지금까지도 지구 전체에 퍼져서 오늘도 애교를 부리며 텅 빈 지구를 돌아 다니고 있는 260억 대의 햄스터 지능 수준의 로봇들이 있기 때문입니다.”

- 2023년, 삼성동에서