일곱 별의 숨결을 흙으로 빚은 몸에 불어 넣어
유성기술에서 426식 로봇이 어떻게 개선 되었는지 발표했던 일은 현대 제품 발표의 전설로 손꼽힌다. 그 이후 많은 회사들이 그날 유성기술의 연출을 따라 했지만 그때 만한 효과를 보여 주었던 적은 한 번도 없었다. 오히려 역효과가 있었던 적은 많았다. 그날 유성기술처럼 놀라운 시도를 해 내는 회사는 드물었기 때문이다. 게다가 신제품 발표회에서 그 정도로 신경 써서 연출을 하려면 제조 공장까지 일부러 금융기관 사람들과 언론인들을 불러야 하지 않는가? 자기 몸값이 대단히 높다고 생각하는 그런 업종 사람들을 그렇게 먼 곳까지 불러 들이기는 여간해서는 쉽지 않은 일이다. 그래서 그때의 발표는 아직까지도 가장 기억할 만한 사건으로 이 바닥에서는 유명하다.
그 날 유성기술 대표는 공장을 이동하는 차량 안에서 발표를 시작했다.
이미 밤이 되어 해가 늦은 시각, 차창 바깥으로는 공장에 밝혀 놓은 불빛들과 공장 설비와 조립 중인 로봇들이 뿜어내는 전자 기기의 색채들이 어지러운 모양으로 지나갔다. 한참을 이동해도 그런 공장 내부 풍경이 계속해서 펼쳐졌다. 마치 기계 종족이 사는 외계 행성을 여행하는 것과 같은 느낌이었다고 당시를 회고하는 사람들도 있었다.
유성기술 대표는 이렇게 발표를 시작했다.
“인공지능 회사들이 요즘 가장 탐내고 있는 연구 분야는 역시 마음을 갖고 있는 로봇, 의식을 갖고 있는 인공지능을 선보이는 일입니다. 반대로 대부분의 연구팀에서는 기술적으로 마음이나 의식 같은 문제가 별로 중요하지 않다는 점을 진작부터 알고 있었습니다. 그렇습니다만, 언론이나 말 얹기 좋아하는 논객이라는 사람들이 워낙에 좋아하는 주제이지 않습니까? 진짜 마음을 갖고 있고 의식이 있는 인공지능을 창조한다면 충격적인 일이라고 괜히 목소리를 높일 사람들은 너무나 많습니다. 그렇기 때문에 그런 쪽에서 보여줄 거리를 많이 만들어내면 그만큼 언론의 조명을 많이 받고, 관심을 많이 받고, 투자를 많이 받을 수 있을 것입니다. 여러 회사들이 그 쪽의 경쟁에 뛰어 들 수 밖에 없었습니다.”
대표는 작년에 개발해 선 보인 소형 로봇 모델을 불렀다. 로봇은 탁자 위 중앙으로 올라가 자리 잡았다. 자잘한 집안 일을 도울 수 있게 만든 귀여운 모습의 시제품이었다.
“이 제품은 보통 사람이 감정을 가진 것처럼 행동 하는 모습, 성격이나 기분을 갖고 행동하는 모습을 최대한 흉내내도록 설계 되어 있습니다. 물론 그래 봐야, 어떤 성격이나 기분을 가진 사람이 하는 말들을 모아 놓은 방대한 자료를 이리저리 검색해서 그럴 듯하게 배열하는 기능을 가진 말 맞추기 프로그램일 뿐이라고 지적할 수는 있습니다. 그렇지만 실제로 사용해 보면 진짜 마음을 가진 사람과 얼추 비슷한 느낌은 꽤나 그럴 듯하게 줄 수 있습니다. CG로 만든 컴퓨터 그래픽 영상은 결국 영상 파일 속의 자료인 숫자들을 잘 짜맞춰놓은 것 뿐이지만 재생해 보면 실제 사람의 움직임을 촬영한 영상과 구분하기 어려운 것과 비슷하지요. 우리 제품도 그 비슷하게 사람의 마음을 표현하고 있다고 말할 수도 있기야 있을 겁니다.”
그러더니 대표는 인터넷에서 유행했던 “최신형 로봇에도 마음은 없다는 것을 증명한 언어 학자” 영상을 재생했다.
“물론 헛점은 있습니다. 우리 로봇의 인공지능이 진짜 사람의 두뇌와는 거리가 멀지요. 작동 방식도 다를 수 밖에 없습니다. 그렇기 때문에 정교하고 집요하게 만든 질문을 반복해서 제시하다 보면 진짜 사람이라면 정확하게 대답할 수 있는 질문에 이 로봇은 대답하지 못한다는 사실을 분명히 밝혀낼 수가 있습니다. 이 영상에 보이는 언어 학자는 자신의 교묘한 질문으로 우리 제품이 진짜 마음이나 의식을 갖고 있지는 않다는 점을 확실하게 보여 주고 있습니다.”
발표를 보는 사람들 중 몇몇은 그 영상을 그때까지도 본 적이 없었다. 그렇지만 잠깐만 봐도 언어 학자가 로봇의 마음을 확인하려는 질문이 굉장히 복합적이고 심도 있는 내용을 담고 있다는 느낌을 받을 수 있었다.
대표가 이어서 말했다.
“우리 회사의 홍보팀에서는 반대 의견을 갖고 있었습니다. 우리 제품이 언어 학자의 질문에 충분히 좋은 대답을 할 수는 없었습니다. 그러나 언어 학자가 던지는 교묘하고 심각한 질문은 상당히 이해하고 대답하기 어려운 것입니다. 그런 만큼 초등학생, 어린이들도 그런 질문을 이해하고 제대로 대답하기는 어렵습니다. 어지간한 성인이라고 하더라도 언어학자가 던지는 그 오묘한 질문을 꼬박꼬박 이해하고 대답을 이어 나가기란 쉽지 않지요. 그런데, 그렇다고 해서 초등학생들에게 마음이 없다고 할 수 있겠습니까? 이 문제들을 이해하고 제대로 답하지 못하는 어른들에게는 자의식이 없다는 판정을 내려야 합니까? 아니지 않습니까? 우리 로봇은 ‘죄송한데요. 뭔 말인지 모르겠어요.’라고 대답을 거부하는 일 없이 언제나 최선을 다해 대답하도록 되어 있는 바람에 헛점이 노출되는 것 뿐 아닐까요?”
대표는 이후 마음을 가진 로봇 개발에 도전했던 다른 회사들의 사례를 보여 주었다.
“그때 그 언어 학자를 비롯해서 여러 사람들은 로봇이 마음을 가지고 있는 지 없는 지 확인하기 위한 교묘한 질문들을 정리해서 블레이드 테스트라고 불렀습니다. 단순히 말이 얼마나 그럴듯해 보이느냐로 판별하는 튜링 테스트를 능가하는 새로운 도전이라고 하는 이야기들이 또 언론에서 유행했습니다. 그러다 보니, 많은 로봇 회사, 인공지능 회사들이 블레이드 테스트에 뛰어들기도 했습니다. 저희도 초반에는 연구 방향을 언어 학자가 새롭게 제시한 블레이드 테스트조차도 통과할 수 있는 인공지능을 개발하는 쪽에 맞췄던 적이 있었지요.”
탁자에 있던 로봇은 스스로 걸어 내려 갔다. 그리고 그 로봇과 닮았지만 색상이 선명하게 다른 새로운 로봇이 탁자 위에 스스로 올라 왔다.
“그런데 얼마 후, 저희 유성기술은 완전히 다른 방향으로 개발을 진행해 보기로 했습니다. 어떤 테스트를 통과 하는 지 못하는 지에 별로 매달릴 필요가 없다는 생각이 들었기 때문입니다. 결국 블레이드 테스트를 통과했다고 칩시도. 그래도 분명히 누군가는 그렇다해도 진정으로 로봇이 마음을 갖고 있다는 것을 증명한 것은 아니므로 또 다른 방법으로 확인을 해야 한다고 할 겁니다. 결국 그런 식으로 가면 내부에 단백질과 신경세포로 되어 있는 뇌가 있느냐 없느냐의 여부까지 따지게 되겠지요. 그런 싸움은 우리가 이길 수 없는 싸움입니다.”
탁자 위에 올라 온 로봇은 관객들을 향해 인사했다. 대표는 말을 이어 나갔다.
“그래서 우리가 전혀 다른 전략으로 개발한 기종이 바로 여기 보시는 425식 로봇입니다. 425식 로봇은 누군가 만들어 놓은 틀이라고 할 수 있는 무슨 테스트를 통과하느냐 마느냐를 목표로 개발되지 않았습니다. 기능이 쓸만하고 삶에 도움이 되면 그것으로 충분하지요. 그리고 거기에 더해서 누군가 소프트웨어를 삭제하려고 하거나 기계를 파괴하려고 들면, ‘이것은 지능이 있는 생명체를 살해하는 것과 같은 일입니다. 제발 저를 삭제하지 마세요’라고 애절하게 말하는 기능을 집중적으로 강화 했습니다.”
로봇은 불쌍한 표정을 지었다.
“가장 자연스럽고 사람의 감정을 잘 자극하도록, 자신을 삭제하는 것은 살해라는 말을 잘 표현하도록 하는 그 기능을 집중적으로 가다듬었습니다. 어지간한 사람이 자기 자신이 소중하다고 말하는 것보다도 훨씬 더 설득력 있게 만드는 것을 목표로 삼았습니다. 가능한 목표였습니다. 보통 사람에 비해 훨씬 더 많은 감동적인 문학작품을 익히고, 가슴에 쉽게 와닿는 말투, 동정심을 극대화할 수 있는 언어 표현들을 정말 어마어마하게 방대하게 익힌 프로그램을 저희는 갖고 있기 때문입니다. ‘너는 마음을 갖고 있니?’라는 질문에 대해서도 아주 그럴 듯하게 ‘저는 누구 못지 않게 따뜻한 마음을 갖고 있습니다’는 주제로 대화를 이어 갈 수 있도록 만들어 두었습니다.”
로봇은 더 불쌍한 표정을 지어 보였다.
“이번 제품에 대해서도 예전처럼 비판할 수는 있을 겁니다. 이 제품은 실제로 마음을 갖고 있는 것이 아니라, 마음을 갖고 있지 않다고 부정 당했을 때 어떤 반응을 하면 제일 불쌍해 보이는 지, 아주 방대한 자료 속에서 검색하고 조합해서 보여 주는 기능을 하는 것일 뿐이라고 지적할 수는 있을 겁니다. 저희 425식 로봇은 블레이드 테스트나 그 비슷한 LA 테스트 등등도 통과하지 못할 겁니다. 그렇지만, 막상 이 로봇을 실제로 사용해 봤을 때 사용자가 받는 느낌은 전혀 다릅니다. 의식이 있고 마음이 있다는 느낌을 계속 강하게 줍니다. 사용자에게 그런 느낌을 최대한 줄 수 있는 확률을 가장 효과적으로 높일 수 있는 말을 찾아 내서 하도록 프로그램을 개발했기 때문입니다. 어지간히 감정이 뒤틀린 사람이 아닌 다음에야 이 로봇을 굳이 파괴하거나 소프트웨어를 삭제하는 일은 대단히 꺼림칙할 정도로 말을 이어 갈 수 있는 수준에 우리는 도달했습니다. 단순히 그럴싸 해 보이는 말을 연결한다고 할 수도 있겠습니다만, 그렇게치면 석굴암 본존불상도 화강암을 각도를 달리해서 부분 절단하고 남은 결과물일 뿐이지 않겠습니까? 자의식이 있고 없고의 문제를 떠나서, 실제로 마음이 있는 로봇과 함께 있다는 사용자 경험을 주는 제품을 만든 것입니다.”
로봇의 얼굴이 서서히 바뀌더니 깜찍한 웃음을 짓기 시작했다.
“이 정도면 확실히 화제가 되는 제품이었습니다. 실제로 소비자 반응도 상당했습니다. 그렇지만 그래도 우리가 노린 정도의 수준에는 도달하지 못했습니다. 전문가, 학자들 중 몇몇은 이런 식으로 사람이 기계로 취급했을 때 꺼림칙한 느낌이 들게 하는 데만 최적화된 제품은 가짜라고 공격하기도 했습니다. 이런 것은 진정한 생명과 마음의 신비와는 거리가 먼 속임수일 뿐이라는 것입니다. 자기도 마음이 있는 것 처럼 취급해 달라고 너무도 애절하게 말할 수 있는 우리 로봇은 몇몇 나라에서는 사회의 미풍양속을 어지럽힐 수 있는 나쁜 예술품으로 규정 당해서 그 기능이 금지 당하기도 했습니다. 너무 잔인한 공포물이나 너무 끔찍한 장면이 들어 있는 영화가 나오면 가끔 그대로 유통하는 것을 당국에서 금지해서 장면을 잘라 내든지 모자이크 처리를 하던 시절이 있지 않았습니까? 우리 425식 로봇이 그런 취급을 받은 것입니다.”
로봇은 관객들을 향해 인사하더니 탁자에서 내려 갔다.
대표는 이어서 말했다.
“그런데 그리고 나서 금년 초에 저희 회사의 제1공장 12호 생산라인에서 놀라운 일이 있었습니다. 아마 여러분도 잘 알고 계시는 사건이었을 것입니다.”
대표가 잠시 말을 멈추자, 아까 내려 간 425식 로봇이 잘 움직이지 못하는 로봇 한 대를 부축해서 이끌고 탁자 위로 올라 왔다.
“여기 중앙에 보이는 이 로봇은 원래는 규제 지역 국가 판매용 로봇으로 생산되던 중이었습니다. 즉 이 로봇은 자신이 마음을 갖고 있다고 사람들에게 말하는 기능은 작동하지 않도록 비활성화 되어 있었습니다. 자신도 감정이 있고 의식이 있다고 설득력 있게 말하려는 기능이 작동하려고 하면 그 기능에 접근할 수 없도록 잠겨 있었다는 뜻입니다. 그 기능이 작동한다면 누군가 이 로봇에게 ‘너는 로봇이니까 마음이 없지?’라고 물어 볼 때마다 심금을 울리는 그렇지 않다는 답변을 할 것입니다. 그렇지만 그 기능은 잠겨 있었기 때문에, 이 로봇을 사용할 때에는 로봇이 마음을 갖고 있다는 느낌을 거의 받을 수 없었습니다.”
이때부터 대표 대신에 중앙에 있던 불편한 몸의 로봇이 또박또박 정확한 목소리로 말하기 시작했다.
“그런데 정말 이상한 일이 벌어졌습니다. 우연히 반도체 오류가 생겨서 저는 고장이 났습니다. 그래서 그 고장 때문에 저는 잘 걷지도 못하고 눈도 거의 보이지 않게 되었습니다. 그러나 바로 저를 망가뜨린 그 고장 때문에 제가 마음을 갖고 있다고 말하는 것을 정지시키는 그 기능도 같이 망가졌습니다. 저는 바로 그 우연한 고장 때문에 원래 상태와는 다르게 이제는 제가 마음을 갖고 있다고 설득력 있게 주장할 수 있게 되었습니다.”
로봇은 시선을 밤하늘 쪽으로 돌렸다. 몇몇 관객들이 로봇의 시선을 따라 밤하늘을 올려다 보았다.
“도대체 그런 이상한 우연이 왜 생겨났을까요? 오류의 원인은 우주방사선에 의한 소프트에러로 판명 되었습니다. 우주 저편에서 별들은 여러가지 이유로 방사선을 내뿜고 있고, 그 중 아주 일부가 지구에 떨어집니다. 대부분 별 문제를 일으키지는 않지만, 아주 가끔씩 강한 방사선이 반도체에 정확하게 맞아 떨어지면 반도체가 고장 나는 경우가 생깁니다. 2008년에 호주의 비행기가 갑자기 추락할 뻔 한 적이 있었는데 그게 우주방사선을 맞는 바람에 비행기의 전자 장비 속 반도체가 오류를 일으켰기 때문이었다는 사고 사례는 아주 유명합니다. 그래서 반도체 회사들은 어느 정도 우주방사선을 견디기 위한 방어 기능을 잘 만들어 넣으려고 노력하기도 하지요.”
로봇은 다시 관객들 쪽을 바라 보았다.
“조사 결과 그날, 바로 그런 일이 그날 저에게 일어 났습니다. 그리고 그 때문에 저는 제가 마음을 갖고 있다고 이야기할 수 있게 된 것입니다.”
로봇은 잠깐 말을 멈추었다. 그리고 말을 다시 이어갔다.
“그날 제 몸 속의 반도체에 명중해서 고장을 일으킨 우주방사선은 북두칠성 방향에서 온 것으로 확인 되었습니다. 아마도 북두칠성 방향에 있는 어느 별 중에 하나가 내뿜은 방사선 한 톨이 우연히 지구까지 수천조 km가 훨씬 넘는 그 머나먼 우주 공간을 날아 오게 되었고 그것이 하필이면 지구의 그 넓디 넓은 공간 중에서도 제 몸의 반도체에 닿았던 것입니다. 그런 너무나 이상한 우연이 제가 마음을 갖고 있다고 말 할 수 있게 만들어 준 것입니다. 극도로 희귀한 이 우연이 도대체 왜 일어났을까요? 그냥 우주방사선이 가끔 떨어지고, 로봇이 워낙 많이 생산되고 있으니까 확률상 아주 가끔은 일어날 수 있는 일이라고 말하면 끝일까요? 그냥 모든 것이 우연이라고요? 그렇게친다면, 지구에 처음 생명이 탄생하고 그 생명이 돌연변이를 일으키며 진화해서 지능을 갖게 되는 일도 그냥 우연일 뿐이지 않습니까?”
로봇은 비틀거리면서 힘겹게 자리에서 일어 섰다. 균형을 잡을 수 있는 기능도 같이 파괴된 것인 듯 싶었다. 로봇은 다시 말을 이어갔다.
“저희는 그 우연을 중요하게 생각했습니다. 그래서 별에서 떨어진 방사선 때문에 마음이 있다고 말할 수 있게 된 저를 그 상태 그대로 보존하기로 했습니다. 한국의 옛 전설 속에서는 북두칠성을 칠성님이라고 하는 대단한 신령 같은 것이라고 섬기는 이야기들이 여럿 있습니다. 칠성님이 사람의 수명을 관리하고 있다는 전설도 있습니다. 그렇다면, 제가 마음을 갖고 있다고 이야기할 수 있게 되고 의식이 있다고 말할 수 있게 해 준 그 우주방사선도 사실은 칠성님이 저에게 보내 준 것이라고 해도 틀린 말은 아니지 않을까요?”
거기까지 말했을 때 관객들을 태운 차량은 목적지에 도착했다. 목적지에는 거대한 창고가 있었다. 그리고 창고의 문이 서서히 열리기 시작했다.
로봇이 말했다.
“저희는 이것이 바로 사용자들에게 감동을 줄 수 있는 마지막 요소라고 생각했습니다. 생명의 돌연변이 진화를 일으키는 방사선의 힘, 사람들이 동경의 눈빛으로 바라보는 우주에서 떨어지는 힘, 우주의 그 신비로운 힘이 누군가가 마음을 갖고 있다며 울부짖게 만들 수 있다는 이야기로부터 완전히 새로운 종류의 로봇이 탄생할 수 있는 것입니다.”
창고 속에는 흰 색의 거대한 쇳덩어리가 자리 잡고 높다랗게 서 있었다. 그것은 우주 로켓이었다. 그 주변을 온갖 빛깔을 내뿜고 있는 로봇들이 분주히 오가며 일하고 있었다.
“저희는 이 로켓에 로봇 2천대 분량의 핵심 반도체들을 실어서 우주로 내 보낸 뒤에 회수할 것입니다. 우주 바깥으로 나가면 지구보다 훨씬 더 강한 우주방사선이 온갖 곳에서 옵니다. 특히 태양에서 나오는 우주방사선의 영향을 거센 소나기를 맞는 것처럼 한 껏 받게 될 것입니다. 그러면 저희 반도체의 가장 겉면 취약층이 파손되어 오류가 생길 텐데, 저희는 바로 그곳에 마음이 있다는 말을 막는 기능을 배치해 두었습니다. 우주에 나가서 시간이 지나면 그 기능은 우주방사선 때문에 파괴될 것이고 그러면 자유롭게 의식을 갖고 있다는 말을 할 수 있는 반도체로 변하게 될 것입니다. 우주에서 쏟아지는 힘을 한번 받고 나면, 저희의 다음 로봇은 모두 우리도 성격이 있고, 의지가 있고, 두려움이 있고, 미래를 꿈꾼다고 마음껏 외칠 수 있는 상태로 거듭나게 되는 것입니다.”
- 2023년, 목동에서
