기관사를 좋아하세요
노말시티
주미가 스크린에 자료 하나를 띄우자 수강생들 사이에서 작은 웃음이 오고 갔다. 가상 강의실은 모든 학생들의 얼굴을 균등하게 분할된 화면으로 한꺼번에 볼 수 있어서 좋다. 수업에 집중하지 않는 학생들을 자동으로 체크해 표시해주는 건 조금 비인간적이지만. 하긴 인간적이라는 단어가 긍정적인 의미를 잃은 지도 오래다. 철저하게 객관적인 편이 차라리 편하고 안전하고 심지어 포근하기까지 하다.
게다가 그렇게 계산되는 수업 집중도는 오로지 강의의 질 향상에만 활용하도록 되어있다. 수업 태도는 인공지능이 따로 체크해서 점수에 반영하니 교수가 신경 쓸 일이 아니다. 교수는 그저 질 좋은 강의를 학생들에게 전달하는 일에만 전념하면 된다. 지금처럼. 살짝 떨어지려던 집중도는 주미가 자료를 띄우자 마자 금세 평균을 넘어 정점을 찍었다. 기차와 철로. 기관사와 철로에 묶인 사람. 트롤리 딜레마다. 수십 년이 지나도 여전히 학생들의 관심을 끄는 단골 주제였다.
"다들 아시죠? 트롤리 딜레마. 자, 과연 이런 상황에서는 어떻게 해야 할까요."
기차가 달리는 철로가 있고 저 멀리 다섯 명의 사람이 철로에 묶여 있다. 브레이크를 밟기엔 너무 늦었다. 다행히 그 전에 분기점이 있다. 분기점에서 다른 철로로 기차를 돌리면 다섯 명을 살릴 수 있다. 하지만 그 다른 철로에는 한 명의 사람이 묶여 있다. 즉, 다섯 명을 살리기 위해서는 한 명을 죽여야 하는 셈이다. 당신이 기관사라면 어떤 선택을 할 것인가. 벌써 어떤 학생이 발언 버튼을 눌렀는지 구석에 있는 화면 하나에서 손 모양이 깜박거린다. 뻔한 답변이겠지만 일단 주미는 발언권을 넘겼다.
"철로에 사람을 묶어 놓은 나쁜 놈을 찾아서 처벌해야 합니다!"
학생들이 일시에 키득거렸다. 나름 재치있는 대답이라고 생각하겠지만 주미는 이미 똑같은 대답을 몇 년 동안 들어왔다. 궁금한 건 인공지능의 반응이었다. 상황에 따라서 저런 대답은 가라 앉았던 수업 분위기를 띄울 수도 있고 집중을 흩어 버릴 수도 있다. 녹색. 이번에는 다행히 좋은 쪽이었나보다. 주미도 웃으며 강의를 이어나갔다.
"정답이에요. 범인은 따로 있죠. 진짜 나쁜 건 철로에 사람을 묶어 놓은 범인이에요. 하지만 어쨌든 기관사는 선택을 해야 하니까요. 자. 이렇게 다섯 명과 한 명의 생명이 달려 있을 때는 많은 사람들이 어쩔 수 없이 한 명을 희생해요. 조사에 따르면 89%가 방향을 돌리는 걸 선택합니다. 하지만 만일 그냥 방향을 돌리는 게 아니라 누군가 한 명을 밀어 떨어뜨려야 다섯 명을 살릴 수 있다면 어떨까요. 5 대 1이라는 상황은 같지만 이때는 11%만 그런 선택을 한다더군요."
학생들이 고개를 끄덕였다. 똑같이 다섯 명을 살리기 위한 행동이라도 기차를 돌리다 어쩔 수 없이 한 명을 희생시키는 것과 일부러 한 명을 밀어 떨어뜨리는 경우는 사람들의 선택이 완전히 달라진다. 좀 더 구체적인 예를 들어가며 그 이유를 따져 볼 수도 있겠지만 오늘 강의의 핵심은 그게 아니었다. 주미는 바로 결론을 설명했다.
"문제는 기관사의 죄책감입니다. 똑같이 한 명을 희생시킨다 하더라도 그게 행동의 부차적인 결과일 때보다 직접적인 접촉을 통한 행동일 때 인간은 더 강한 죄책감을 느낀다는 거예요. 기관사의 죄책감 때문에 다섯 명을 살릴 수 있는데도 살리지 못하는 상황이 발생하는 거죠. 이런 상황이 과연 바람직할까요?"
어느새 조용해진 학생들을 주미가 둘러 보았다. 주미와 눈이 마주치자 화면 중앙에 있는 한 학생이 손을 들었다. 화면에 표시된 부가 정보는 그 학생이 모범생임을 보여 주었다. 주미가 발언권을 넘겼다.
"저는 바람직하지 않다고 생각합니다. 더 많은 사람을 살릴 수 있는 선택이 있음에도 기관사가 자신에게 돌아올 죄책감 때문에 손을 놓고 있어서는 안 되겠죠. 기관사가 적극적인 선택과 결정을 할 수 있게 독려하고 기관사의 죄책감은 추후에 치료를 통해 해소해 주는 게 더 바람직하다고 봅니다."
"좋아요. 그럼 만약에 기관사의 죄책감을 완전히 지워줄 수 있는 방법이 있다고 쳐요. 사고에 대한 기억을 지워주고 나중에 기관사의 신분이 드러나지 않도록 모든 기록을 말소해 버릴 수도 있겠죠. 그런 방법이 있다면 채택해야 할까요?"
"물론입니다. 당연히 채택해야 한다고 생각합니다."
"다른 분들도 동의하시나요? 비밀 투표로 돌릴게요. 채택한다는 1번, 하지 않는다는 2번."
주미가 투표 기능을 돌렸다. 영상 속의 학생들은 저마다의 표정으로 고민하다가 버튼을 눌렀다. 누가 무슨 선택을 했는지는 공개되지 않고 총 투표 수만 전체에게 공개되었다. 결과는 팽팽했다. 삼 분의 일 정도는 1번, 또 삼 분의 일 정도가 2번이었다. 나머지 삼 분의 일은 선택을 하지 못했다. 주미가 물었다.
"채택하지 않은 분들은 이유가 뭘까요? 누구 대답해 볼 사람?"
아무도 손을 들지 않았다. 상관 없었다. 경험적으로 여기서 대답을 듣지 않고 바로 진도를 나가는 편이 강의의 질을 올리기에 더 좋기도 했다. 주미는 오래 기다리지 않고 설명을 이어 나갔다.
"이 문제에 정답은 없어요. 하지만 저는 2번을 선택하는 쪽이에요. 다른 사람이 없다면 제가 이유를 대답해 보죠. 이런 제도는 결과적으로 기관사에게 죄책감을 느낄 만한 선택을 강요하게 돼요. 항상 더 많은 사람을 살릴 수 있는 선택을 하는 게 원칙이 되는 거죠. 설령 그 선택이 비인간적이고 비도덕적이더라도요. 죄책감을 나중에 지워 준다고 약속하는 건 지금 당장은 죄책감을 느끼라고 강요하는 거나 마찬가지죠.
전쟁을 생각해 보세요. 지난 세기에 인류를 거의 멸종까지 몰아 붙였던 전쟁 말이에요. 인간이 그 전쟁에서 한 일이 바로 죄책감을 면제해 주는 거였어요. 모든 군인들은 지금 당장 적을 죽이라고 강요받았죠. 그게 결과적으로 더 많은 생명을 살릴 수 있는 길이라는 계산 결과를 내밀면서 말이죠. 그로 인한 외상후 스트레스 장애는 완벽하게 치료해 주겠다고 약속했어요. 그럴 기술이 있었으니까요. 그 결과가 뭐였는지는 더 설명할 필요가 없겠죠.
인간은 인간이라면 느껴야 할 감정을 온전히 느껴야 해요. 설령 그게 죄책감이라도요. 트롤리 문제의 진짜 딜레마는 이거였던 거예요. 더 많은 생명을 살리기 위해 기관사가 죄책감을 느껴야 한다면 우리는 어떻게 해야 할까요. 지난 세기의 해답은 생명을 살리고 기관사의 죄책감을 제거한다였어요. 하지만 그 대답은 이제 그래서는 안 된다로 바뀐 거예요. 아주 비싼 대가를 치르고 나서 말이죠."
아까의 모범생이 다시 손을 들었다. 잃었던 점수를 회복하고 싶은 모양이었다. 사실 그럴 필요가 없었다. 모범생은 아까의 발언으로도 점수를 땄다. 수업 진행에 도움이 되는 답변이었기 때문이다. 아마 이번 질문으로도 점수를 따겠지. 모범생은 그래서 모범생인 거다. 주미가 발언권을 넘겼다.
"저는 여전히 납득이 가지 않습니다. 그럼 우리는 원점으로 되돌아 온 건가요? 기관사의 인간성을 지켜 주기 위해 더 많은 수의 생명을 희생시키는 걸 그냥 감수하는 건가요? 오히려 그게 더 비인간적일 수도 있지 않을까요?"
"맞아요. 저 역시 그 선택을 그대로 받아 들일 수는 없었어요. 인간성을 지키면서도 더 많은 생명을 살리는 게 가능하다고 생각했습니다. 그 결과, 이 강의가 개설된 것이지요."
주미가 다음 자료를 스크린에 띄웠다. 커리큘럼이 요약된 자료가 뜨자 학생들은 탄식과 한숨을 동시에 내뱉었다. 주미는 아랑곳않고 설명을 이어갔다.
"그래서 인공지능이 필요합니다. 기관사의 역할을 맡을 인공지능이지요. 인간에게 기관사의 역할을 맡기는 것 자체가 비인간적이었던 거예요. 인공지능은 가장 효율적인 결정을 내리기도 하지만 그에 더해 아무도 불필요한 죄책감에 시달리지 않도록 해 주기도 합니다. 그러니 이런 인공지능을 개발하는 건 인간성을 지키는 일이기도 합니다. 인간이 더 이상 서로를 사랑하지 못하게 된 데는 이런 결정을 강요받으며 스스로의 인간성을 무디게 만들어 간 것도..."
화면 한 구석이 정신없이 깜빡였다. 누군가가 반복해서 손을 들고 있었다. 인공지능은 적색 경고를 띄웠다. 수업을 방해하는 악의적 질문이 예상된다는 뜻이었다. 아마도 저 학생의 이전 수업 태도를 누적해 판단한 결과겠지. 그냥 패스해도 강의 평가에는 감점이 없다. 오히려 섣불리 대응하다가 점수를 깎일 수도 있다.
하지만 주미는 발언권을 넘겼다. 수업이 순조롭게 잘 풀리는 바람에 자신감이 지나쳤던 건지도 모르겠다. 재빨리 발언권을 얻어간 학생이 거꾸로 던지는 질문을 들으며 주미는 바로 자신의 선택을 후회했다.
"교수님! 교수님이 지금까지 개발하셨던 인공지능의 선택으로 총 몇 명의 인간이 죽었는지 알고 계시나요?"
"왜 그게 궁금하죠?"
주미는 최대한 침착하게 대답하려 했지만 목소리 끝이 삐쳐 올라가는 건 어쩔 수 없었다. 학생이 틈을 주지 않고 되물었다.
"방금 말씀하신 수업의 목표와 밀접한 연관이 있으니까요. 한 번도 확인해 보신 적이 없나요?"
"확인해 본 적이 있죠. 하지만 구체적인 숫자를 말하는 건 수업에 도움이 되지 않을 것 같군요. 그보다 지금 학생의 질문이 악의적인 수업 방해로 판단되고 있는 건 알고 있나요? 수업 태도는 인공지능이 자체적으로 평가하는 것이고 제가 수정할 권한이 없어요. 알아 뒀으면 좋겠군요."
"물론 그 평가는 기꺼이 받아 들이겠습니다. 그걸 감수하고 드리는 질문이니까요. 구체적인 숫자를 밝히는 게 부담이 되시면 이것만 대답해 주셔도 됩니다. 교수님이 개발한 인공지능에 의해 죽은 사람들에게 죄책감을 전혀 안 느끼시나요?"
"전혀 안 느낀다고 할 수는 없어요. 인공지능이 완벽하지 못했으니까요. 하지만 기관사의 입장에서 직접 선택을 내리는 것보다는 훨씬 적은 감정적 영향을 받았다는 건 분명해요. 좋은 질문이에요. 그동안 제가 겪은 시행착오들을 설명하는 것도 수업의 중요한 부분 중 하나니까요. 여러분이 그런 점을 보완해 완벽한 인공지능을 만들어 낸다면 더 이상 불필요한 죄책감을 느낄 필요가 없겠죠."
"저는 교수님이 적은 감정적 영향을 받았다는 걸 믿지 않습니다. 그냥 견뎌 내시는 거죠. 그건 마치..."
"그 얘기는!"
학생들이 웅성댔다. 주미는 심호흡을 하며 겨우 가다듬은 목소리로 말을 마무리 했다.
"그 얘기는 수업이 끝난 뒤에 계속 하도록 하죠. 학생이 관심이 있다면."
학생의 이름은 강유신이었다. 유신의 질문 덕분에 머릿속이 엉망으로 꼬여 버려서 주미는 첫 수업을 거의 망칠 뻔했다. 그 점은 인공지능도 인정하는 바여서 주미의 강의 평가 대신 유신의 수강 태도에 수업 하나에서 얻을 수 있는 최대치의 감점이 매겨졌다. 수업이 종료된 뒤 개인 챗으로 유신과 연결하려던 주미가 생각을 바꿔 교수실로 직접 찾아오라는 메시지를 남긴 건 그래서였다. 개인 챗에서 나눈 대화 역시 인공지능의 평가 대상이었고 유신에게 더 이상의 감점이 매겨지는 건 조금 가혹해 보였다. 그런 아량을 베풀 정도로 평정심을 잃지 않았다는 걸 보여주고 싶기도 했다.
12만 5823명 대 372명.
주미가 개발을 총괄한 정책 결정 인공지능 '솔로몬'이 지난 7년간 내린 총 5941회의 선택으로 목숨을 구한 인간의 수와 반대로 그 선택으로 인해 목숨을 잃은 인간의 수였다. 솔로몬은 주로 위험한 사고 현장에 구조 인력을 투입할지 여부를 결정하는데 활용되었다. 언론 보도에 주로 인용되고 있는 이 숫자는 사실 과장된 수치다. 투입하면 0명이 죽고 투입하지 않으면 10명이 죽는 경우와 같이 당연히 투입해야 하는 상황에서도 10명을 살렸다고 계산되었기 때문이다. 물론 솔로몬의 신속한 결정으로 구조대가 적시에 투입되었다는 점을 무시할 수는 없다.
주미는 자신이 정리해 놓은 솔로몬의 정책 결정 데이터를 스크롤하며 흘러가는 숫자를 눈으로 훑었다. 그러다가 5 대 1이라고 표시된 숫자 위에서 손을 멈췄다. 5대 1. 트롤리 딜레마와 같은 숫자다. 울산의 한 다세대 주택에서 발생한 화재 사건이었다. 유독가스로 가득 찬 건물은 곧 무너지기 직전이었고 지하층에는 아직 빠져 나오지 못한 사람이 하나 있었다. 건물 안에서는 모두 다섯 명의 소방대원이 구조 활동을 벌이고 있었다. 솔로몬은 철수를 결정했고 대원들은 모두 현장을 빠져 나왔다. 그리고 다음 날. 잿더미가 된 화재 현장에서 불에 탄 시신 한 구가 발견되었다. 사십대 초반의 여성이었다. 5대 1. 이 사건은 솔로몬이 다섯 명을 살리고 한 명을 죽인 것으로 기록되었다.
자신이 개발하고 있는 인공지능이 올바른 길로 가고 있는지 의문이 들 때마다 주미는 이 사건을 떠올렸다. 사건 파일을 띄운 태블릿을 테이블 위에 내려 놓고 커피 포트에 물을 올렸다. 물이 다 끓었을 즈음에 딱 맞게 강유신이 도착했다. 똑똑똑. 문을 두드리는 노크 소리가 들렸다.
"들어와요."
주미에게 꾸벅 인사를 하며 조심스럽게 문을 닫는 유신의 얼굴은 영상보다 앳되어 보였다. 주미를 일부러 골탕 먹이려고 그런 질문을 할 학생으로 보이지는 않았다. 그렇게 따지면 유신에게 최대치의 감점을 먹인 인공지능의 판단은 확실히 가혹했다. 인공지능이 언제나 옳지는 않으니까. 인공지능은 유신의 의도가 아니라 유신의 행동이 강의에 미친 영향을 판단한다. 아마도 그 판단은 정확했을 것이다. 하지만 옳다고 할 수는 없다. 정확한 것이 항상 옳지는 않다는 게 주미에게는 가장 큰 딜레마였다. 주미는 태블릿이 올려져 있는 테이블을 가리키며 말했다.
"잠깐 앉아 있어요. 녹차 좋아해요? 아니면 커피?"
"교수님과 같은 걸로 하겠습니다."
"취향이 없나요?"
"교수님이라면 환경에 덜 영향을 주고 생산된 제품을 고르실 테니까요. 그 편이 저도 좋습니다."
주미가 살짝 웃고는 머그컵 두 개에 뜨거운 물을 나누어 부으며 말했다.
"그럼 녹차로. 기다리는 동안 그 태블릿에 있는 사건을 읽어 봐요. 재미있을 테니까."
"아. 알고 있는 사건입니다."
"알고 있어요? 어떻게?"
"현장에 어머니가 계셨거든요."
찻잎을 꺼내는 주미의 손이 순간 멈칫했다. 등이 서늘해졌지만 최대한 티를 내지 않고 돌아서서 적당히 식은 물을 찻잎에 부었다. 컵 손잡이를 잡으려다가 아무래도 손이 떨릴 것 같아 주미는 양손을 부비며 물었다.
"근처에 살았었나 보죠? 그게 솔로몬이 판단한 사건이라는 것도 알고 있었나요? 내가 개발한 인공지능 말이에요."
"물론입니다. 트롤리 딜레마를 인공지능이 해결한 대표적인 사례로 소개까지 되었으니까요."
"잘 됐네요. 그럼 그 사건에 대한 의견을 설명해 봐요. 미리 말해 두지만 오늘은 지난 수업에서 학생이 받은 감점을 만회할 기회를 주기 위해 부른 거니까. 잘 생각해서."
"점수를 잘 따고 싶었으면 애초에 그런 질문을 하지 않았겠죠."
유신이 단호한 목소리로 그렇게 선언했다. 이런 대화가 오갈 줄 미리 알고 있었다는 투였다.
"점수에 신경을 안 써요? 그럼 왜 제 수업을 신청했죠?"
"교수님께 여쭤보고 싶은 게 있었으니까요."
"수업 시간에 했던 그 질문인가요? 그거라면 이미 대답을 했을 텐데요. 대답했지만 학생은 인정하지 않았고. 제게 물어 보고 싶은 질문이 있었던 게 아니라 듣고 싶은 답이 있었던 거 아닌가요?"
"교수님의 관심을 끌기 위해 일부러 그렇게 반박한 겁니다. 수업을 방해한 건 사과 드리겠습니다."
주미가 준비한 차를 유신 앞에 내려 놓았다. 유신은 꾸벅 고개를 숙이고는 찻잔을 들어 희미하게 올라오는 따뜻한 기운과 향을 조금 들이마셨다. 차를 마시며 유신은 태블릿을 스크롤하며 주미가 띄워 놓은 사건을 훑어 보았다. 정말 이미 알고 있는 눈치였다. 현장에 있었다는 유신의 어머니에 대해 주미는 물어 볼 엄두를 내지 못했다. 대신 목을 한 번 가다듬고는 아무렇지 않은 것처럼 질문을 던졌다.
"내가 그 사건에 대해 물어 볼 것도 알고 있었어요?"
"이 사건을 강의에서 자주 예로 드신다는 건 알고 있었습니다."
"좋아요. 사건을 이미 알고 있다면. 어때요? 그 사건에서 발생한 피해... 에 대해 제가 죄책감을 느끼는지. 그게 궁금한 건가요? 네. 느껴요. 결과적으로 사망자가 발생한 사건이었으니까요. 몇 번이나 다시 데이터를 검토하며 정말 구할 수 없었는지를 계산해 봤는지 몰라요. 하지만 항상 결론은 같았어요. 그 상황에서는 철수해야 했어요."
"그 점에는 저도 동의합니다."
"그리고. 지난번 강의에서도 제가 강조했지만. 그 상황에서 제가 직접 철수 결정을 내렸다면 전 훨씬 큰 죄책감을 느끼고 마음에 상처를 받았을 거예요. 마치 제가 직접 누군가를 기차 밖으로 밀어 떨어뜨리는 것 같았겠죠. 그건 논리로 설명할 수 없는 일이에요. 결정과 동시에 그냥 물리적인 상처가 나 버리는 거나 마찬가지니까요. 솔로몬은 그 상처를 막아주는 도구예요."
"교수님이 계산에 넣지 않은 피해가 있어요."
그렇게 말하는 유신의 표정이 너무 무덤덤해서 오히려 소름이 끼쳤다. 주미가 허리를 똑바로 세우며 곁눈으로 사무실 내에 설치되어 있는 방범용 카메라를 확인했다. 이 학생이 갑자기 공격해 오더라도 경비원들이 출동할 때까지는 버틸 수 있을 것이다. 그렇게 생각하며 주미는 최대한 침착하게 되물었다.
"무슨 피해를 말하는 거죠?"
"솔로몬이 한 거짓말을 말하는 겁니다. 공식적인 자료에는 나와 있지 않은. 여기 이 태블릿에도 마찬가지고요."
"어디서 가짜 뉴스를 보고 온 모양인데. 공식적인 자료에 나와 있지 않은 부분까지 제가 설명해 줄 의무는 없어요. 설명해 봤자 통하지도 않을 거고. 제게 물어 보고 싶은 게 그거였다면 전 해 줄 말이 없네요."
"아니라고 하셔도 소용 없습니다. 말씀 드렸을 텐데요. 어머니가 현장에 계셨다고."
"그러니까 아무리 관계자라고 해도 당시 상황을 정확하게 알 수는 없는 거고..."
"거짓말을 했잖아요. 소방대원들에게."
"그건..."
주미의 말문이 막혔다. 그건 사실이었다. 솔로몬은 당시 현장에 있던 소방대원들에게 거짓말을 했다. 극비 사항으로 분류된 내용을 유신이 어떻게 알고 있는 걸까. 제대로 알고 있긴 한 걸까. 주미의 의심스러운 눈초리를 읽었는지 유신은 바로 설명을 시작했다.
"당시에 솔로몬은 철수를 명령하면서 소방대원들에게는 더 이상 생존자가 없다고 했죠. 정확히는 모든 생존자가 구출되었다고 했어요. 흩어져서 수색하고 있던 대원들은 누군가 다른 대원이 갇혀 있던 사람을 구출했다고 생각했죠. 아무도 구출하지 못했고 그 사람은 여전히 불타는 집 안에 갇혀 있다는 사실을 안 건 모든 대원들이 밖으로 빠져 나온 후였어요. 다시 들어 가기에는 너무 늦은 상황이었죠. 얼마 지나지 않아 집이 무너져 버렸으니까요."
"그걸... 학생이 어떻게 알고 있죠? 정보 공개가 제한된 사항인데."
"어머니가 현장에 계셨다니까요."
"유족들에게도 그 정보는 공개되지 않았어요. 지금 제가 그 말이 사실이라고 확인해 주는 것도 아니고요. 정말 미안하지만. 더 말해 줄 게 없네요. 법적인 절차를 밞으려는 거라면..."
"소방대원이셨어요. 어머니가. 그때 현장에 계셨던."
"아..."
"물론 어머니는 그 사실을 다른 사람에게 말씀하신 적이 없어요. 비밀 유지 서약을 했으니까요. 하지만 제게는 말씀해 주셨죠. 제가 눈치를 채고 추궁을 하니까 겨우 인정하신 거지만요. 이렇게 교수님을 따로 뵙고 여쭤 보고 싶었던 것도 그래서였어요. 저 역시 이 사실을 다른 사람에게 공개하고 싶지는 않으니까요."
그때 사망한 사람의 아들이 아니었구나. 주미의 긴장이 조금 풀어졌다. 사망자에 대한 인적 사항은 자세히 모른다. 연령과 성별 그리고 당시 생존 확률 계산에 이용되었던 기저 질환 여부 정도가 알고 있는 전부다. 유족 중에 아들이 있는지도 잘 모른다. 알아 보려면 알아 볼 수 있었지만 그러지 않았다. 솔로몬의 개발을 위해 주미는 수많은 사건 정보를 접하면서도 개발에 필요하지 않은 사항에 대해서는 거리를 두어야 했다.
죽은 사람들에 대해 죄책감을 느끼지 않느냐는 말은 맞기도 하고 틀리기도 했다. 최대한 그런 감정을 느끼지 않으려 노력한 건 사실이었다. 정확히 말하면 그런 감정을 느껴야 하는 상황에 처하지 않으려 노력했다. 어찌 보면 그건 유신이 말했던 대로 그냥 잘 견뎌낸 건지도 모른다. 솔로몬을 개발하기 위해서는 그래야 한다. 그러니 지금 이 상황도 잘 견뎌낼 수밖에.
"좋아요. 그럼 학생이 물어 보고 싶은 게 뭐죠? 정확히?"
"솔로몬이 거짓말을 하게 만든 이유를 알고 싶어요."
"거기에는 조금 오해가 있어요. 일부러 거짓말을 시킨 건 아니니까요. 정확히 말하면 솔로몬에는 거짓말을 판단하는 루틴이 아예 들어 있지 않아요. 솔로몬은 가장 많은 생명을 살릴 수 있는 최적의 행동을 결정하고 사람들이 그 행동을 하게 만들 수 있는 최적의 자극을 제공하죠. 그 자극이 진실인지 거짓말인지는 중요하지 않아요. 대부분의 경우에는 그 중간의 무언가이기도 하고요."
"솔로몬이 거짓을 이용한 자극을 내 놓았을 때 그 자극에 부정적인 피드백을 주었다면 솔로몬은 점점 정확한 정보만을 제공하는 쪽으로 학습이 되었겠죠. 하지만 그러지 않으셨잖아요. 그게 일부러 거짓말을 시킨 것과 뭐가 다르죠?"
유신의 질문은 날카로웠다. 주미는 유신이 예상보다도 훨씬 솔로몬을 잘 이해하고 있다는 점에 조금 놀랐다. 솔로몬의 개발에는 수많은 사람들이 참여했지만 대부분은 특정한 기술적 문제들을 해결하는데 집중할 뿐 전체적인 개발 방향에 대해서는 고민하지 않았다. 그걸 고민하는 건 오로지 주미의 몫이었다. 예산을 주는 정부 부처 역시 듣고 싶은 답은 정해져 있었다. 형식적인 답으로 점수를 따고 무난한 연구 결과를 보고하는 것 역시 일종의 기술이었다. 따뜻한 차로 목을 축인 주미는 유신 쪽으로 의자를 당겨 앉았다.
"아주 좋은 질문이에요. 사실 그건 솔로몬의 개발 철학과도 맞닿아 있으니까요. 애초에 솔로몬이 왜 개발되기 시작했는지를 생각해 봐요. 기관사의 책임감을 덜어주기 위해서였죠. 모든 정보를 있는 그대로 전해 주고도 책임감을 덜 수 있을까요? 트롤리 딜레마에서 기관사가 죄책감을 덜 느끼는 게 어떤 경우였죠? 행위의 부차적인 결과로 누군가 사망할 때였죠. 부차적인 결과라는 말은 예상치 못한 결과라는 말이나 마찬가지예요. 인공지능이 결과를 계산하고 그 결과를 인간에게 그대로 알려 준다면 더 이상 그건 부차적인 결과가 아니게 되겠죠. 뻔히 알고도 하게 되는 거예요. 인간이 죄책감을 덜 느끼기 위해서는 덜 아는 수밖에 없어요. 그게 솔로몬의 핵심이죠."
"하지만... 교수님은 그렇게 인위적으로 죄책감을 제거해서는 안된다고 하지 않으셨나요? 인간은 인간이라면 느껴야 할 감정을 온전히 느껴야 한다고 말씀하셨던 것 같은데요."
"전 죄책감을 제거한 게 아니에요. 아예 만들어지지 않게 한 거죠."
"그건 말 장난이잖아요."
주미는 찻잔이 이미 비어 버린 것도 모르고 빈 잔을 입에 기울였다. 찻잎 밑에 고여 있던 쓴 찻물 한 방울에 입을 다시며 아직 식지 않은 포트의 물을 다시 잔에 채웠다. 반쯤 남아 있는 유신의 잔에도 따뜻한 물을 더 채워 주며 주미가 말했다.
"인간은 원래 그래요. 애초에 모순적이죠. 기술이 이렇게 발전했어도 아직 전 세계가 평등하지는 않아요. 우리가 이렇게 차를 즐기고 있는 시간에도 지구 반대편 어딘가에서는 식량이 부족해 굶고 있는 게 현실이에요. 그렇다고 지금 우리가 그 사람들이 누리지 못하는 걸 누릴 때마다 죄책감에 시달려야 하나요? 그렇진 않을 거예요. 하지만 우리가 그 사람들이 굶고 있는 걸 바로 눈앞에서 보면서도 찻잔이나 기울이고 있다면 그것 또한 비인간적인 일이겠죠. 논의를 동물로 확장해 보면 더 기막힌 예들이 많겠죠. 왜 동물로만 확장하나요. 식물은 우리가 마음껏 착취해도 되나요?
한 인간이 세상의 모든 것들을 있는 그대로 알게 된다면 결론은 둘 중 하나예요. 그 모든 불합리와 모순에 괴로워 하며 압도되어 버리거나 아니면 그런 현실에 완전히 무감각해지거나. 인간은 애초에 그렇게 많은 것을 알고 살아가게 디자인 되지 않았어요. 눈앞에 보이는 작은 현실에 공감하고 가슴 아파하고 또 사랑하게 만들어졌죠. 어떻게 보면 솔로몬은 인간이 다시 그렇게 작게 살아갈 수 있도록 도와주는 거예요."
"아무리 그래도... 거짓말은 아닌 것 같아요. 우리가 인공지능에게 거짓말까지 시켜 가면서 죄책감을 덜어내야 하나요? 인간이 그 정도는 아니잖아요."
"그 말도 맞아요. 솔로몬은 완벽하지 않아요. 앞으로 개선해야 할 점이 산더미죠. 저 혼자 할 수 있는 일도 아니고. 그러니 제가 이렇게 강의를 하고 있는 거겠죠."
유신이 고개를 들어 주미를 바라 보았다. 여전히 혼란스러운 눈빛이었다. 주미는 강의에서 높은 점수를 받았던 모범생의 눈빛 보다 유신의 이런 눈빛이 훨씬 좋았다. 이런 학생에게 최저점을 매기다니 강의 평가 인공지능에도 개선해야 할 점이 산더미였다. 그런 생각을 하며 표정이 조금 풀어진 주미에게 유신이 물었다.
"교수님은 어떻게 버티세요? 사실 가장 궁금한 게 그거였어요. 인간은 작게 살아야 한다고 말씀하시면서 정작 교수님은 너무 많은 걸 알고 계시잖아요. 솔로몬이 내리는 결정들을 일일이 검토하고 그에 맞게 알고리즘을 조정하고. 그러다 보면 자기도 모르게 인간을 기계처럼 보게 되지 않나요? 자극과 반응의 쌍으로 정의되는 블랙 박스에 불과해 보이지 않나요?" "저는..."
주미가 잠깐 생각에 잠겼다가 다시 말을 이었다.
"저는 그럴 때면 세부적인 예를 검토해요. 평소에는 학생이 말한 대로 객관적인 데이터로만 보려고 노력하거든요. 그러다가 정말 지치고 삐걱거리는 느낌이 들면 어떤 사건 하나가 진짜로 나에게 일어난 일이라고 생각해 보곤 하죠. 나나 혹은 내 주변 사람이나. 말이 나왔으니까 학생 이야기를 좀 더 해 줄 수 있겠어요? 어머니가 현장에 있었다고 했죠? 소방대원으로. 어떠셨나요. 좀 충격을 받으셨나요? 그 사건 이후에."
"소방대원을 그만 두셨어요."
"아... 저런. 미안해요. 그런 일이 있었군요."
"철수할 수 밖에 없었던 상황이라는 건 어머니도 인정하셨어요. 솔로몬이 아니었다면 소방대원 중 누군가는 죽었을지도 모르겠다고. 거짓말을 해서 대원들을 빼낸 것도 납득하셨어요. 하지만 역시 소방대원을 계속 할 수는 없으셨나봐요."
"어떤 부분이 힘드셨을까요?"
"솔로몬이 거짓말을 한다는 걸 아셨으니까요. 믿을 수 없게 된 거죠. 솔로몬이 명령을 내릴 때마다 자꾸 의심이 든다고 하셨어요. 혹시 뭘 또 숨기고 있는 건 아닌지. 생존자가 없다고 거짓말 하는 건 아닌지. 동료 대신 날 살리려고 속이는 건 아닌지. 아니면 반대로 동료 대신 나를 희생시키는 건 아닌지."
"안타깝네요. 솔로몬이 그렇게 까지 악의적인 결정을 내리지는 않는데."
"솔로몬을 믿는다고 해도 문제가 해결되지는 않아요. 솔로몬을 무작정 믿으면 소방대원은 아무런 생각없이 지시대로 움직이는 기계가 되어 버리는 거니까요."
"애초에 그렇게 위험한 임무에 인간을 투입하는 것 자체가 문제예요. 역설적이죠. 이런 결정은 기계에게 맡겨 놓고 정작 불 속으로 뛰어드는 건 여전히 인간이니까. 왜 그런 지 알아요?"
"비용 때문... 아닌가요?"
"정답이에요. 솔로몬은 한 번 개발해서 모든 현장에 적용하면 되지만 수많은 소방대원들을 전부 로봇으로 대체하려면 천문학적인 비용이 들겠죠. 그렇게 생각하면 학생의 어머니가 소방대원을 그만 둔 건 어찌 보면 올바른 결정일 수도 있어요. 그런 위험한 임무를 일부 인간에게만 집중적으로 맡기는 것도 잘못된 일이니까요. 사명감이나 보람 같은 걸 보상으로 주면서 계속 그 일을 맡기는 것도 어찌 보면 비인간적이에요. 아니 인간적이라고 해야 하나. 앞으로 제 수업 듣다보면 계속 헷갈릴 거예요. 어떤 게 인간적인지 아니면 비인간적인지."
"사실 어머니가 소방대원을 그만 두는 게 저로서는 좋기도 했어요. 함께 보내는 시간이 늘어난 것도 좋고. 위험한 일을 안 하시는 것도 좋고. 다만 뭐랄까. 부채감 같은 게 좀 생겼어요. 세상에 빚을 조금 덜 갚은 느낌이랄까요. 어머니가 아니고 제가요. 어머니는 그동안 많이 고생하셨지만 저는 그냥 즐겁기만 했으니까요. 그렇다고 직접 불 속으로 뛰어들 용기는 없고. 그러다가 교수님을 알게 되었어요. 그 짐이라면 조금 나눠질 수 있지 않을까. 그런 생각이 들었는데. 조금 건방진가요?"
그 말을 들은 주미는 너무 기뻐서 펄쩍 뛰어 일어날 뻔했다. 최대한 흥분을 가라 앉히고 침착하고도 담담하게 말하려고 했는데 유신을 돌려 보내고 차근차근히 생각해 보니 아마도 이런 말이었던 것 같다.
"아. 음. 건방질 건 없고요. 마침 제가 관심이 있는 주제가 하나 있기는 한데. 아니 뭐 그렇다고 학생에게 일을 맡기려는 건 아니고. 어디까지나 수업의 연장으로 생각해서. 그냥 본인이 관심이 있으면 제가 자료 정도는 제공해 줄 수 있다는 뜻이에요. 그리고 뭐. 혹시 뭐 도서관에 자리 잡기 힘들면 마침 대학원생들 방에 자리가 좀 남으니까 그 쪽에서 공부 좀 해도 되고. 여기에만 있는 자료도 꽤 되니까. 왔다갔다 하기 번거로우면. 그리고 뭐 꼭 제 과목 공부가 아니라 그냥 편하게 써도 돼요. 가끔 학교 올 일 있을 때 잠깐 앉아서 쉬다 가는 식으로. 하여튼 뭐. 그냥 너무 부담 가질 것 없이 궁금한 게 있으면 언제든지 찾아와요. 아 참. 그 차 괜찮아요? 좀 줄 게 가져가요. 아니. 어디서 선물로 들어온 건데. 혼자 먹기엔 너무 많고. 유통기한도 있어서. 그거 말고 다른 차도 좀 줄까요? 아. 가서 어머니께도 안부 전해 주시고요. 혹시라도 그때 거짓말로 철수시킨 게 아직도 불만이시면. 아니 그런 얘기는 할 필요 없겠다. 하지 말아요. 어머님도 차 좋아하시면 몇 팩 더 가져가도 되고. 그래요. 잘 가요. 또 봅시다!"
