달바라기님의 작품을 읽고 나면 그 내용에 대해 떠들고 싶은 마음을 주체할 수 없게 됩니다. 항상 리뷰 복이 많으신 걸 보면 저만 그런 게 아닌가봐요. 하여, 이미 좋은 리뷰들이 여럿 올라와 있음에도 또 이렇게 글을 쓰게 됩니다. 스포일러가 너무너무 많아요. 게다가, 달바라기님 작품은 읽을 때 마다 여기저기서 새로운 게 보입니다. 일단 작품을 읽으시고, 그 다음에 리뷰를 보시고, 다시 작품을 읽어 보시는 걸 추천드립니다.
정말로, 처음부터 강력한 스포일러 막 날릴 거에요!
이 글은 크게 두 부분으로 나누어 집니다.
01-08 은 인공지능 비서인 주다스와의 원격 통신 모듈을 몸 속에 삽입한 ‘나’의 하루를 통해 미래 세계의 모습을 묘사합니다. ‘아가사’라고 이름 붙인 주다스는, 단순한 인공지능이 아니라 나에 대한 모든 정보와 기억을 바탕으로 내가 내리는 결정을 추측합니다. 그렇게 해서 내가 일부러 시키지 않아도 먼저 내가 원하는 걸 알아서 수행해 줍니다. 차를 타고 갈 목적지도, 점심으로 먹을 메뉴도 아가사가 알아서 선택합니다. 물론 최종 결정은 내가 내리지만 아가사는 언제나 내가 원하는 걸 맞추기 때문에 내가 하는 일이라고는 읽어보지도 않고 계약 약관에 동의하듯 그냥 아가사의 결정을 승인하는 게 전부입니다.
하지만 수상한 남자가 미행하는 등, 몇 가지 사건들을 계기로 나와 아가사의 의견 차이가 발생하게 됩니다. 그런 차이로부터 나는 아가사를 의심하게 되고 결국 인공지능의 동작을 정지하기로 결정합니다. 하지만 의식을 잃게 된 건 오히려 나였습니다.
09-11 에서는 사건의 진실이 밝혀집니다. ‘나’는 아내와 아들이 있는 디자이너가 아니라, 돈을 벌기 위해 인체 실험에 자원한 전직 격투기 선수였습니다. 수상한 미행자는 암에 걸린 나의 애인이었고 나는 그 수술비가 필요했던 거죠.
자, 그 실험이란 이렇습니다. 인공지능이 극도로 발달한 이 미래 사회도 인간과 똑같은 기계식 안드로이드의 개발에는 성공하지 못합니다. 안드로이드는 여전히 어색해서 인간의 느낌을 내지 못합니다. 그래서 주다스를 제작한 업체는 기계식 안드로이드 대신 인체 자체에 인공지능을 이식하기로 합니다. 인간의 기억을 지우고 인공지능이 인체를 조종하도록 만드는 거죠.
그 사실을 깨달은 나는 애인이 몰래 넣어 준 칼날을 이용해 탈출을 시도합니다. 그 결과까지는, 밝히지 않도록 하죠.
자아, 자의식이란 무엇인가?
제가 처음 이 글을 읽었을 때, 가장 혼란스러웠던 부분은 ‘인체 실험이 구체적으로 어떻게 동작하였는가’였습니다. 그걸 이해하기 위해서는 먼저 다른 리뷰어님도 언급한 한 실험에 대해 설명할 필요가 있습니다.
자의식이나 자유의지 따위에선 사실 원인과 결과가 뒤죽박죽일 때가 많거든. 간단히 니가 손을 뻗고 싶어서 손을 뻗은 게 아니라, 손을 먼저 뻗고 나중에 그러고 싶었다고 생각하는 거라고. 나중에야 그 순서를 수정하는 거고. 우리 일은 행동의 원인을 주다스로 만들면서, 니 자의식은 자기가 한 거라고 착각하게 하는 거야.
1979년에 벤저민 리벳이라는 사람이 실험을 하나 합니다. 요약하면, 내가 버튼을 누르겠다고 결정한 사건과 뇌가 손에 버튼을 누르라고 신경 신호를 보낸 사건 중 어떤 것이 먼저 일어나는 지 실험을 통해 측정한 겁니다. 뭐 그런 당연한 실험을 하냐고요? 결과는 ‘뇌가 신호를 보낸 게 먼저’였습니다. 최대 1초나 빨랐죠. 다시 말하면 뇌가 ‘나의 자유의지와 관계없이’ 버튼을 누르겠다는 결정을 하고 손에 신경 신호를 보낸 후에, 나의 자아 혹은 자의식이 마치 내가 자유의지로 그런 선택을 한 것 처럼 위장한다는 겁니다.
상식에 반하는 이런 실험 결과는 많은 사람을 당혹하게 했습니다. 여러 반론들이 있었지만, 2007년에 우리의 뇌는 자유의지가 동작하기보다 무려 10초 전에 미리 결정을 내려 놓고 있다는 실험 결과가 나오면서 사실상 논란에 종지부를 찍었습니다. 이제 우리가 고민해야 할 건 인간의 행동을 결정하는 데 아무런 역할을 하지 못하는 자아, 자의식이 대체 왜 존재하는가 뿐입니다.
극단적으로는 자의식은 전혀 필요가 없을 수도 있습니다. 그 경우에는 인공지능이 직접 몸을 움직이는 신경 신호를 내보내면 그만이죠. 하지만 주다스는 좀 더 복잡하게 동작합니다.
실전에선 니 머리속에 있는 주다스가 고객의 생각을 읽고, 너한테 직접 명령을 내릴 거야. 그럼 넌 그게 니가 원해서 하는 거라 생각하고 명령을 수행하는 거지. 자의식은 니가 그대로 가지고 있지만, 상위권한, 그러니까 루트권한은 주다스가 가지고 있는 거고.
이 부분은 이렇게 해석됩니다. 우리의 뇌, 그러니까 지금 이 글을 읽고 계시는 당신의 뇌는 당신의 자유의지와는 상관없이 당신의 기억과 주위 환경 정보에 입각해 당신의 행동을 결정합니다. 그러면 당신은 저절로 움직이는 당신의 몸을 보며 마치 당신의 자유의지가 그렇게 명령을 내린 것 처럼 생각합니다. 주다스는 몸에 명령을 내리는 부분을 가로채, 당신의 뇌 대신에 몸에 직접 명령을 내립니다. 그러면 자의식은 마치 그것이 자신이 내린 명령이라고 착각하게 되는 거죠.
근데 자의식이란 거 말이야, 그게 언제나 문제야. 사람 뇌에 심는 거니까 자의식이 있는 건 좋은데, 그게 주다스의 자의식이 되면 안 되는 거지.
하지만 가끔 주다스가 자의식을 차지할 때도 있어. 일종의 버그지. 우린 지금 널 이용해서 디버깅을 하는 거고. 너한테 주다스를 심어놓되, 자율명령권한은 주지 않은 거야. 대신 주다스는 니가 아가사라고 부르는 목소리의 말에 따라 널 움직이기만 하는 거지. 자의식은 니가 그대로 가지고 있지만, 상위권한, 그러니까 루트권한은 주다스가 가지고 있는 거고.
이 부분이 좀 혼란스러웠는데요. 왜인지는 모르겠지만 자의식은 몸의 원래 주인이 가지고 있어야 하는 모양입니다. 주다스가 차지하면 안되는 거죠. 그리고 자의식의 상위라는 루트권한이라는 개념이 등장합니다. 몸에 실질적인 명령을 내리는 권한이죠. 주다스가 정상 동작하기 위해서는 루트권한은 차지하되, 자의식은 그대로 남겨두어야 합니다.
하지만 현재는 주다스가 자의식을 차지하는 버그가 있고, 그걸 디버깅하기 위해 이 업체, 아이데 사는 주다스를 심어놓되, 그 주다스가 몸에 직접 명령을 내리는 대신, 명령 자체는 원격으로 전달되도록 한 겁니다. 아가사라는 목소리를 통해서요.
정리하면, 개발 완료된 주다스는 스스로의 인공지능으로 판단하여 결정을 내리고, 그 신호를 인체에 전달합니다.
나에게 심어진 개발 중인 주다스는 원격 연결을 통해 결정을 전달받고, 그 신호를 인체에 전달합니다. 그럼 개발 중인 주다스에게 결정을 전달하는 건 무엇일까요.
“…그럼… 지금까지 있었던 일은 모두 주다스와 주다스 사이에서 일어난…”
“아니. 너한테 말을 걸던 건 주다스가 아니야. 우리 연구원이지. 현장시험에 미완성 소프트웨어 두 개를 짝지어 놓는 건 위험하니까.”
내가 주다스라고 생각했던 아가사, 그러니까 실제로 명령을 내렸던 목소리는 인공지능이 아니라 지만이라는 연구원이었습니다. 지만이 상시 붙어 있으면서 모든 결정을 직접 내렸다고 보기는 힘들고, 모니터링을 하면서 나와 대화하고 주요 결정을 수정하는 정도의 역할을 하지 않았을까 짐작합니다.
정리하면 이렇습니다.
1. 인간의 구성: 루트권한(나의 뇌) + 자의식(나의 자유의지) + 인체 제어(나의 뇌) + 인체(나의 몸)
2. 완성형 주다스: 루트권한(인공지능) + 자의식(나의 자유의지) + 인체 제어(인공지능) + 인체(나의 몸)
3. 디버깅용 주다스: 루트권한(서버+연구원 지만, 아가사) + 자의식(나의 자유의지) + 인체 제어(인공지능) + 인체(나의 몸)
그럼 이제 1번 인간의 구성과 2번 완성형 주다스의 차이점을 보시죠. 나의 뇌가 하는 일을 인공지능이 대체했을 뿐입니다. 나의 자유의지는 두 경우 모두 분리되어 존재하고 있으며, 위 실험 결과에서 보여주었듯 자유의지가 결정을 하는 게 아니라 뇌가 결정하는 거고, 자유의지는 기껏해야 그저 관찰하고, 해석하며, 착각할 뿐이죠. 그렇다면 과연 1번과 2번의 차이는 무엇일까요.
어쩌면 우리가 우리의 전부라고 믿고 있는 자유의지가 사실은 그다지 대단하지 않은 건지도 모릅니다. 우리의 자아, 여러분의 자아는 기껏해야 여러분의 몸을 빌어 세상을 바라보는 관찰자에 불과할 지도 몰라요. 이건 인공지능이 극도로 발달한 미래의 이야기가 아니라, 현재의 이야기입니다. 뇌를 인공지능이 대체하는 미래는, 그 사실을 명백하게 드러내 보여줄 뿐이죠.
딱딱하고 재미없는 제 설명보다, 작가님이 글에 심어 놓으신 예를 보시죠.
나도 모르게 여직원의 몸을 관찰하고 말았다. 아가사가 그녀와의 옛 추억을 얘기했기 때문일까. 그녀의 살짝 부풀어 오른 가슴에 붙은 명찰로 눈을 돌렸다. 어린 여성의 몸을 눈으로 훑은 것에 대한 죄책감을 지우기 위해서였다. 난 이름을 읽으려고 했을 뿐이야. 예린이라니, 예쁜 이름이네.
‘나도 모르게’, 그러니까 자유의지와 관계없이, 무의식적으로 다른 사람을 관찰하는 건 흔히 있는 일이죠. 이처럼 내 몸은 자유의지와 관계 없이 움직입니다. 거기에 자의식는 그녀와의 옛 추억이라는 구실을 갖다붙이죠. 다음 구절에서, 나는 눈을 명찰로 돌립니다. 이름을 읽으려 했을 뿐이라는 핑계를 대기 위해서죠. 그렇다면 눈을 명찰로 돌린 것은 나의 자의식이 내린 명령일까요, 아니면 몸을 관찰한 것과 마찬가지로 나의 뇌가 내린 명령이며, 자의식은 거기에 허울좋은 구실을 갖다 붙였을 뿐일까요.
주다스는 얼마나 완벽한 인공지능인가
내가 얼마 전까지 쓰던 인공지능 비서도 마찬가지였다. 좀 색다른 10년대 고전 영화를 보려고 했더니 추천 리스트에 리들리 스콧의 후기 영화 따위가 섞여 있었다. 그때 나는 그 비서에 대한 희망을 버렸다.
하지만 주다스는 차원이 달랐다. 나를 완벽하게 이해했다. … 나를 단 한 번도 거슬리게 한 적이 없었다. 나는 그를 아가사라고 불렀다.
처음 글을 읽을 때, 기존의 인공지능과 주다스의 차이가 너무 크게 느껴지는 점이 좀 어색했습니다. 기술이란 단계적으로 발전하니까요. 주다스가 거의 완벽에 가까운 인공지능이라면, 기존의 인공지능도 그에 준하는 상당한 수준이어야 말이 된다고 생각했어요. 글을 몇 번 다시 읽으며 생각해보니, 작품 내에서 주다스의 인공지능 부분이 뛰어나다는 증거는 어디에도 없습니다.
인공지능 비서는 크게 세 부분으로 구성됩니다.
1. 인공지능을 이용해 무언가를 결정하고 선택하는 소프트웨어
2. 소프트웨어가 내린 결정을 이용해 하드웨어를 움직이는 통신부
3. 실제로 움직이는 하드웨어
기존의 인공지능 비서는 3번은 기계형 안드로이드, 2번은 전기 신호와 전선이 담당할 겁니다. 주다스는 3번이 인체라는 점에서 다릅니다. 그러니 2번은 소프트웨어와 인체를 연결해 주는 프로토콜이 되겠죠. 그렇게 되면 주다스의 핵심 기술은 2번입니다. 1번이 아니라요.
나는 아가사가 자신의 취향에 맞는 결정을 내리는 데 감탄하지만, 그건 당연한 겁니다. 우리가 우리의 몸이 자유의지대로 움직인다고 생각하는 것과 같은 원리로, 나는 아가사의 결정이 내 자의식의 결정과 일치한다고 믿는 거니까요. 아가사가 나의 취향을 예측해서 그에 맞는 결정을 하는 게 아니라, 내가 아가사의 결정이라면 그 어떤 것도 자신의 취향이라고 믿는 거죠. 그러니 주다스의 인공지능이 기존의 인공지능 보다 낫다는 증거는 이 글에는 없습니다. 그렇게 생각하면 제가 처음 글을 읽으며 느꼈던 어색한 부분은 해소됩니다.
“왜… 왜 굳이 이렇게 번거롭게 테스트하는 거지? 그냥, 그냥 실험실에서, VR 시설도 있을 텐데. 왜 사람 인생 자체를 가짜로…”
그 이유는 지금 테스트하고 있는게 인공지능이 아니라, 인공지능과 인체 사이의 통신부이기 때문이라고 저는 이해했습니다.
옛날의 기억
도중에 옛날 기억이 몇 번 튀어나온 걸 보니, 기억편집도 제대로 안된 것 같아요. 옛날 게 조금이라도 남아 있으면 기억이 자꾸 늘어날 수도 있는데, 담당자를 좀 조져야겠어요.
자, 대체 언제 옛날 기억이 튀어나왔다는 건지 찾아봐야겠죠. 힘들었어요.
일단은 어떤 남자를 보고 수상하다고 느낀 부분이 있겠죠. 거기서 아가사와 처음 의견이 일치하지 않았으니까요. 하지만 좀 더 교묘하게 숨겨진 부분을 찾았습니다. 네… 찾은 거 자랑하는 거 맞습니다.
커리 레스토랑에서 아가사와 아내의 대화를 엿들은 뒤, 마음이 심란해진 나는 적당한 이유를 둘러대려 합니다.
종업원이 첫사랑과 닮았다고 할까? 이것도 아니다. 아가사는 내 과거를 아니까.
커리 레스토랑의 종업원은 남자 종업원입니다. 나에게는 아내가 있고, 예전에는 맥도날드의 여종업원과 사귄 적이 있어요. 그러니 종업원이 첫사랑과 닮았다는 핑계는 뜬금없습니다. 내가 동성의 연인이 있었다는 옛날 기억이 갑자기 튀어나오지 않았다면 나올 수 없는 대사죠.
사실 맥도날드 여종업원에게 뭔가 숨겨진 부분이 있지 않을까 머리를 굴려봤는데 모르겠더라고요. 다만, 15년 전의 그녀는 공중부양 버스를 타고 다녔는데, 바퀴 없는 자동차는 십 년 전에 개발되었다는 건 찾았습니다. 만일 이 기억이 만들어 넣은 기억이라면, 이걸 가지고 담당자를 조지면 되겠어요.
왜 인체에 인공지능을 이식하는가
사소한 걸 따지며 글이 좀 길어졌는데요. 이제 제일 중요한 이야기를 해 봐야겠습니다. 왜 주다스는 인체에 인공지능을 이식하려 할까요. 답은 여러번 나왔죠.
멍청하긴. 안드로이드로는 안돼. 걔들은 이미 한계야. 움직임은 어색하고 인공피부는 금방 썩어버리고. … 그리고 부자들은 그런 걸 싫어해. 진짜를 원하지. 자연스럽게 움직이고, 때론 살냄새 땀냄새도 풍기는 거 말이야. 다가가면 뜨거운 피와 살의 온도가 느껴지는 거.
네. 인간이 인간과 똑같은 안드로이드를 원하기 때문이에요. ‘권위적 감수성’일 수도 있고, ‘아날로그적 감수성’일 수도 있습니다. ‘따뜻한 기술’을 원하는 거죠. 그런데 미래의 기술로 인간과 똑같은 안드로이드를 만들어 낼 수 없으니, 인체에 이식하려 하는 거죠.
저는 여기에 이유를 하나 더하고 싶어요. 인체가 싸니까.
기계와 재료 기술이 엄청나게 발달해서 인간과 정말로 똑같은 안드로이드를 만들어 낼 수 있다고 해도, 여전히 인체에 인공지능을 이식하려는 유혹은 남습니다. 제작 비용이 훨씬 쌀 테니까요.
인간은 정말 놀라운 생명체입니다. 뇌나 자의식이 아니라, 인체가요. 단 하나의 세포에 적당한 영양분을 공급해주기만 하면 여덟 달 후에 필수적인 기관을 모두 갖춘 하나의 인간으로 자라납니다. 그 인간에 또 적당한 영양분을 공급해주며 방목하면 대략 십수 년 후에 완전한 몸을 얻을 수 있습니다. 안드로이드와 비교할 수 없는 완벽한 인체가 얻어지는 거죠. 비용이 얼마나 들까요. 지금 소나 돼지를 키우는 것보다 엄청나게 더 들지는 않을 것 같습니다.
너무 끔찍한 이야기인가요? 이 글에서 아이데 사가 주인공에게 수행하는 인체 실험보다 유난히 더 끔찍하진 않은 것 같은데요. 인공지능을 인체에 이식하는 실험이 성공하면, 다음 실험은 당연히 인체를 양산하는 실험이 될 겁니다.
사실 저는 안드로이드가 등장하는 SF를 별로 안 좋아해요. 그럴 듯 하지 않아서요. 요즘 이슈인 섹서로이드라는 것도 마찬가지입니다. 너무 만들기가 힘들고, 또 번거로와요. 인간은 분명 ‘감수성’을 원하지만, 그 감수성은 인간을 약간만 닮은 기계로 채워지리라는 게 제 예상입니다. 인간 자체를 그대로 모사하려는 기계는 실패할 수밖에 없어요.
그런 면에서 저는 인체 자체를 안드로이드의 대용으로 사용한다는 이 소설의 아이디어에 박수를 보냅니다. 인간형 안드로이드 보다 훨씬 가능성 있는 미래에요. 차가운 기계 대신 36.5도의 인체를 양산하여 인간들의 감수성을 만족시키는 ‘따뜻한 세상’입니다.
제목에 대해
사실 처음 제목을 보았을 때, 너무 평범하기도 하고 좀 간지럽기도 해서 마음에 들지 않았어요. 이번에는 감동 가득한 해피엔딩으로 가려고 하시나 싶어 좀 의구심이 들기도 했고요. 글을 두 번이나 읽고 나서야 제목의 진정한 의미를 깨달았습니다. 역시 무서운 분…
인간은 인간 중심적이에요. 인간이 아름답다고 말하고 정의롭다고 말하는 모든 것은 사실 인간에게만 아름답고 정의로운 것입니다. 동물들이 사랑스러운 것도 인간의 기준에 맞아야 사랑스럽습니다. 만년에 걸쳐 인간의 눈에 귀엽게 보이기 위해 진화해 온 강아지들을 보세요. 과연 강아지의 사랑스러움과 귀여움이 인간 이외의 다른 동물에게 가치가 있을까요.
따뜻함도 마찬가지입니다. 인간이 좋아하는 36.5도가 따뜻한거고 29도는 차며 50도는 뜨겁습니다. 인간 중심적이죠. 인간을 뇌와 자의식과 인체로 해체하고 그 각각을 비인간적인 물질로 대상화하여 인간 중심적인 시각을 적용하게 되면, 인체를 양산하여 안드로이드의 대용물로 사용하는 ‘따뜻한 세상’이 됩니다. 정말 무서운 건, 어쩌면 미래의 인간은 그걸 정말로 따뜻하다고 믿을 지도 모른다는 거에요. 생각할수록 무서운, 따뜻한 세상입니다.
달바라기님의 글은 언제나 두 번 세 번을 읽어야 진정한 의미가 잡히고 숨은 재미가 튀어나옵니다. 아직 안 읽었다면 어서 읽으세요. 다 읽고 이 리뷰를 보셨다면, 한 번 다시 읽어보세요. 2회차 부터가 진짜입니다.
