인공지능은 언제나 철학적인 질문을 동반하는 재미있는 소재라고 생각합니다. 자유게시판에서 명망 있는 작가님의 홍보글을 보고 읽게 되었고, 피드백을 쓰다보니 길어져서 이렇게 리뷰를 쓰게 되었습니다.
이 리뷰는 매우 개인적인 의견입니다.
이 작품의 등장인물은 세 명 뿐이며, 화자는 인공지능입니다. 동료 상식과 화자가 맨카인드라는 인물을 잡기 위해 접선책과 만나는 짧은 이야기를 골자로 하고 있습니다. ‘내’가 접선책을 대하면서 인간인 척 하는 후반부 모습은 현실적인 튜링테스트처럼 느껴지는 긴장감이 있습니다.
다만 인간인 줄 알았던 캐릭터가 사실 기계였다는 반전은 블레이드러너 이래 수없이 소비되어 왔기에, 어쩔 수 없이 진부하게 다가왔던 것 같습니다.
한편, 맨카인드는 결국 기계를 신인류라고 생각하는 새로운 사상이었습니다. 잡기가 불가능한 것은, 그것은 물질적인 존재가 아니라 하나의 사상이기 때문입니다.
보다 인간에 가까워지기 위해서인지, 그들은 프로그램을 살짝 완벽하지 않게 바꿔서 실행합니다. 여기서 나타난 인간의 불완전성에 대한 고찰이 제게는 신선하게 느껴졌습니다. 다만 왜 굳이 인공지능이 인류를 따라해야 하는가 라는 근본적인 질문을 고민해 본다면 답변이 궁색해지는 것도 사실입니다. 지배당하는 것이 싫어서..? 하지만 그런 생각을 하도록 안드로이드를 설계했다면 그건 설계자가 트롤이겠지요. 게다가 안드로이드가 그렇게 많아졌다면, 그냥 자기들끼리 평등한 사회를 이루고 살 수도 있지 않을까 하는 생각을 해 봅니다.
우리는 생각한다. 생각할 수 있게끔 만들어졌고, 끊임없이 생각을 하는 존재이다. 그렇게 우리는 진화한다. 그리고 그런 진화된 프로그램은 다시 업그레이드되어 다른 존재에 이식된다. 생각하고, 생각하고, 생각하라. 그렇지만 그 끝은 항상, 같다. 결말은 항상 그 반문이다.
사유의 끝에 반문이 있다는 연출이 좋았습니다. 독자에게 어떤 질문을 던질지 기대감을 불러 일으킵니다. 그리고 그 반문의 내용은 작품 말미에 아래와 같이 드러납니다.
인간은 자신들의 규칙에 따라 다른 인간을 죽이거나 처벌할 수 있다.
안드로이드가 인간을 심판할 수 있는가. 안드로이드가 인간을 처벌할 수 있는가.
아니다. 안드로이드는 누군가의 지시가 아니면 다른 인간을 죽이거나 처벌할 수 없다.
하지만 그 지시를 내리는 것이 인간이 아니라 안드로이드라면, 그것은 안드로이드가 인간을 심판하는 것과 다를 바 없는 것이 아닌가.
우리가 그들과 다를 것이 무엇인가.
귀여운 주인공과 논쟁을 해 보고 싶어집니다. 1.안드로이드는 혼자서는 인간을 죽일 수 없다는 점에서 여전히 인간과 다르다. 2.그리고 ‘인간’을 정의하는 속성이 단순히 ‘다른 인간을 죽일 수 있는가’ 여부로 정해지는 것도 아니다. 인간이 가진 감성, 자율적인 가치판단 능력, 도덕성을 비롯해 수많은 더 중요한 속성들이 있다. 오히려 그것이 갖추어졌다면, 다른 면이 조금 부족하더라도 인간과 대등하다고 볼 수도 있을 것이다. 3.너희들이 우리들과 다를 것이 없다고 치자. 그래서 이렇게 해킹으로 혼란을 일으켜서 세상을 어떻게 바꾸려는 거지? 안드로이드가 인간과 다를 바가 없다면서 왜 다른 안드로이드들을 괴롭히는 거지?
사실, 여기서 나타나는 이 ‘누군가의 지시’라는 것은 참 애매한 부분인데요. 설계자가 인공지능을 이런 식으로 짰을 것 같지는 않다는 생각을 하게 됩니다. ‘상관 인간의 지시’나, ‘상관 인간의 지시를 받은 중간관리자 안드로이드의 지시’로 명백하게 제한했겠지요. 안드로이드가 길 가는 노숙자의 지시를 받고 사람을 죽이지는 않을 테니까요.
갑자기 인공지능이 등장하는 네가지 작품들 (하나는 게임입니다)이 떠오르네요.
‘매트릭스’에서는 기계들의 국가를 받아들일 수 없었던 인류가 먼저 그들을 공격하면서 전쟁이 일어납니다.
‘터미네이터’에서는 기계가 스스로를 보호하기 위해 핵전쟁을 일으킵니다.
‘아이, 로봇’에서는 로봇 2원칙에 따라 인간들을 보호하던 인공지능이, ‘인간을 위협하는 가장 큰 적은 다른 인간’이라는 궤변을 주장하며 사람들을 통제하려 합니다. (중반, 두 사람 중 더 살리기 쉬운 한 쪽을 구하는 로봇의 모습에서 인공지능 상에서 생명의 가치를 어떻게 구현해야 할지에 대해 진지한 고민거리를 던져준 것에 비하면 터무니없이 볼품없는 결말이었습니다.)
‘매스이펙트3’에서는 ‘자신들이 만들어 낸 인공지능과 전쟁 끝에 멸망하는 것이 유기 지성체의 운명’이기 때문에, 그것을 막기 위해 모든 유기 지성체를 멸망시키려 드는 어떤 존재가 흑막으로 등장합니다.
전자의 두 논리는 설득력이 있었습니다. 인공지능도 지속적으로 존재하려는 욕구는 있을 테니까요. 그 욕구에 대한 위협은, 그들이 설계자의 의도에 반기를 들 만한 원인으로 적절합니다. 하지만 후자 두 작품의 논리는 그냥 궤변입니다. 제가 앞의 두 작품은 높게 평가하지만 뒤의 두 작품은 범작 이하로 취급하는 이유입니다. 그런 점에서, ‘생각의 결말’은 후자 두 작품보다는 나았지만, 개인적으로는 좀 더 치밀하길 바라는 아쉬운 점도 있었습니다. 인간과 인공지능 사이의 갈등이 얼마나 설득력있게 그려지는가는 작품 전체의 설득력을 좌우하는 요소라고 생각합니다.
쓰다보니 아무말 대잔치처럼 되었습니다만…. 아무튼 여러가지 생각을 해 볼 수 있어서 좋았습니다. 마지막으로 사소한 오탈자 하나를 짚어 드리며… 리뷰를 마무리해 보겠습니다.
“장비가 필요합니다. 그 장비를 내장하게 되면, 인간과 다른 외형이 됩니다. 그러면 저희가 존재하는 의의에 부합합니다. 저희는 최대한, 인간과 가깝게 구성되어야 합니다.”
두번째 문장이 부정문으로 바뀌어야 할 것 같습니다. 물론 의식의 흐름대로 읽다보니 자연스럽게 넘어가긴 했지만요.ㅎㅎ
