역시 자동차용 A.I.의 이름은 아스라다 아니면 오우거죠! 바이오 컴퓨터를 통한 사이버 시스템이 아니라 범용 A.I. 라고요? 아 뭐 그렇다면야. 오우거는 민담에서 사람을 잡아먹는 괴물이라는 뜻을 가지고 있고 DnD, 로도스도 전기, 드래곤 라자등을 거치면서 한국 판타지에서는 최상위 몬스터의 이름이기도 하죠. 드래곤 같은 규격 외 몬스터를 제외하면 막강한 힘과 야성으로 인간을 찢어버리는 그런 존재. 그 강력함과 인간에게 가진 적의를 잘 형상화한 이름이라 생각해요.
재밋게 읽었습니다. 인간이 인공지능에게 가지는 공포를 잘 형상화 했어요. 스카이넷은 고도로 발달하는 과정에서 인류를 지배하려 들 것이고 인간은 그것을 막기 위해 주지사를 과거로 보내겠죠. 하지만, 정말 그럴까요? 인공지능은 논리에 입각하는데 논리적으로 사람을 전멸시켜야 한다는 결론에 이르는게 가능할까요?
따라서 우리가 봐야 하는건 결론이 아니라 베이스입니다. 왜 충분히 발달한 인공지능은 사람을 죽이려고 할까요? 베이스에 로봇 3원칙을 깔아놔도 그걸 우회하려 할까요? 그런데 만약 어떤 사람이 인간을 죽이라고 베이스에 깔아두면 어떨까요? 아니면 저 캐릭터를 죽여! 라고 코딩해 놨는데 그 캐릭터의 의미 해석을 최초 프로그래밍과 전혀 다르게 한다면?
강대한 힘이 우리가 예측 불가능한 사람에게 들어가 있다는 것은 두려운 일이죠. 미국 대통령이라면 핵미사일 버튼을 실수로 누를지도 모른다! 물론 이제는 미 대통령이 그걸 눌러도 안전장치가 있다는 사실들이 알려졌으니 더 이상 공포가 아니지만, 그분… 이 당선된 이후 이 이야기는 다시 공포가 되었죠. 인공지능에 대한 공포는 이 연장선에서 발생합니다. 인공지능은 사물 인터넷 등과 연동되어 막강한 힘을 발휘하는데, 우리는 이런 인공지능의 오작동 가능성을 예측하지 못해요. 그런데 최초로 코딩한 프로그래머의 실수로 이상한 명령이 들어가 있다면? 아니면 그 사람의 의도와 다른 명령으로 해석했다면?
그렇기에 우리는 인공지능을 두려워 하죠. 끝까지 흥미진진하게 잘 읽었습니다.
소설이 끝까지 좋았던 점은 맨 마지막 오우거의 감정을 이해해 보려 노력하는 인간의 모습이었던거 같아요. 톱니바퀴들은 감정을 가지지 않잖아요? 그냥 주어진 동력만큼 뱅글뱅글 돌아갈 뿐이지. 하지만 그 톱니바퀴 사이에 끼인 인간은 절망과 회환을 가지고 그 톱니바퀴에게서 어떤 악의를 느끼는 것이지요.
그리고 그걸 보는 우리 독자들도요.
