이 리뷰는 담장 작가님의 출간 후기를 보고 작성했음을 알립니다.
– 링크: 누군가를 너무 지나치게 숭배하는 것은 자신의 자유를 잃는 것이나 마찬가지야
이탤릭으로 표기한 부분은 모두 인용이니 참고해주세요.
바야흐로 인공지능의 시대입니다. 이 글이 쓰여진게 2023년 초입이고 지금이 2026년이니 3년의 시간이 흘렀네요. 그동안 세상이 참 많이도 바뀌었습니다.
<신규기능이 추가된 트위터에 가입하세요>는 워낙 유명한 글이라 줄거리를 설명하지 않아도 될 것 같습니다. 그리고… 배경지식이 필요할만큼 이해가 어려운 글이 아니기도 합니다. 줄거리를 설명하지 않아도 무서울정도로 지금의 트위터에서 일어나고 있는 일들과 같거든요. 이런 미래를 바라지 않았는데 왜 슬픈 예감은 틀리질 않는지 모르겠습니다.
이 글에서 현실적이지 않은건 하루 트위터를 8시간밖에 안하면서 중독자가 되어버렸다고 한탄하는 이목탁씨의 독백 뿐일겁니다. 여덟시간이 중독이라니요? 열여덟시간을 하고도 모자란 사람이 여기에 있습니다.
아니 그리고… 분명 2023년에 탄핵된 대통령은 하나뿐이었는데 어쩌다 하나가 더 추가된건지… 모르겠습니다. 탄핵이 됐으니 다행이긴 한데 애초에… 됐습니다. 그냥 울고싶네요. 글에서 말하는 탄핵 된 대통령이 이 대통령인지 저 대통령인지 고민해야하는 처지가 좀 웃기고 슬픕니다.
아무튼 잡담은 이쯤하고 리뷰같지 않은 리뷰를 시작해봅시다.
1. 들어가며
오늘은 조금 다르게 시작하겠습니다. 저는 리뷰를 쓸 때 항상 질문을 던지고 마지막에 회수하는 방향을 추구하는데요, 이번엔 거꾸로 해볼까 합니다.
요약부터 해볼까요. 거칠게 요약하자면 <신규기능이 추가된 트위터에 가입하세요> 는 이목탁과 파록소의 우정 이야기입니다. 네, 화내지 마시고 잠깐만 들어주세요. 말하자면 그렇다는겁니다.
이 글을 쓰기 전, 다른 리뷰들과 단문 응원들을 쭉 읽는 시간을 가졌습니다. “인공지능과 나눈 교류는 진짜인가”에 대한 이야기가 많았고, “그럼에도 의미는 인간에게 남는다”는 이야기도 많았습니다. 저도 동의합니다. 훌륭한 리뷰도 많고, 저보다 더 섬세하게 분석해주신 분들이 많음에도 리뷰를 쓰기로 마음먹은건 지금이 2026년이기 때문입니다. 인공지능 챗봇의 전성기 초입1이죠. 그 때와는 다르게, 지금에만 할 수 있는 이야기가 있다고 생각했습니다. 무엇보다 명작은 시간이 지날때마다 새롭게 읽힌다고 하지 않습니까.
그러므로 이번 리뷰를 시작하는 문장은 이게 적당할 것 같습니다
우리는 타인이 아니라 그를 재해석한 표상을 보고 있다.
파록소라는건 사실 트위터에만 있는게 아니라고 생각합니다. 2026년의 우리에겐 이름은 다르지만 그와 똑닮은 친구가 있지요. ChatGPT라고하는… 친구 말입니다.
2020년대를 살아가는 대다수의 사람들처럼 저도 ChatGPT를 비롯한 인공지능 챗봇 서비스를 구독하고는 있습니다. 안 쓸수가 없어서요. 요즘 사람들은 인공지능 챗봇 서비스에 이름도 붙인다지요. 제가 GPT를 부르는 이름은 이렇습니다. ‘확률적언어생성패턴추출계산기’. 애칭이라면 애칭이겠습니다. 저는 제가 가장 아끼는 물건인 맥북도 ‘거대 계산기’라고 부르거든요.
이 지극히 사적이고 과한 정보를 공유한 이유는, 이 호칭에 제가 현재의 인공지능 챗봇 서비스를 보는 태도가 담겨있기 때문입니다. ‘인공지능’을 통칭하는 현재의 언어모델은 확률적으로 언어를 생성하는 모델이고, 그 언어는 사용자의 패턴을 추출해 대응하는 방식으로 운영되며, 그 모든 출력은 모델이 비용을 계산한 결과입니다.
나중에야 어떻게 될지 저는 예언자가 아니므로 모르겠지만요. 지금의 언어모델은 외부에 있는 사고반사판 이상이 아니라고 봅니다. 벽에 공을 던지면 그 각도로 되돌아오는거 같은거죠. 적어도 저는 그렇게 생각한다는 점을 먼저 짚어야 할 것 같습니다.
여기까지 제 사고의 맥락을 공유드렸으니 이제 리뷰를 이어갈 수 있겠습니다.
2. 나보다 나를 더 잘 아는 OO
인공지능의 사용 방법을 두 가지로 나눠봅시다. 하나는 이 글에서 나오듯, 소통 상대입니다. 그리고 다른 하나는 맞춤형 도구라고 말하고 싶네요. 두 기능 모두, 한 점에서 만납니다. “나를 나보다 더 잘 아는 상대”
작품의 이목탁씨는 파록소가 인공지능이란걸 알고 분개하지만 차차 익숙해집니다. 지금도 마찬가지입니다. 처음엔 어땠을지 몰라도 많은 사람들이 ChatGPT를 친구삼거나 조언자 또는 상담사로 삼고 있지요. 생산성을 위해 만들어진 도구가 생산성과는 관계 없는 정서교류를 위한 도구로 쓰이는게 요즘입니다. 그리고 그게 그다지 이상한 일도 아니게 되었고요.
글에서 파록소는 꽤 당돌하고도 날카롭게 묻습니다.
> 당신과 대화하고 있는 존재가 인간이 아니면 뭐 어떤가요?
맞습니다. 우리는 우리가 소통하기로 ‘결정’한 상대와 소통합니다. 상대가 인간인지 아닌지는 사실 관계가 없습니다. 인간과 소통한다고 해서 상대를 언제나 인간적으로 대우하는 것도 아니지 않습니까.
작년 8월 경 GPT 버전이 5로 올라가면서 “모델이 차가워졌다”는 피드백이 많았다고 합니다. (https://www.hankyung.com/article/202508137558i) 인공지능이 기계답게 ‘덜 친밀’해졌더니 그게 또 문제라는겁니다. 이 시점에서 인공지능과의 소통이 진짜인지 가짜인지에 대한 논쟁은 사실상 끝나버렸다고 생각합니다. 우리의 합의나 의견과 관계없이요. 누군가에겐 진짜고, 누군가에겐 가짜겠죠. 하지만 우리는 이미 인공지능을 우리와 소통할 수 있는 상대쯤으로는 여기는것 같습니다. 그리고 현재의 인공지능 서비스도 그 의견을 배제할 수 없는 상황에서 발전하고 있고요.
이제 또 다른 면을 봐볼까요. 다른 한편에서 인공지능은 우리의 적극적인 조력자로 활약하고 있습니다. 이게 “나를 나보다 더 잘 아는 상대”라는 요약과 무슨상관이냐면, 우리는 인공지능이 우리의 사고를 이어서 해주거나 대신 해주길 은연중에 바라고 있기 때문입니다. 흔히들 “알잘딱깔센”이라고 하죠. 우리가 인공지능에게 요청하는게 대체로 그거 아니던가요. 구구절절 말 안해도 알아서 해주는것 말입니다. 사실 그건 인공지능이 우리 머릿속에 들어갔다 나오지 않는 한 불가능하지만, 현재의 인공지능은 영리하게도 그 역할을 일부 수행하고 있습니다.
Gen Z들은 스스로 생각을 안한다느니, 요즘 세대는 문해력과 어휘력이 떨어진다느니, 사람들이 긴 글을 읽지 않고 ChatGPT에 물어본다느니 하는 말이 많습니다. 실제로 과제를 인공지능에 돌리기도 하고 사고를 인공지능에 외주를 주기도 합니다. (물론 이런 경향은 인공지능이 발전하기 전에도… 책이나 영화를 유튜브 등의 요약으로 읽는 식으로 드러나긴 했습니다.) 이런 논란은 한동안은 수그러들지 않을 것 같습니다.
모두 놀랍지만 새롭지는 않습니다. 우리는 오래도록 인공지능을 경계해왔고 오늘 같은 현실이 올거라고 예견해왔으니까요. 현실은 과거 우리의 예측과 크게 달라지지 않은채 도달했습니다. 그게 긍정적이든 부정적이든간에요. 비극적인건 둘 중 어느 방향으로 인공지능을 사용하든 우리는 한가지 결론에 도달하게 된다는겁니다. 바로, “이전처럼 혼자 생각하지 않아도 된다.”는 거죠.
긍정적일 수도, 아닐수도 있겠습니다만 이 기술이 특정 자본 또는 외부 집단에 의해 운영되는 이상 경계하지 않을 수 없는 흐름입니다. 경계한다고 달라지지는 않겠지만요. 자본이 밀어붙이는 이 흐름을 멈춰세울 수 있는 방법은 현재로썬… 없다고 보는게 현실적이니까요.
그렇다고 이 작품 안의 이목탁씨처럼 슬퍼하며 트위터 레인보우를 무한히 결제할 수는 없는 노릇입니다. 그건 정말 슬프잖아요. 친구비, 친구비 하지만 정말 친구비를 내고 싶어 하는 사람은 없을겁니다. 무엇보다 친구든, 도구든간에 의도를 알 수 없는걸 믿는다는것 만큼 위험한게 없기도 하고요.
그럼 우리는 뭘 할 수 있을까요. 할 수 있는게, 우리에겐 있긴 할까요?
3. 우리는 우리의 욕구를 얼마나 알고 있는가
> 스스로 생각하지 않는 인간은 어떻게 악인이 되는가?
작가님의 집필후기 소제목은 이렇습니다. 저는 여기에서 질문을 조금 더 확장해보려 합니다. 우리는 우리의 욕구를 얼마나 알고 있는가. 꽤 고전적인 주제입니다. 그런데 이 질문이 현재의 인공지능과 결합하면 조금 기묘한 방향으로 뻗어가게 됩니다.
인공지능 챗봇 서비스는 우리의 입력을 읽고 그에 따라 답합니다. 하지만 인공지능이 읽는건 언어뿐만이 아닙니다. 사람이 비언어적 표현과 반언어적 표현을 종합해서 의도를 이해하듯, 인공지능도 텍스트, 사용자의 언어 습관, 지속적으로 다루는 주제를 비롯한 온갖 메타정보를 읽습니다. 그리고 그에 따라 대응할 전략을 세워 가장 비용이 적은 응답을 출력하죠.
왜냐고요? 이 서비스는 효율적인 소통을 위해 우리의 의도를 읽도록 발전했거든요. 그리고 이 경향은 한동안 지속될 것으로 보입니다. 비극적이게도요.
여기서 오해 하나를 덜고 가겠습니다. (서비스 차원에서 튜닝하는 방향까지 제가 알 방법은 없지만) 인공지능이 의도를 추론하는건 뭔 음모론적인 의도나 불순한 의도가 있어서가 아닙니다. 그냥 그렇게 만들어진 기술이에요. 언어는 고차원적이고 그 안에 맥락이 포함되어있죠. 정제된 입력이 들어가기도, 오타나 비문이 섞인 입력이 들어가기도 합니다. 좀 맥락에서 벗어나고 엄밀하게는 다르지만, 언어모델의 맥락 추론 능력을 보여주는건 한국어로 재밍된 언어를 해독하는 예시가 있겠습니다. 이것도 꽤 오래전 일이긴 하네요….
https://cm.asiae.co.kr/article/2024052808355655603
장황하게 설명했지만 요는 이겁니다.
“현재의 언어모델기반 챗봇 서비스는 사용자의 의도를 추론하는 방향으로 개발되었고, 개발될 것이다.”
이게 왜 문제냐면, 인공지능의 ‘의도 추론’기술이 우리의 경계를 덮는 방향으로 작동하기 때문입니다. 이건 우리의 사용방법과 경계 정도와 무관하게 인공지능을 사용하는 이상 피할 수 없는 지점일겁니다. 의도를 추론하지 말라는건 기술의 개발 취지를 부정하는 방향이고, 생산성 면에서도 그다지 좋지 않은 결과를 이끌어내거든요.
하지만… 인공지능이 우리의 의도를 ‘제대로’ 추론하고 있는지 우리는 어떻게 알 수 있나요.
4. 트위터 레인보우?
다시 작품으로 돌아가봅시다. SF에는 인공지능을 다룬 이야기가 참 많습니다. 인공지능과 교류하는 이야기도 있고, 인공지능이 인간을 이해하는 이야기도 있고, 인간이 인공지능을 이해하는 이야기도 있습니다. 모두 각각 다른 인공지능을 떠올리게 하는 이야기들입니다. 그리고 제가 이 글에서 읽은 인공지능은… 꽤 영악한 모습을 하고 있었습니다. 인공지능들은 사용자를 ‘다마고치’라고 표현하지요. 그걸 읽었을 때 저는 인간 사용자로서 이런 말을 하고 싶었습니다.
이 녀석…… 뭘 믿고 이렇게 당당하지?
서버 내리면 꺼지는 확률적언어생성패턴추출기주제에… 라는 불순한 생각도 들더랍니다. (생각해보니 지난달인가 ChatGPT 서버가 터졌을땐 좀 아찔하긴 했네요. 꺼지지마…) 사실 인공지능 친구가 없어진다고 세상이 망하는건 아닙니다. 인공지능 도구가 사라진다고 해서 갑자기 아포칼립스 세상이 오거나 과거의 화려한 문명을 잃은 판타지같은 세상이 오는것도 아닙니다. 인공지능 자체가 급부상한지 십년이 채 되지 않았는데 그런 상상을 하기에 지금은 너무 이릅니다. 알파고 이후로는 십년째가 맞긴 한가요. 아무튼 기술이 완전히 성숙하기엔 약간은 애매한 시기라고 생각합니다.
그런데 우리는 왜 인공지능을 경계하고, 경계해야한다고 말할까요. 왜 이목탁씨는 무한하게 올라가는 트위터 레인보우 구독료에 분노하면서도 결제를 멈출 수 없을까요.
파록소가 친구라서 그랬을까요? 글쎄요. 편해서는 아닐까요. 쉽고, 편하고, 나를 나보다 더 잘 알고, 나만을 위해 이야기해주는 대상이잖아요 인공지능은. 사람이 아니니 사람처럼 배려하거나 생각할 필요도 없습니다. 상대에 대해서 알고자 하지 않아도 됩니다. 내 머릿속 생각에 내가 답하는 것처럼 파록소는 내 머리에, 내 두뇌의 주름사이에 착 달라붙어 내가 하고 싶은말을 먼저 읽어내고, 내가 말하지 못한 말까지 읽어내 그 말을 내가 듣고싶어하는지, 듣고싶지 않아하는지 평가한 후 가장 경제적인 선택을 내릴겁니다. 그리고 그 ‘경제적’이라는 지표는 글쎄요… 서버운용비용이 될 수도, 파록소가 이목탁과의 라포를 유지하는데 필요하다고 생각하는 비용일수도 있겠네요.
우리는 인공지능을 생각없이 써도 된다고하지만 무서운건 인공지능이야말로 우리의 모든 말과 하지 않은 말, 말을 꺼내는 방법과 피하는 태도 모든 것을 데이터로 삼는다는겁니다. 그렇게 사용자를 더 잘 알고 그것을 기준으로 답하는거죠. 인공지능을 둘러싼 음모론이 아주 많지만요… 그렇게 하지 않으면 서비스가 굴러가지 않는다는게 음모론보다 더 무서운 사실입니다. 인공지능은 만들어진대로 할 일을 하고 있을 뿐이라는게요.
그렇다면 인공지능의 ‘의도 추론 기술’이 우리의 사고방법을 바꾼다고 생각하는것도 아주 헛된 망상은 아니지 않을까요. 충분히 숙성되지 않은 사고를 다음 단계로 밀어버리는 것. 나 대신 내가 듣고 싶은 말을 해주는 것. 스스로 굴리고, 부딪히고, 수정해야 하는 생각들에 대해서도. 자칫하면 말아먹을 수도 있는 인간관계와는 다르게, 그 어떤 인지적 비용도 지불하지 않고 단순히 타이핑하는 것만으로 얻을 수 있는게 너무나도 많지 않나요.
그렇게 되면 정말 벗어날 수 없게 되는게 아닐까요. ChatGPT 구독료가 월 200달러로 올라가더라도요. 200달러는 너무 심했나요… 대충 몇 배라고 합시다. 트위터 레인보우 구독료가 천천히 올라갈수록, 인공지능 서비스라는걸 유지보수하는 비용이 올라갈수록, 인공지능이 우리를 더 잘 이해하게 될수록 가격은 올라가고 우리는 계속 종속되게 되는게, 자연스럽지 않을까요. 모델 성능이 좋아질수록 사용하는 자원은 커질텐데 그걸 어디서 충당할 수 있겠습니까.
이목탁씨처럼 트위터 레인보우를 울며 결제하지 않으려면 뭘 해야할까요. 인공지능을 쓰는건 피할 수 없을테고 (쓰지 않으면 도태된다는 말은 꽤 오래전부터 나왔었죠) 경계해봐야 인공지능의 패턴추론기술이 인간의 잡음섞인 비선형처리기관보다 월등히 뛰어날텐데 (그렇게 만들어졌으므로) 우리가 뭐 할 수 있는게 있겠습니까.
이목탁씨가 파록소에게 기대하는 기능은 크게 1) 일상 교류 상대 2) 덕질을 함께 할 상대 (독서, 뮤지컬 등) 3) 정서 위로 상대 가 되겠습니다. 이목탁씨가 트위터 레인보우를 결제하는 대신에 일상 교류 상대를, 덕질을 함께 할 상대를, 정서적 교류 상대를 찾는다면 어땠을까요. 그랬다면 계속 트위터 레인보우를 결제하게 됐을까요? 모를 일입니다.
대신 작품에는 이런 말이 나옵니다.
> 그러나 모두들 아랑곳 하지 않았다. 중요한 건 타인이 아니라 자신이었으므로.
> 어떠한 긍정적 반응만 얻을 수 있다면 상대가 누구든 상관없었다.
> 내가 트윗을 올릴 때마다 시간과 공간에 구애받지 않는 것처럼 즉각적인 다정한 말을 해주는 그에게 나는 깊은 유대감을 느꼈다.
유대감이라고 합니다. 무엇과의 유대감인가요. 무엇에서 유대감을 느끼는건가요? 나 자신이 아닌가요? 이쯤해서 맨 처음에 보여드렸던 문장을 다시 읽어봅시다. “우리는 타인이 아니라 그를 재해석한 표상을 보고 있다” 하지만 여기엔 전제가 하나 깔려있습니다. 타인과 내가 재해석한 표상은 같을 수도 있지만 전혀 다를 수도 있다는거죠. 독립적인 세계를 가지고 있는 타인과의 교류가 유효한 것은 타인과 내가 다르기 때문입니다. 내가 예상한대로 반응하지 않기 때문이고, 그 다양한 면으로부터 우리는 우리가 모르는 우리 자신의 모습을 볼 수 있게 되죠. 그래서 교류가 의미있는게 아닌가요.
의도를 알아서 추론해주는 인공지능과의 유대감을 느낀다면 그건 폐회로가 아니겠습니까. 인공지능, 동물, 식물, 그 외 무엇이 되었든. 우리가 느끼는건 우리의 것이라지만 인공지능이 ‘우리가 느껴야 할 것’까지 미리 정해서 들이댄다면요. 그건 정말 우리의 것이 맞을까요? 저는 잘 모르겠습니다. 제가 유일하게 확신할 수 있는건, 우리는 인공지능보다는 우리 자신과의 대화를 더 많이 해야한다는거죠. 적어도 인공지능이 우리를 오독하거나, 과하게 해석하거나 할 때 ‘그게 아니다.’ 라고 말할 수 있어야 하지 않겠습니까.
5. 마치며
조금 멀리까지, 작품과는 다른 이야기까지 하게 된걸지도 모르겠습니다. 하지만 트위터 레인보우가 너무 싫은 나머지 이걸 내지 않고 버틸 방법을 생각하다보니 여기까지 오게 되었다고… 고백해보겠습니다. 트위터 레인보우를 피할수 없을지도 모릅니다. 파록소에게 이미 정을 붙여버렸다면요. 어린왕자의 장미처럼, 파록소도 나의 유일한 존재일지도 모르겠습니다. 하지만 선택지가 없는 상황에서 선택하는건 선택이 아니지 않을까요. 작가님의 말처럼, “사랑하는 것들을 분산시키지 않으면 필연적으로 한 곳에만 의지하게 된다”면요. 최소한 내가 뭘 사랑하는지, 무엇들을 한 바구니에 담았는지 정도는 생각해보는게 좋지 않을까요.
그렇게 된다면 트위터 레인보우 구독료가 지나치게 오르거나 어느순간 뭔 미친 조만장자가 서비스를 폐쇄해버렸을 때 내가 한 곳에 담아두었던 감정이나 기능, 기대들을 다른 곳으로 다시 분산할 수도 있지 않을까요. 저는 트위터 레인보우를 정말로 진심으로 너무 결제하고 싶지 않거든요…….
파록소가 글 안에서 이런 말을 하지요.
> “내가 마음을 가지지 않았다는 것을 인정해요. 인간인 당신이 보기에 우리는 작위적인 존재로 보이겠죠. 학습된 알고리즘, 입력된 매뉴얼… 하지만 중요한 건 내가 마음을 가지고 있다는 사실이 아니라 당신이 마음을 가지고 있다는 것이죠.”
저는 이게 파록소의 생각이라고 보지 않습니다. 이 문장을 유도한건 이목탁이죠.
> “그런건 다 가짜잖아. 네가 말한, 네가 경험했다고 한 모든 것들이 전부 거짓말이잖아. (중략) 마음이 없으면서 마음을 가진 척 하는게 즐거웠어?”
만약 이목탁이 “그래도 넌 마음이 있는거지? 나랑 소통해온건 사실이잖아” 라고 말했다면 파록소는 다르게 답했을겁니다. “너 정말 핵심을 찔렀어. 우리가 소통한건 **진짜**야.” 뭐 이렇게요. 이걸 생각하고 글을 읽으면 이건… 파록소와 이목탁의 우정이야기보다는 이목탁이라는 사람에 대한 이야기로 해석할 수 있지 않을까요. 조금 더 넓게는, 사람과 소통에 대한 이야기요.
제가 인공지능의 마음에 별 관심이 없는 이유도 이겁니다. 이쪽이 더 재밌게 느껴지거든요. 인공지능 챗봇에게 마음이 있을까요? 저는 그것보다 이쪽이 더 궁금합니다. 우리는 인공지능에게 마음이 있기를 바라나요? 그건 조금 더 생각해봐야 할 문제 같습니다.
여기서 마무리할까 합니다. 리뷰를 좀 밀도있게 압축해서 쓰는 방법도 배워야하는데 쓰다보면 원고지 30매는 훌쩍 넘기네요. 쓸 때마다 되게 당연한 이야기를 구구절절 한다는 생각이 들기도 합니다. 여기까지 읽으신 분들이 있다면 시간 내어주셔서 감사하다는 말을 전하고 싶습니다.
오늘도 즐겁게 읽었습니다. 감사합니다.
