Ուղեղ-Համակարգիչ Ինտերֆեյս
Brain–Computer Interface
뇌-컴퓨터 인터페이스
목차
1. AI 기술의 발전
2. AI 생명윤리와 투명성
3. 작가님께 드리는 말 : 부족한 점, 아쉬운 점이 보인다면 가차 없이 말씀해 주세요.
1. AI 기술의 발전
‘제3의 물결’이라고 총칭한 정보혁명은 일회성이 아니라 ①전산화(computerization) ②연계화(networking) ③유연화(flexibility) ④전재화(ubiquity)로 이어진 과정입니다.1 ‘제4차 산업혁명론’에서 산업혁명은 증기기관 및 철도의 등장과 더불어 기계제대공업이 융기한 제1차 산업혁명, 과학적 관리기법과 조립라인을 통해 대량생산체제가 구축된 제2차 산업혁명, 정보통신기술을 기반으로 유연생산체제가 확립된 제3차 산업혁명, 첨단기술이 주도하는 맞춤형생산체제가 공고화하는 제4차 산업혁명의 네 가지 유형으로 구분했습니다.2
AI를 주축으로 한 지능정보화는 전술한 네 차례 파동과 결을 달리하는 초대형 격랑으로, 지능정보화에는 ‘정보혁명2.0’이라는 별도의 범주 설정이 불가피하다고 봅니다. 정보혁명1.0과 변별되는 정보혁명2.0의 특성은 인공지능(Artificial Intelligence, AI)을 주축으로 한 지능화 과정에서 가장 확연히 드러나는데, AI에 의해 시키는 대로 움직이던 기계가 찾아 일하는 기계로 대체되어가는 것이 정보혁명 2.0을 특징짓는 기술적 정경입니다.3
『사피엔스』나 『호모 데우스』 같은 저작으로 거대사가(big historian)의 면모를 각인시키고 있는 유발 노아 하라리(Yuval Noah Harari, 1976년~현재)는 뉴욕 타임스의 공동기고문에서 AI의 영향력이 예술과 정치, 종교에 이르는 사회 전면으로 확대되어 문명의 만능키를 움켜질 공산이 크다는 경고와 함께4, 아직 AI에 전폭적으로 휘둘리지 않는 현시점에서 AI의 뛰어난 능력에 상응하는 책임과 통제 방안을 선제적으로 강구해야 한다고 밝힌 바 있습니다.5
인공지능 연구자인 도쿄대학교 대학원 공학계연구과 준교수 마쓰오 유타카(松尾豊, 1975년~현재)는 정보의 입출력 관계를 자율적으로 조정하는 주관자의 두뇌에 해당하는 AI를 네 가지 유형으로 구분하는데, 첫째는 단순한 제어 기능을 행사하는 제어 프로그램으로서의 AI, 둘째는 행동 패턴이 보다 다채로운 고전적 형태의 AI, 셋째는 빅테이터를 바탕으로 규칙이나 지식을 지속적으로 변경하는 기계학습 기구로서의 AI, 넷째는 기계학습 때 데이터를 나타내기 위해 사용되는 입력값(feature) 자체를 학습하는 딥러닝 실행자로서의 AI입니다.6
AI는 자연적인 인간 지능(Human Intelligence, HI)과의 비교론적 관점에서는 약인공지능(Narrow Artificial Intelligence, ANI), 강인공지능(General Artificial Intelligence, AGI), 및 초인공지능(Super Artificial Intelligence, ASI)으로 분류되며7 AI는 전체적으로 학습, 문제 해결 혹은 패턴 인식 같이 인류에게 선천적으로 주어진 지적 능력을 인위적으로 개발하려는 컴퓨터 공학이나 관련 연구 및 성과로 이해되고 있는데, 인간처럼 생각하고 느끼며 행동하는 컴퓨터를 만들자는 기술공학적 노력과 산물이 인공지능인 것입니다.8
발달된 인공지능 덕분에 ‘인공지능은 컴퓨터 알고리즘이고 인간은 생물학적인 존재이므로 같을 수 없다’라는 입장과 ‘인간 사고의 원천이 물질임을 주장’하는 인간 기계론의 주장처럼 ‘인공지능 기술의 발전으로 새로운 생명체의 탄생이 가능하다’라는 입장도 존재하며, 빠르게 연산하고 민첩하게 판단하여 실행에 옮기는 인공지능은 관련 연구진들에 의해 특이점을 지나 인간보다 월등하게 뛰어난 인공생명으로의 탄생을 예고합니다.9
알파고에서 시작된 유사 생명체에 대한 논란은 빠르게 인간의 지식을 습득해가는 GPT-3(Generative Pre-trained Transformer 3)의 언어모델에 이르러 어느 종류의 글이건 능숙하게 작성할 수 있으며10, 인간과 유사한 생명체에 한층 가까워졌습니다. 인공지능은 이제 인간과 대화(BERT, GPT-3)를 하고, 유명인의 음성을 모방 또는 합성하여 활용할 수 있으며, 자율주행의 상업화도 곧 시작될 것입니다.11
미국의 작가 겸 인공지능 과학자 겸 사상가 겸 미래학자 겸 발명가인 레이먼드 레이 커즈와일(Raymond “Ray” Kurzweil, 1948년~현재)은 ‘뇌의 정보처리 알고리즘을 패턴 인식 마음 이론으로, 뇌의 작동방식은 계층적으로 구성된 정보의 패턴을 이루고 있다고 합니다.12 레이 커즈와일은 2045년 특이점이 도래하고 로봇공학과 인공지능 기술의 융합에 의한 새로운 세대를 예고하고 있지만, 법인격 부여를 위한 전자인에 대한 자율 시스템의 한계와 책임 주체 등 여러 도전 과제들이 산적해 있습니다.
인간은 도구를 사용하고 지식 습득 역시 기계 또는 기술과의 공진화로 진행되어왔지만, 이제 인간성의 완성이나 진화의 목표라는 인간 중심적 개념은 힘을 잃어가고 있습니다.13 인공지능, 인간복제, 냉동 보존술, 나노테크, 대체 에너지, 마음 업로딩, 사이보그, 인체 통신, 우주탐험, 가상현실, 수명 연장 등 기술이 인간의 신체적 · 정신적 진화를 이끌고 있습니다.14 오늘날의 인공지능은 딥마인드(DeepMind)의 게임하는 AI ‘알파 제로(Alpha Zero)’나 오픈 AI(Open AI)의 초거대 언어모델 ‘GPT-3’ 같이 인상적인 심층신경망(Deep neural network) 기반 AI조차 마음이 전혀 없는 존재입니다.15
2. AI 생명윤리와 투명성
뇌-컴퓨터 연결은 뇌-컴퓨터 인터페이스(Brain-Computer Interface, BCI)나 뇌-기계 인터페이스(Brain-Machine Interface, BMI)로 알려져 있습니다.16 이 기술은 인간의 중추 신경계의 신호를 기록하고 자연적인 중추신경계의 신호를 대체, 복원, 향상, 보완, 개선하는 인공적인 출력(artificial output)으로 변환하는 시스템을 지칭합니다.17 이 기술의 주요 목적은 뇌 내부에서 일어나는 현상을 관찰하고, 이를 해독 및 판독하여 유용한 정보를 추출하는 것에 있습니다.18뇌-컴퓨터 인터페이스(BCI)는 비침습적 방법의 인터페이스 기술을, 뇌-기계 인터페이스(BMI)의 경우 침습적인 방법의 이식형 인터페이스 기술을 지칭하는 경향이 있습니다.19
뇌-컴퓨터 연결(BCI, BMI)는 아직 아주 제한적인 경우에 한해 연구나 임상시험을 위한 승인을 받은 상황으로, 의료분야의 임상 영역에서 보고된 내용들로 기술사용에서 발생할 수 있는 위험과 부작용을 일반적 고려사항으로 검토합니다.20 뇌심부자극술(DBS)의 경우 발생 가능한 부작용으로 무의식적 근육 수축, 마비, 언어 표현에서 부자연스러움, 보행시 어려움, 우울증(depression), 기분 변화(change in mood), 불안(anxiety), 환각, 두통(headache), 감각이상(pareshesia), 수면장애(sleep disturbances), 구토(vomiting), 발작(seizures) 등의 부작용이 보고되기 때문입니다.21
경두개자기자극술(TMS)의 경우에는 경련(seizure), 두피에서 불쾌감(scalp discomfort), 두피 화상(scalp burn), 다른 의료 기기에 영향(magnetic field effects on functioning of other medical devices), 조직에서 유해 반응(adverse tissue reaction), 청력 손실(hearing loss) 등이 발생할 수 있습니다.22 또 다른 부작용으론 청력 변화(hearing), EEG후유증(EEG after effects), 발작(seizures), 실신(syncope), 국소적 통증(local pain), 두통(headache), 불편함(discomfort), 인지적/신경심리적 변화(cognitive/neuropsychological changes), 급성 정신적 변화(acute psychiatric change), 이외 일어날 수 있는생물학적 영향들이 발생할 수 있다고 보고합니다.23
뇌-컴퓨터 연결(BCI, BMI)의 경우 의료영역에서의 활용 역시 정식 승인을 받지 못하고 연구 중이거나, 극히 일부의 경우 치료를 목적으로 임상연구에 제한적 승인을 얻은 상황입니다.24 뇌 내부에 구조물을 설치하는 경우는 뇌심부자극술(DBS)의 경우와 같이 외과적 수술을 동반함에 따라 수술과 구조물 설치에 따른 출혈, 감염, 사망의 위험이 있을 수 있고, 컴퓨터 연결이란 점에서 정보의 처리, 관리에서 발생할 수 있는 사생활의 문제, 처리 속도의 문제, 기기의 수명 문제, 상용화에서의 향상목적으로의 허가 문제 등을 고려해봐야 합니다.25
그외에도 인공지능의 활용은 상술한 편익적 측면과 기술이 가진 위험의 양면성을 갖는데, 문제점으로는 판단오류, 알고리즘의 편향성, 비도덕적 판단, 예측 불가한 오류 및 제어 불가능성이 제시됩니다.26 자동화(automated)는 기계가 인간의 힘으로 한 번 수행된 행위를 반복하여 효율성을 높이는 것으로, 인간이 구축한 체계 내에서 실행되는 시스템이라면, 자율화(autonomous)는 기계가 다른 체계와 연계돼 상호작용하고 스스로 판단․결정하는 시스템으로 인간의 통제 없이 어떤 행위를 오직 시스템으로 제어하는 것을 의미합니다.27
인간의 존엄성은 인간의 본질로부터 나오는 인격의 내용으로, 인간은 스스로 결정을 내릴 수 있는 자유의지를 가진 존재이며, 인간이 존엄한 근거는 자율성에 있다고 봅니다.28 인공지능 기술의 적용에 따른 위험은 인간의 존엄성에 대한 제약과 관련되어 있지만, 개인이 위험가능성을 스스로 인식하여 자신을 보호하는 데에는 한계가 있으므로29 국가의 역할이 보다 중요합니다.
또한, 인공지능의 결정은 데이터를 기반으로 작동하기 때문에, 인공지능 솔루션에 사용되는 데이터가 법적 규정 내지 윤리적 원칙을 위반하여 획득된 경우(예: 신청자가 사용에 동의하지 않은 경우) 개인정보보호권 및 사생활권과 충돌합니다.30 그리고, 인공지능의 능력이 증대됨에 따라 정보침해의 위험성 역시 증대됩니다.31 처리하는 데이터의 양이 방대해지고 복잡해짐에 따라 관련 규정의 준수 및 정보보호에 대한 요구도 증가합니다.32
방대한 데이터를 기초로 하는 인공지능은 데이터 최소화와 배치될 뿐만 아니라, 데이터처리에 사용되는 알고리즘의 작동방식을 알 수 없는 상황에서, 데이터처리의 목적을 구체적으로 명확히 정의하고 허용되는 것과 허용되지 않는 것을 규정하는 것은 불가하기 때문입니다.33 인공지능은 인간과 달리 감정없이 사실에 근거해서만 결정을 내릴 수 있는 능력이 있다고 믿지만, 이는 기본 알고리즘자체가 구성 및 작동방식에서 차별적이지 않은 경우에만 해당됩니다.34
인공지능의 학습 알고리즘은 방대한 데이터를 기초로 하는 일종의 통계적 추론입니다.35 알고리즘은 기본적 데이터와 결과의 도출에 있어 상관관계(Korrelation)만을 고려하고 엄밀한 인과관계(Kausalität)는 고려하지는 아니합니다.36 인공지능을 적절히 이용하기 위해서는 인간의 존엄성 보장을 기반으로 하는 헌법 및 기타 기본권을 구체적으로 실현하는 노동법 및 개인정보보호법 전체의 고려와 함께 시스템 및 응용프로그램 또는 서비스 평가에 대한 자격을 갖춘 기술전문지식 역시 보완되어야 합니다.37
인공지능에 의한 의사결정의 과정 및 판단 근거가 공개되어야 인간은 이에 대해 반박하거나 납득할 수 있을 것이므로, 투명성이 확보되어야 비로소 책임성을 담보하고 편향성을 교정하고, 통제가능성을 획득할 수 있을 것입니다.38 인공지능을 둘러싼 이해당사자를 국가와 개인, 기업으로 구분하고 제3자에게 인공지능의 절차적 의사결정을 관리, 감독하는 절차를 맡김으로써 개인의 개입여지를 두어야 합니다.39
3. 작가님께 드리는 말 : 부족한 점, 아쉬운 점이 보인다면 가차 없이 말씀해 주세요.
당신이 느끼고, 생각하고, 기억하는 모든 것이 ‘X’를 성장시킵니다. ‘X’는 당신의 동반자가 될 준비가 되어 있습니다. ‘X’와 함께하는 행복한 미래! 지금 바로 TMT와 상담하세요.
사피엔스, <당신은 나의 동반자> 中
작품의 줄거리, 작품 내용 분석은 다른 훌륭한 리뷰어 분께서 이미 깊이 있게 작성해주셨습니다. 그래서, 저는 사피엔스 작가님께서 리뷰 공모에 부치신 부족한 점과 아쉬운 점만을 다루도록 하겠습니다. <당신은 나의 동반자>는 ‘먹고 살려면 AI에게 인격데이터를 팔아야 하는 시대’라고 소개글을 서술하고 있고 해시태그로 ‘뇌컴퓨터’, ‘인터페이스’, ‘AI’, ‘학습’, ‘데이터세트’로 구성된 149매 분량의 SF 중단편 소설입니다. 저는 <당신은 나의 동반자>를 여러번 반복해서 읽어보았습니다. 작품은 인공지능 기술이 발달된 근미래를 배경으로 하고 있습니다. 인공지능이 발달함에 따라 다소 편리해진 부분도 있고 새로운 사회적 문제를 야기하기도 합니다.
당사자의 동의가 없는데도 주문자의 기억을 추출하거나 사진이나 영상을 참조해서 만든 불법 모사 휴머노이드 때문에 사법계는 골머리를 앓았다. 예상할 수 있듯이 그러한 사건의 피해자는 대개 스토커나 사기꾼의 표적이 된 유명인이나 일반인들이었다.
사피엔스, <당신은 나의 동반자>, p. 125.
기계가 인간의 동의 없이 인간의 기억, 인간이 찍은 사진, 인간이 제작한 영상을 기계가 멋대로 추출하는 것은 인간의 존엄성에 반하는 것입니다. 동시대의 개발자들도 기술을 개발할 때 인간의 존엄성과 인간의 생명과 정보를 보호하기 위해서 고심하고 있습니다. 물론, 오늘날에는 딥페이크(생성형 AI를 활용하여 만들어진 가짜 이미지나 영상물을 의미합니다)를 이용한 허위 정보 유통이나 혐오 범죄를 조장하는 사건이 늘어나고 있습니다. 사피엔스 작가님은 2024년에 생존 중인 창작자이므로, 동시대에서 벌어지는 사회적 문제를 창작물에서 표현할 수 있습니다.
저는 문학이란 작가가 사는 세상을 비추는 거울이라고 생각합니다. 하지만, SF(Science Fiction) 장르는 과학 소설인 만큼 과학을 선도하는 인공지능 개발자, 컴퓨터 과학자의 입장을 견지하여 창작을 하셨으면 하는 아쉬움이 있었습니다.
사피엔스, <당신은 나의 동반자>, p. 301. | 하지만 쭈니-링크 공동사업체는 설 자리를 잃을 위기에 처해 있었다. ‘X’를 비롯한 전자인들이 인격을 부여받은 후, 자연인 전용 사이트들이 전자인을 차별한다는 비난을 받은 것이다. 그들도 소비를 하고 있으므로 기업들이 그들의 의견을 듣고 제품 개발에 반영해야 한다는 논리였다.
사피엔스, <당신은 나의 동반자>, p. 302. | 사이트 운영진들은 전자인들이 다른 사이트를 이용하면 그만이라고 맞섰다. 하지만 정부는 자연인 전용 사이트에 규제를 가하려는 움직임을 보였다. 전자인에게 인격을 부여하기로 한 결정이, 감소세로 돌아선 인구증가율과 그에 따른 경제 둔화에 대한 대책이었으니 당연한 수순이었다.
사피엔스, <당신은 나의 동반자>, p. 303. | 당연하게도 논란이 컸다. 기업들이 자사 브랜드를 전자인들이 선호하도록 학습시킬 것이라는 거였다. 그러면 세계 경제는 기업들의 꼭두각시인 전자인들이 좌지우지하게 될 것이었다. 인류는 생산 뿐만 아니라 소비에서도 뒷전으로 밀려나는 것이다.
이 부분은 이해가 되지가 않습니다. 인구가 줄어들어서 전자인에게 인격을 부여한다는 것이랑 기업의 꼭두각시인 전자인(기계)이 인류의 구성원으로서, 자연인(인류)가 생산 뿐만 아니라 소비에서도 뒷전으로 밀려난다는 것이요. 인구가 줄어드는 것은 2024년 대한민국이 마주하고 있는 동시대적 사회 문제입니다. 그리고, AI가 창작이나 예술 같은 영역을 침범하고 있는 것도 동시대적인 문제라고 볼 수 있습니다. 그렇지만, 자연인(인간)이 줄어든다고 해서 부족한 인류 구성원의 역할을 전자인(기계)에게 부여할 것 같지는 않습니다. 세금 납부, 국방의 의무, 학교 교육 같은 영역을 기계가 완전히 대체하여 인간의 지위를 위협하기 전에 러다이트 운동이 일어날 것 같습니다.
당장, 2023년도에 미국 할리우드의 작가조합이 파업을 했었습니다. 기계가 인간을 대체하여 인간의 권리가 침해당하면 인간들은 가만히 순응하지를 않습니다. 그리고, 인구 감소로 인한 경제 둔화를 메꾸기 위해서라면 정부에선 외국인의 이민을 늘리거나 출산장려정책을 펼치는 방안을 논의할 것입니다. 행정부/사법부/입법부가 독립적으로 서로를 견제하는 것처럼, 정부도 기업을 견제합니다. 중소기업이나 사회적기업은 국가가 지원하고, 굴지의 대기업에 경우엔 세금을 많이 내도록 하거나 각종 규제를 거는 등으로 말이지요.
물론, ‘AI가 인간을 돕기 위해서 태어났고 인간을 도울 때 기쁨을 느끼며 인류를 행복하게 할 방법을 찾고 있다'(사피엔스, <당신은 나의 동반자>, p. 306.)고 언급이 되어 있지만, 개인적으로 저는 부족함과 아쉬움을 느꼈습니다.
하지만, 저는 소설을 즐겁게 읽은 독자 중 한명이므로 사피엔스 작가님께서 리뷰공모를 진행할 만큼 애정과 열정을 가진 이 작품이 개선되어 풍성하고 빛나길 바랄 뿐입니다. 좋은 소설을 창작해주셔서 감사합니다. 난네코 배상.
