[눈길] 히폼네시스와 생성형 인공지능,존재론의 위기

 

히폼네시스와 생성형 인공지능,존재론의 위기

 

김봉률 (수이제) 

베르나르 스티글러는 “기여와 공유를 키워드로 한 각종 사회운동이 프랑스에서 일어나고 있다”며 “지금은 한계에 봉착한 후기 자본주의 사회에 대한 대전환이 필요한 시점”이라고 밝혔다.  출처: 《동아일보》 장승윤기자 2015년 10월 29일

 아남네시스와 히폼네시스 

베르나르 스티글러에게 인류 기술의 역사는 ‘기억의 외재화’ 역사다. 뗀석기부 터 알타미라나 고구려 부용총 같은 동굴벽화, 시스티나 성당의 천지창조 뿐 아니 라 여러 그림들, 그리고 『오딧세우스』나 『바이블』, 『삼국유사』 등을 비롯해서 오 늘날의 유에스비, 시피유, 동영상, 나아가 클라우드, 지금의 챗지피티와 같은 인 공지능 등 이 모든 것은 기억기술을 통한 ‘기억의 외재화’이다. 인간이 기억의 한 계를 뛰어넘기 위해 아남네시스를 외재화한 히폼네시스이다. 

 

아남네시스와 히폼네시스는 무엇인가? 플라톤은 『파이드로스』에서 말과 문자 의 관계를 설명하고 있다. 이 유명한 장면에서, 숫자와 글자를 발명한 신 토이트가 백성들이 글자를 사용하면 현명해질 것이라고 말하자 왕 타무스는 다음과 같이 말한다. 

 

당신이 발명한 이 글자는 학습자들의 영혼 속에 망각을 불러올 것이오. 그들이 자신의 기억을 사용하지 않고 외부의 문자 기호에 의지하게 될 것이기 때문이오. 당신이 발견한 것은 기억을 위한 약이 아니라, 회상을 위한 수단일 뿐이라네. 당신은 제자들에게 진리를 주는 것이 아니라 진리의 겉모습만을 줄 뿐이오. 그들은 많은 것을 듣고도 실제로는 아무것도 배우지 못할 것이오. 

 

신 토이트와 왕 타무스의 신화적 대화 속에는 글자와 소리말의 대립을 넘어 기억에 관한 근본 문제, 즉 ‘자신의 기억’과 ‘외부의 기호’의 대립이 나온다. 여기서 플라톤은 ‘자신의 기억’은 아남네시스, 곧 살아있는 자발적 기억이고, 죽은 기억인 ‘외부의 기록물’은 히폼네시스, 곧 보조적 기억으로 명명한다. 그리고 아남네시스는 진리이자 지혜의 실체이지만 히폼네시스는 진리의 겉모습일 뿐이고 이 문자 기호를 통해서는 아무것도 배우지 못할 것이라고 경고한다. 데리다에 따르면, 플라톤은 스승 소크라테스의 영혼의 말씀을 철학적 아남네시스로 세우면서 소피스트적인 히폼네시스를 폄하했다. 

 

하지만 아이러니한 것은 그가 이 논쟁을 펼치는 마당이 문자 기록인 『파이드로스』, 즉 보조적 기억의 도구체인 알파벳을 이용한 글쓰기에 있다는 것이다. 이후 문자의 기록과정은 큰 변곡점을 맞게 되는데 가장 대표적인 것이 15세기의 인쇄술, 21세기의 디지털 정보산업이다. 플라톤의 우려와 달리 아남네시스에 비해 히폼네시스는 비약적으로 확장 발전하면서 디지털 기록기술산업으로 발전하게 되었다. 이 눈부신 발전에 왕 타무스의 우려는 기우였고 부질없었다는 생각이 잠시 든다. 

데리다와 라파엘로의 <아테네학당>. 출처: https://www.thecollector.com/platos-pharmacy-jacques-derrida/

보철적 숙명의 존재론 

인간은 신체적인 면에서는 생물학적으로 매우 허약하다. 보온과 보호를 위한 털도 없고 맹수를 방어하거나 먹이를 낚아챌 날카로운 손발톱이 장착되어 있지도 않다. 그래서 유년기가 더더욱 길다. 다만 자유로워진 손으로 도구 제작이 가능하면서 기술을 발달시킬 수 있게 되고, 그리고 고개를 들면서 후두부의 공간이 넓어서 소리의 섬세한 분절이 가능해서 말이 발달하게 되면서 문자기록까지 가능하게 되었다. 

 

그 결과 고도의 발달된 문명사회를 이루게 되었다. 기술은 노동만을 위한 도구가 아니라 인간의 기원적 결핍을 보충하기 위한 것이다. 그래서 스티글러는 『기술과 시간』에서 기술이 거꾸로 인간존재를 구성한다고 한다. 다리가 불편한 사람은 보철로서 목발이 필요하듯이 인간에게 기술 자체는 보철적 숙명으로 볼 수 있다. 인간의 정신도 마찬가지다. 스티글러의 정의에 따르면, 인간의 의식은 시간이 지남에 따라 “감각과 기억 데이터의 지속적인 합성을 가능하게 하는 기술적 보철물을 통해 그 자체를 구성”한다. 데리다 역시 『플라톤의 약국』에서 아남네시스와 히폼네시스는 대립하지 않고 서로 대리보충물의 관계에 있다고 한다. 왜냐하면 바로 이 외재화된 기억기술(히폼네마타), 즉 책이나 그림, 메모, 일기, 유에스비, 영상들이 아남네시스, 즉 인간의 사유를 더 풍요롭게 하고 ‘알 수 있는 것’으로 구성하기 때문이다. 

 

역사적 진보와 기술적 진화 

대개 진화와 진보를 구분한다. 진화는 오랜 지구의 역사와 함께 생물종이 유전적으로 변화해나가는 과정이라면 진보는 인간의 사회 내에서 일어나는 역사적 과정이다. 그런데 앙드레 르루아-그루앙은 역사적 진보의 문제가 아니고, 인간의 종적 능력이 비약적으로 진화했다고 생각했다. 그는 『행위와 말』 2권에서 고고학적 연구 성과를 바탕으로, 유전적으로나 선천적으로 인간에게 생물학적 진화는 더 이상 일어나지 않고 닫혔음에도, 인간의 대뇌피질이 어떻게 진화해왔는가를 추적하였다. 그건 끊임없는 인공물에 의한 후천적 기술적 진화 때문이었다. 

 

스티글러는 기술이 물리적으로 인간존재와 분리되어 있음에도 사실상 인간존재와 분리할 수 없는 ‘체외기관’으로 되었다고 한다. 체내기관발생이 심장이나, 콩팥, 뇌 등 유기적 기관들을 만드는 것이라면, 체외기관의 발생은 ‘비유기적이지만 유기화된 기관들’, 즉 기술적 인공물들에 의한 것이다. 우리가 타제 석기나 활을 발명한다면 그건 단지 도구가 아니라 우리의 팔의 기능이 외부적으로 확장되었음을 의미한다. 자동차는 나의 발과 다리가 이동하는 능력이 체외적으로 확장된 것이며 휴대전화 마찬가지이다. 이처럼 생물학적으로 종들이 ‘체내’ 기관발생을 통해 진화한다면, 인간의 지성적 삶은‘ 체외’ 기관발생, 즉 기술에 의해 진화한다. 

 

스티글러는 기술을 독성과 약성을 지닌 파르마콘으로 본다. “눈, 귀, 손, 뇌 … 인체 속 감각기관은 휴대전화, 소셜네트워크서비스 등 기술 발전을 통해 무한대로 팽창했다. 이런 기술과 결합한 신체는 이전보다 400만 배나 빠르게 일을 처리하죠.” 이로 인해 일반 인간의 존재론적 가치는 갈수록 필요 없게 되고 있다. 이제 독성이 약성을 초과하게 되었다. 

농업시대부터 인공지능에 이르기까지 기술의 진화를 보여달라는 요구에 대한 챗지피티의 응답.

 

기억과 망각, 사유의 놀이 

인간에게 아남네시스만 있고 히폼네시스가 없다면 어떻게 되었을까? 인간들이, 그 가운데 가장 지성적 존재라도 상관없다. 만약 자신을 둘러싸고 일어나는 모든 사건들과 보이는 시청각적 대상들, 심지어 보이지 않는 영적인 것까지 모두 기억을 하고 그것을 다음 세대에 물려주고 하는 식으로 말이다. 보르헤스의 「기억의 천재 푸네스」는 이에 대하여 말하고 있다. 주인공 이레네오 푸네스라는 소년은 말에서 떨어지는 사고를 당한 뒤부터 보고 들은 것들을 완벽하게 기억하는 능력을 얻게 된다. 사고 후유증으로 전신마비가 왔지만, 이전에 읽었던 책과 세계를, 가장 오래되고 사소한 기억들까지도 명확하게 기억한다. 이 세상이 생긴 이래 모든 인간이 가진 기억보다도 더 많은 기억을 갖게 된다. 심지어 어느 포도나무에 포도송이가 몇 개 열렸는지 그 송이마다 포도알이 몇 개씩 열렸는지 그주변의 포도 잎은 몇 개 있으며 잎맥은 어떻게 생겼는지 그 모든 것을 기억하고 있다. 

 

푸네스는 신이 인간에게 부여하지 않은 능력, 즉 모든 것을 잊지 않는 능력을 가지고 있었다. 하지만 그것은 축복이 아니라 형벌이었다. “내 기억은 쓰레기 더미와 같지요. 그는 한평생 내내 황혼에서 여명까지 그 꽃을 바라보았지만, 마치 한 번도 본 적이 없는 것처럼 그 꽃을 바라보고 있었다.” 푸네스는 말한다. “나에겐 모든 순간이 영원히 현재다.” 과거는 사라지지 않고, 매 순간 쏟아져 들어오며, 그는 생각할 수 없었다. 기억이 너무 완전하면 추상화할 수 없고, 추상화하지 못하면 사유할 수 없다. 사유할 능력 아남네시스는 망각이 있기 때문에 존재한다. 그리고 아남네시스의 망각은 ‘기억의 외재화’ 히폼네시스에 의해 다시 복구되고 사유 속에서 놀이한다. 

한우리 독서논술 프로그램 「소크라테스 4」. 출처: https://blog.naver.com/nausica21/

3차 파지로서 히폼네시스 

플라톤의 말대로, 문자를 비롯한 기억기술의 발달로 인간의 영혼, 즉 아남네시스는 망각에 빠지고 인간은 무능하고 어리석어졌는가? 

 

‘기억의 외재화’가 없다면 사유도 존재하지 않는다. 기억과 망각의 문제는 시간성이다. 후설은 현상학적 시간의식을 바탕으로 하여 기억의 보존과 망각, 예측의 문제를 3층위, 즉 원지각과 파지, 예지로 말한다. 파지는 일종의 기억 구조를 말하고, 예지는 그 기억으로 얻게 되는 예측이다. 스티글러는 후설의 파지와 예지 개념을 기술과 기억의 문제로 확장한다. 스티글러 역시 3층위로 파지와 예지 개념을 풀어낸다. 1차 파지는, 후설이 말한 것과 같은, 의식 내에서 자연적으로 작동하는 기억의 흐름으로 멜로디를 듣는 순간, 이전 음이 즉각적으로 보존되는 것이다. 2차 파지는 재생적 기억, 즉 과거 경험을 다시 떠올리는 것(과거에 들었던 노래를 회상하는 것)이다. 

 

여기서 스티글러의 독창적 사유는 ‘기억의 외재화’를 3차 파지로 설정한 것이다. 즉 문자, 영화, 사진, 디지털 데이터 등 외부 매체에 저장된 기억이다. 이는 단순한 보존이 아니라, 인간의 시간 경험을 구성하는 방식 자체를 바꾸어 놓았다. 현재로선 3차 파지가 가장 잘 발현된 것은 생성형 인공지능들이다. 

 

초산업화된 히폼네시스와 알고리즘

허욱(육후이)은 『재귀성과 우연성』에서 스티글러를 이어받아 기계기술의 3차 파지가 3차 예지를 가능하게 했다고 말한다. 파지는 단순히 과거를 (기억)보존하는 것만은 아니다. 기술적 매체는 인간의 기억 구조(파지)를 변형시켜 미래 기대(예지)의 형태를 근본적으로 바꾼다. 3차 예지란 재귀적 알고리즘 시스템으로 기계기술의 예측이다. 알고리즘에 의해 우리 주변의 기술 및 문화환경이 예측되고, 우리가 유튜브를 보든 인터넷 쇼핑을 하든 우리가 원한다고 가정되는 것을 예측해 제공한다. 그리하여 알고리즘은 우리의 ‘주의’를 상업적으로 포획한다. 우리는 존재론적으로 무방비하게 소비자본주의에 내맡겨진다. 

텔레비전, 컴퓨터, 휴대전화와 지피에스 내비게이션 등은 모두 기억기술적 장치들이다. 이들 인지기술을 기반으로 기억기술은 초산업화되었다. 우리 기억의 많은 부분을 맡길수록 우리는 지식의 상실과 무력감을 경험한다. 휴대전화를 잃어버린다는 것은 세계를 잃어버리는 것과 같다. 초산업화된 히폼네시스는 플라톤의 우려를 정확히 실현하고 있다. “진리를 주는 것이 아니라 진리의 겉모습만을 줄 뿐”이라는 왕 타무스의 우려는 포스트-트루스 시대를 말하는 듯하다. “그들은 많은 것을 듣고도 실제로는 아무것도 배우지 못할 것이다. 그들은 모든 것을 아는 것처럼 보이지만 실제로는 아무것도 알지 못할 것”이라는 또한 왕 타무스의 경고는, 스티글러가 『자동화사회 1』에 표현한 대로, 기능적 어리석음과 망연자실, 넷 우울증으로 몰아간다. 

1956년부터 2020년까지 컴퓨터 저장 장치의 변화. 냉장고 만한 하드 디스크부터 USB 메모리까지 저장 장치의 변화.  출처: https://neoearly.net/2473249

 

주의의 결핍, 충동적 소비 

우리 인간은 잠을 자야하고 휴식을 취해야 한다. 하지만 수학적 알고리즘은 하루 24시간 7일, 365일 깨어있다. 우리의 일상생활은 “망상적 구조의 표준과 계산에 종속되는 한편, 동시에 소비자 시장은 개인 맞춤식”이 된다. 알고리즘으로 의사결정과정이 자동화됨으로써 욕망의 경제가 아니라 시장은 충동에 기반한다. 소비자 시장은 데이터 산업과 개인정보 경제를 통해 통제된다. 최근 각광받는 광고AI는 이들의 가장 최신판이다. 이제 AI에 “우울해”라고 토로하면 우울증 약 광고하는 세상이 되었다. 친구들이 모여 베트남 여행 이야기를 하면 바로 베트남 행 최저가 비행기, 맞춤 시간, 먹거리, 호텔 등이 조직화되어 제시된다. 숙고할 시간 없이 충동적으로 버튼을 누른다. 

 

『24/7 잠의 종말』의 저자 조너선 크래리에 따르면, 종잡을 수 없이 쏟아지는 소비 제품과 서비스들에 “의사결정시간을 줄이고… 숙고와 사색의 쓸데없는 시간을” 없애서 바로 충동적으로 구매할 수 있을지 연구하는 데 매년 수십억 달러가 들어간다. 이런 충동적 소비와 숙고의 제거는 우리의 ‘주의’를 앗아가고 방향을 바꿈으로서 이루어진다. ‘주의’는 라틴어 attendere(주의를 돌리다, 환자에게 주의를 기울이다, 그의 병을 돌보다)’에서 파생된 단어다. 주의를 기울이는 것은 사려깊음이자 곧 돌봄이다. 충동은 이 사려 깊음의 제거, 곧 주의 결핍의 문제다. 시몽동의 표현을 빌리면, 이는 심리적 집단적 개체화의 형성을 방해하여 개인적 삶과 공동체의 가능성은 존재론적으로 흔들린다. 

 

지속가능한 히폼네시스를 위하여 

플라톤은 『파이드로스』에서 문자와 말을 대립시켜 투쟁의 문제로 만든다. 문자와 말 가운데 누가 승리하는가? 그건 힘의 문제이다. 

 

가장 기묘한 토이트여, 어떤 사람은 기술을 만들어낼 수 있지만, 그것이 그 사용자에게 유익한지 해로운지를 판단하는 능력은 또 다른 이에게 속하오. 이제 당신은 문자(글자)의 아버지로서, 너의 자식들에 대한 부성적 애착 때문에 실제와는 반대되는 힘을 그들에게 부여하고 있구나. 

 

왕 타무스의 입을 빌어, 플라톤은 기술을 만드는 자와 그것의 유익성과 사용여부를 판단하는 자는 다르다는 것을 분명히 말한다. 스티글러 역시 “히폼네시스의 문제는 정치적인 문제이며, 지속가능한 히폼네시스 환경을 구성하기 위한 투쟁”이라고 말한다. 드디어 지속가능한 히폼네시스란 무엇인가라는 물음에 도달했다. 

 

‘기억의 외재화’가 가져온 초산업화된 히폼네시스가 거대한 리바이어던이 되었다. 충동적 소비자의 삶에서 우리는 삶의 노하우를, 자동화된 생산현장에서 노동의 노하우를, 생성형 AI에서 기억과 지식의 노하우를 박탈당하고 있다. 아남네시스의 바탕이 될 기억은 모두 자동화 바탕의 인공지능이 된 히폼네시스로 옮겨졌다. 우린 기억이 없으므로 지식이 없다. 기억과 지식을 더 이상 알 필요가 없다. 헤겔의 주인과 노예의 변증법에서 우린 다시 노예가 되었다. 다시 주인이 되려면 어떻게 해야 할까? 그건 지속가능한 히폼네시스를 다시 만들어가는 데 있다.

 

지금 디지털 정보사회에서 기술을 만드는 자는 압도적 자본을 지닌 최첨단 기업들과 세계 최고의 공학 엘리트들이다. 그들은 경쟁적 이윤확보를 위해, 인공지능 기술의 우위성을 위해 사활의 경쟁을 한다. 더구나 글로벌 인공지능의 종속에서 벗어나 자국의 주권, 문화, 보안, 경제를 지키고자 하는 주권 인공지능(소버린 AI) 등장에서 보다시피 국가 사이 역시 사활의 경쟁을 한다. 사활의 경쟁만큼 기술의 발달은 가속적으로 이루어진다. 요즘 어제와 오늘의 차이는 인류 역사 이래 어제까지의 시간과의 차이만큼보다 더 크다. 이 반대편에 지구상의 모든 인간들이 있다. 아니 모든 살아있는 것들과 무기물들 모든 것들은 존재론적 위기에 몰린다. 이 모든 것을 담보로 인공일반지능으로, 트랜스휴머니즘의 미래로 달려가고 있다. 

 

지금은 기후위기를 넘어 인간 멸종 시나리오가 실현된다는 인류세 시대이다. 인류세 시대는 자의식과 성찰의 시대이다. 내가 잘못했소, 인간이 잘못했소라는 죄책감의 시대이다. 이런 인류세적 자의식과 현실 인식이 기술을 만드는 자들의 치킨게임을 멈추게 할까? 아님, 현시점에서 투자대비 이윤이 극히 저조하기 때문에 투자자들이 먼저 손을 들까? 스티글러의 탈자동화 방안이나 기여경제론, 허욱의 코스모테크닉스론, 구글 인공지능개발업체 딥마인드의 ‘민주적이고 공정한 인공지능’의 개발 등이 해법이 될 수 있는지 물음을 던져본다.

 

“내 유튜브 화면 속 추천 영상은 왜 그렇게 떴을까” / 그래픽=김하경. 출처: 《조선일보》