인공지능(AI)은 기술의 문제가 아니라 정치의 문제이다. 자율주행 자동차가 빠른 속도로 달려가고 있는데 느닷없이 어린아이가 차도로 뛰어들었다고 상상해보자. 이 아이를 구하자면 차에 타고 있는 사람의 목숨이 위협을 받는다고 가정했을 때, 인공지능은 어떤 결정을 내려야 ‘옳은’ 것일까. 단지 법(교통신호)을 지킨 쪽을 보호하면 되는 것일까. 혹은 어느 쪽 목숨이 더 ‘가치’ 있는지 판단해야 하는 일일까. 그럴 때 사람의 가치는 누가 어떻게 측정할 수 있을까. 사회에 ‘기여하는’ 바에 따라서 구성원들에게 점수를 매겨야 할까. 기여한다는 것은 무슨 뜻일까. 나이, 성별, 능력, 벌이 같은 것으로 규정되는 것일까. 자율주행차 하나의 경우만 놓고 곰곰이 생각해보아도 이 기술이 세상에서 실제로 쓰이기 위해서 최종적으로 넘어야 할 관문이 어떤 성격의 것인지, 그것이 어떤 범주에 속하는 문제인지가 드러난다. 인공지능에 대하여 인류사회가 답을 찾아야 하는 것은 기술적 가능성이 아니라 철학적인 주제의 것이고, 결국 정치의 문제이다. 한편 이런 질문도 해볼 수 있을 것 같다. 빅데이터―학습 알고리즘의 결합이 택시운전사들을 절망에 빠트리면서 화석연료 사용도 줄이지 못하는 자율주행차 개발이 아니라 대중교통을 개선시키는 쪽으로 사용될 수는 없는 것일까.
인공지능기술은 종래의 컴퓨터기술과는 본질적으로 다른 측면이 있다. 그것은 이 기술이 기본적으로 인간(의 지능)을 흉내 내는 것이라는 사실에서 비롯된다. 인공지능의 원리를 대단히 거칠게 요약한다면, 그것은 몹시 불충분한 정보를 가지고 적당히 처리해서 결과물을 내놓는 것이라고 말할 수 있다. 요컨대 지금까지 우리가 컴퓨터기술과 결부시켜온 엄격한 논리적 인과관계, 연산능력에 기초를 두고 있지 않다. 객관적으로 타당한 결과보다는 확률적으로 정답에 가까운 답을 내놓기 위한 기술이고, 따라서 대단히 임의적이고 비합리적인 기술이다. 다만 어마어마한 시간과 공간 속에서 일어난 무수한 인간의 경험들을 응축해놓은 정보창고를 바탕으로 하고 있기 때문에, 우리 인간이 보기에는 대체로 ‘뛰어난’ 혹은 심지어 ‘지혜로운’ 출력물을 내놓을 수 있는 것이다(바로 그래서 우리는 논리 연산자로서의 컴퓨터기술에 부여해온 권위를 인공지능기술에도 적용하는 오류를 쉽게 저지르고 만다). AI가 얼토당토않은 부조리한 결과를 내놓거나 ‘사악한’ 출력물을 내놓는 것도 같은 이유에서이다. 따라서 엄정하게 심사해서 걸러낸 데이터들을 더 많이 입력해 넣는다고 해도, 이것은 원리적으로 바로잡을 수 있는 오류가 아니다.
‘엄청난 불확실성’(제프리 힌턴)으로 인하여 AI는 인류에게 핵무기보다 더 위험한 것이라는 경고가 이어지고 있지만 여기에 대해서 인류사회는 정당한 경각심도, 흥미도 가지지 않는 것처럼 보인다. 터무니없는 과장이라고 생각하는 것일까, 아니면 ‘장기 비상시대’(제임스 H. 쿤슬러)를 살아가면서 정상적인 인지력이 마비가 된 것일까. 인공지능기술은 스스로 학습하면서 거침없이 빠른 속도로 발전하고 있고 이미 우리의 모든 경제활동에 침투해 있다. 아마도 얼마 지나지 않으면 일상의 모든 것이 ‘지능’을 갖게 될 것이다. 스마트집, 스마트공장, 스마트농장, 스마트도시도 백일몽이 아니다. 현재 금융거래의 70%는 알고리즘에 의해 이루어지고 있고, 뉴스도 일부는 자동화기술로 생산되고 있다. 싱가포르는 데이터에 의해 통제되는 사회의 전형을 보여주고 있는데, 시민들을 테러로부터 보호하겠다는 명분으로 시작된 제도적 감시체계가 결국 경제와 이민정책, 부동산시장, 학교 교과과정에까지 영향을 미치고 있다고 한다. 중국 인민들로 말할 것 같으면 사회신용시스템에 의해서 무단횡단, 주차위반 같은 공중도덕 위반행위나 금융거래 정보는 물론이고 반정부 시위, 정치 성향, 어떤 자료를 읽고 어떤 사람들과 교류하고 어떤 의견을 표출해왔는지 일체가 추적, 집계, 기록되고 있다. 그리고 이 점수에 따라서 공적 편의시설의 이용, 식당이나 호텔 예약, 직장, 학교, 대출, 여행, 고속철 탑승, 인터넷 접속 등에서 혜택이나 불이익을 받는다. 기술감시사회를 사실상 기꺼이 받아들이고 있는 것은 서방 ‘민주국가’들도 크게 다를 바가 없다. 차이가 있다면 국가 대신 기업들이 전면에 나서서 대중의 눈앞에 영리한 소비자라면 마다할 이유가 없는 여러 종류의 당근을 계속해서 흔들었던 것이고, 그렇게 우리는 모두 부지불식간에 알고리즘이 지배하는 사회에 깊숙이 들어서 있게 된 것이다. 이제 우리는 마치 이 상황이 인류 진화의 숙명적 단계이기라도 하다는 듯이, 인간으로서 살아가기보다 알고리즘의 지시에 따라 존재하는 방식을 선택한 것처럼 보인다.
인공지능이 얼마나 인간과 비슷해졌는지에 대한 뉴스는 거의 매일 나오고 있지만, 인간이 기계화되어가는 현상은 주목을 받지 못하고 있다. ‘멋진 신세계’는 단순히 기능적 측면만이 아니라 그 배경에 있는 철학(정밀성, 효용, 속도 등)도 강요했다. 자기자신을 표현하면서 충만하고 다양한 삶을 살았던 사람들이 언젠가부터 특정한 하나의 일(직업)에 특화된 거대기계의 부속품으로 변해버렸다. 거대기계의 효율을 최대로 높이는 일은 절대선이다. 효율성은 새로운 사회질서를 규정하는 힘이 되었다. 효율성을 높이기 위해서 지상의 숱한 생명들이 효율적으로 짓밟혔고, 효율성을 추구하면서 인간적 규모의 노동, 지속가능하고 의미 있는 일들은 자취를 감추었다. 삶에서 효율을 추구한다는 것은 무슨 뜻일까. 아이들을 돌보고 친구나 노쇠한 부모와 함께 보내는 시간을 최소한으로 줄여야 한다는 말일까. 한편 의료, 정치, 교육 등 모든 면에서 인간은 무능력하고 무기력해졌다. 다양한 민간지식과 삶의 방식이 파괴되고, 호혜적 네트워크와 전통적 생활기술의 명맥도 끊어지면서 관리자 전문가들이 생겨났다. 우리에게 뭐가 필요한지는 이들이 가르쳐준다. 그리고 모든 필요는 상품과 서비스를 구매하여 충족되어야 한다. 배움은 교육으로, 생존의 기술은 기계화 및 화학적 농업으로 대체되었고, 전통적 실용지식이나 민간의 지혜, 자율성을 발휘하면서 느낄 수 있었던 깊은 충족감과 즐거움 그리고 물론 고뇌도 망실되었다. 이제 우리는 스스로 할 수 있는 게 아무것도 없다. 어떤 문제가 생기든 전문가의 고객이 되는 수밖에 없다. 자율성과 인간으로서의 위엄을 버리고 관리자 엘리트들에게 의탁하여 우리는 게으른 안락함을 얻게 되었다.
엘륄이 《기술사회》에서 지적했지만, 거대기술은 인류의 다양한 문화를 균질화하고, 신성함에 대한 감각을 제거하고, 권력을 중앙집권화하고, 경제‧정치 활동을 지배하면서 말할 수 없이 아름답고 풍부한 자연의 세계를 불모의 인공적 가상현실로 바꾸어놓고 있다. 위치정보시스템(GPS)에 의존하는 습관이 우리 뇌에 있는 해마를 위축시켜 인지장애 가능성을 높인다고 한다. 컴퓨터에 매개된 사회는 (특히 아동에게서) 주의력결핍 과잉행동장애(ADHD) 증가를 불러왔다. 충동적이고 공격적이고 기억력은 고장 나고 주의력은 짧아지고 심리적으로 미숙한 인간형이 보편화되고 있다. 어쩌면 인공지능은 트로이 목마인지 모른다. 도파민에 의해 돌아가는 피드백 회로는 사회가 작동하는 방식 자체를 바꾸고 있는지도 모를 일이다. 알고리즘이라는 기술로 선거는 지배세력에게 더더욱 유리한 게임이 되었고, 시민들은 디지털감옥에 갇혀서 극단적으로 양극화되고 서로 소통이 불가능한 지경에 이르렀다. 기계들 간의 대화는 용이해지고 있지만 인간들은 갈수록 단절되고 고립되고 있다. 우리는 정말로 더 늦기 전에 인공지능이라는 기술이 인간이 자율적으로 살아가는 일을 진실로 돕고 있는지, 방해하는지, 혹은 원천적으로 그 가능성을 봉쇄하고 있지는 않은지 물어야 한다.
그리고 이 모든 일에는 에너지가 끝없이 요구된다는 사실도 잊지 말아야 한다. 정보를 전송하고 보관하고 처리하는 기반시설은 지금껏 인류가 볼 수 없었던 엄청난 규모의 기계인데 지금도 시시각각 빠른 속도로 비대해지고 있다. 2025년이 되면 데이터 처리를 위한 설비가 잡아먹는 전력이 전 세계 전력 소비의 5분의 1을 차지하고, 거기서 배출되는 이산화탄소는 세계 전체 배출량의 5%에 이르게 될 것이라고 한다. 그런데 더욱 중요한 사실이 있다. 미국 환경사회학자 리처드 요크에 따르면, 재생에너지원들이 늘어나서 예전보다 전체 에너지 생산에서 비중이 증가한 것은 사실이지만 그로 인해 화석연료 소비가 줄어들고 있지는 않다. 생산되고 있는 에너지 총량이 확대되고 있을 뿐이다. 2023년에 전 세계 석유 수요는 역사상 최대치에 이르렀고, 인구 1인당 전력 소비량도 정점을 찍었다. (모든 에너지원으로부터의) 에너지 소비는 꾸준하게 해마다 1~2% 증가하고 있다.
바벨탑의 건설이 가능했던 이유는 인류가 단일한 언어를 사용해서 의사소통이 원활했기 때문이다. 공통의 언어 덕분에 인간은 “어떤 일이든, 할 수 없는 일이 없어졌다.” 실제로 만국 공통어라고 말할 수 있는 컴퓨터언어와, 컴퓨터기술을 손에 넣고서 마침내 트랜스휴머니즘, 즉 인간(조건)을 초월하겠다고 선포하고 있는 인간의 교만(hubris)을 떠올리게 하는 비유에 등골이 서늘해진다. 그런데 한편, 언어란 음성과 문자, 낱말과 문법으로 구성된 하나의 체계에 불과한 것이 아니라 그 언어를 사용하는 공동체의 가치, 규범, 금기, 상상력, 정서를 모두 담고 있는 그릇이라는 사실을 염두에 둔다면, 한때 생기가 넘치는 풍부한 문화를 가지고 있었던 다양한 공동체들이 오늘날 획일적으로 경제성 내지 효율성이라는 맹목적 목표, 시장논리에 지배당하게 된 현실에 대한 경고로 이해할 수도 있지 않을까. 문화적 다양성은 인류가 생존하는 데 있어서 생태적 다양성만큼 불가결한 조건이다.

현 정부는 그린벨트를 조건 없이 해제하고 농지전용의 길도 앞장서서 터주겠다고 하고 있다. 선거가 다가오고 있다는 신호일 것이다. 그렇지 않으면 기후변화라는 엄중한 현실 속에서 틀림없이 맞닥뜨리게 될 식량위기 등의 위협을 목전에 두고서 조금이라도 생태적 회복탄력성, 지속가능성을 높이기 위해서 혼신의 힘을 다해야 할 이때에 이런 식으로 거꾸로 가는 정책을 내놓을 이유가 없다. 이 시대에 개발을 통해서 한밑천 벌게 해주겠다는 약속으로 환심을 사려고 드는 것은 유권자들을 기만하고 모욕하는 행위이다. 개발과 성장으로 모두가 잘살게 된다는 주장은 거짓이라는 사실은 70여 년 경제성장에 목매온 결과 출산율 최저, 자살률 최고의 사회가 된 우리 현실이 웅변하고 있지 않은가. 물론 30년 전쯤, 인공위성에서 봐도 휘황찬란하게 빛나는 도시의 불빛에 현혹되어 오해를 할 수 있었던 시절이 있었다. 그러나 마천루가 하늘 높이 치솟아 오를수록 슬럼의 어둠은 깊어지고, 서울이 불야성을 이루기 위해서 지방이라는 식민지가 수탈돼왔다는 것을 이제 누구나 볼 수 있게 되었다. 더욱이 값싼 화석연료라는 성장경제의 동력이 더이상 뒷받침될 수 없는 현실에서 그것은 어떻게 봐도 헛소리에 불과하다. 만약 마구잡이 산업개발이 삶터와 인간성을 황폐하게 만든다는 것을 알면서도 개발공약이 지역의 유권자들에게 받아들여지는 것처럼 보인다면, 그것은 지금 우리가 땅에서 완전히 뿌리 뽑혀 있다는 사실을 말해주는 것이거나, 지방의 상황이 앞뒤 잴 수 없을 만큼 절박하다는 것을 나타내는 것일지 모른다. 선거로는 아무것도 바뀌지 않는다는 것을 학습한 유권자들의 냉소와 체념이 한탕주의 개발업자들의 탐욕과 행동력과 결합되면서 우리의 땅과 강, 마을들이 속수무책으로 붕괴돼왔다. 그러니까 따져보면, 선거보다 더 효과적으로 전 국토를 파괴하는 메커니즘이 없는 셈이다.
루소는 선거를 통해 대표자를 뽑는다고 해서 우리 자신이 자유롭다고 생각한다면 망상이며, 우리는 4년에 단 하루 자유로울 뿐이라고 말했다. 이것은 철저하지 못한 분석이다. 우리가 누구에게 투표할지는 사전에 정해져 있기 때문이다. 정당들이 그것을 정해 놓았고, 그리고 4년 동안 기득권 엘리트들이 우리 머릿속에 쑤셔 박아놓은 것들 때문에 우리는 자유로운 판단을 할 수 없다. 게다가 경기장 선수들이 만들어놓은 여러 조건들 때문에 자유로운 투표도 불가능하다. 사람들은 곧잘 선거판에 비전이 없고 정책이 보이지 않는다고 비판을 하는데, 그건 이상한 요구이다. 대의제 선거는 민주적 정당성을 얻기 위한 의식에 불과하고, 후보자들의 관심사는 기본적으로 당선되는 것 그 자체이기 때문이다. 의욕적이고 양심적인 정치인이 있다고 해도 고작 4년이라는 일정표 속에서, 예를 들어서 기후위기에 대응하기 위해 농업, 산업, 경제, 교육, 보건 등의 분야에서 유의미하게 구조적인 변화를 가져올 장기적 안목의 정책을 내놓기는 어렵다. 바로 그 사실을 보여주는 예가 지금의 원전정책이다. 문재인 정부의 ‘탈핵정책’은 당시에도 해외에 원전 수출을 계속하고 실질적으로 핵발전을 줄이지 못했다는 점에서 비판을 받았지만, 그러나 근본적인 문제는 한국 공동체가 어떤 방향으로 나아갈 것인지 충분히 논의한 바탕 위에서 탈핵이라는 합의에 이르는 과정을 생략해버렸다는 데 있었다. 원자력발전을 포기하는 것은 짧게는 10년, 길게 보면 100년 이상의 계획을 가지고 차근차근 실행에 옮겨야 하는 일이다. 현재 가동되고 있는 원전들을 순차적으로 안전하게 폐쇄하기 위해서도, 이미 잔뜩 쌓여 있고 계속해서 생산되고 있으며 발전소가 멈춘 뒤에도 위험한 채로 남아 있게 될 핵폐기물을 관리하기 위해서도, 교육과 훈련을 통해 우수한 전문가들을 계속 배출하고, 기계장비도 제작해야 하는 것이다. 다시 말해서, 탈핵은 민주주의에 기반하지 않고서는 성공할 수 없다. 그렇지 못할 때 대통령 한 사람 바뀔 때마다 손바닥 뒤집듯 상황이 역전될 수 있는 소모적이고 불안정한 상황이 되풀이될 수 있다.
7년 전 시민권력은 바로 그 점을 이해하고 있었던 것 같다. 광화문 광장에서는 농업, 노동, 인권, 환경 등 다양한 이야기도 나왔지만 주되게 울려 퍼진 구호는 대통령 퇴진과 재벌문제의 척결이었다. 정치권력과 금권의 결탁에 의해서 삶이 끝없이 피폐해지는 상황을 더는 참을 수 없다는 결의를 표출하기 위해서 시민들은 촛불을 들고 광장과 거리에 모여들었다. 합리적인 정치가 가능한 틀을 만들어놓지 못하면 개별적 사안을 가지고 싸워 봤자 결국 헛일이 된다는 것을 알았던 것이다. 그러나 유감스럽게도, 대의제 민주주의의 본질에 대한 철저한 이해가 결여돼 있었던 것 같다. 당시의 탄핵정국은 특이한 대통령 개인으로 인해서 시작된 것은 틀림없지만, 근본적으로 지금의 국회와 정당정치로는 민주주의를 제대로 실행할 수 없다는 사실에서 비롯된 상황이라는 것에 우리는 좀더 주의를 기울였어야 했다. 기득권층의 지배를 합법화하고 정당화하는 것이 대의민주주의 속성이라는 것을 더 널리 이야기했어야 했다. 거의 언제나 명망가, 자산가, 엘리트들이 승자가 되는 선거는 기득권층에서 돌아가면서 권력을 세습하는 일을 가능하게 만드는 편리한 장치가 되어 있다. 선거정치는 금권에 의해서 오염되고 타락할 수밖에 없는 메커니즘이다. 정권교체, 정권심판 같은 말은 마치 민중에게 실권이 있는 것 같은 착각을 불러일으키지만, 한 무리의 부패한 정치가들을 힘들게 내쫓고 나서 다시 그 자리에 다른 정치인 집단을 불러 모실 까닭이 있을까. 나약한 인간에 불과한 정치인들의 선의를 믿는 것이야말로 어리석은 일이 아닐까. 물론 하루아침에 이 모든 상황을 바꿀 수는 없는 노릇이다. 국민소환, 국민발안, 시민의회, 시민배심제 등을 도입해서 실질적으로 민주주의를 강화할 수 있는 방법을 찾아야 한다. 국회가 국민을 비례적으로 대표할 수 있도록, 사회적 소수파의 목소리가 들릴 수 있도록 선거법과 정당법을 고치기 위한 노력을 기울여야 한다. 그리하여 시민들이 상시적으로 주권을 행사할 수 있는 제도적 틀이 확립되고, 선출된 대표자들이 민중의 의사를 대변하는 정치를 하도록 만들 수 있을 때 ‘촛불’의 역할도 끝날 것이다.
대의제 민주주의는 화석연료에 의존하는 성장경제와 짝을 이루는 정체(政體)이다. 자원의 순환을 핵심 원리로 삼는 경제라면 작은 단위의 지역자치가 적합해 보인다. 정치의 장(場)을 생활공간과 일치시켜야 하는 이유는, 일상의 차원에서 일어나는 저항이야말로 경제를 민주적 통제 아래로 가져올 수 있는 가장 유력하고 지속될 수 있는 힘이기 때문이다. 지역에 뿌리를 내린 주민이 아니라면 자신의 삶터인 땅과 바다를 지키면서 생태적, 문화적 다양성을 보존해나가는 일을 해낼 수 없다. 공유지를 사유화하고 민중공동체를 해체하면서, 가난하지만 고르게 살 수 있는 자립적인 삶의 조건들을 파괴해온 산업자본주의의 시간을 되돌려야 한다. 그렇게 해서, 민중이 미래의 어느 지점이 아니라 지금 당장 자신의 생활 속에서 참다운 풍요로움을 경험하고 새로운 가치, 혹은 전통적 지혜의 미덕을 실감할 수 있어야 한다. 기후변화, 해양 산성화, 생물다양성 소실 같은 압도적으로 무섭지만 실체는 불분명한 위험에 대해 이야기하면서, 그런 위기에서 벗어나기 위해서 절제와 희생을 호소하는 방식은 성공할 수 있을 것 같지 않다.
다가오는 선거에서도 많은 사람들이 차악(次惡)을 선택할 것인가, 소신껏 투표를 해야 할 것인가, 혹은 냉소적 무관심으로 정치인들에 대한 불만을 표출해야 할 것인가를 두고 갈등해야 할지 모른다. 그러나 투표용지 바깥으로도 눈을 돌려보자. 제약이 많은 여건 아래에서도 창조적으로 자율적 상호부조의 네트워크를 만들어서 자립적‧자치적으로 살아가고 있는 사람들이 있다. 지금 우리에게는 극복하기 어려워 보이는 문제들도 민중(demos) 가운데에서 나오는 힘(kratos)이 있다면 해법을 찾아낼 수 있을 것이다. 인간다운 세상은 우리 각자의 용기 있는 선택으로 열릴 수 있다는 것을 믿어보자. 그리고 자치(自治), 즉 민주주의는 주어지는 것이 아니라 스스로의 노력에 의해서만 손에 넣을 수 있다는 사실을 기억하자. 다만 이것은 4년에 하루로 끝나는 일이 아니다. 매일같이 내 삶 속에서 실천해야 하는 일이다.[김정현]