[FT칼럼] 디지털 유토피아? 디지털 디스토피아가 안되려면!

영국의 토마스 모어가 1516년 유토피아(Utopia)를 썼을 때, 대서양 어딘가에 있는 상상의 섬으로 ‘없는 곳(ou-topia)’ 즉 무하유향이면서 ‘좋은 곳(eu-topia)’ 이상향을 의미하였다. 존 스튜어트 밀(Mill)은 영국 의회 연설(1868)에서 2차 산업혁명의 극성기인 유럽이 ‘나쁜 곳’(dys-topia) 즉 디스토피아라고 비판하였다. 영국의 소설가 조지 오웰의 소설 ‘1984’ 의 출간 이래 1950년대부터는 전체주의 국가, 2000년대 이후는 자연환경파괴로 재해가 만연하는 지구를 지칭한다. 하버드대학교 교수였고, 심리학자인 주보프(Zuboff)는 2019년 ‘감시 자본주의 시대 (The Age of Surveillance Capitalism)’에서 기존의 ‘산업자본주의’에서 대기업들은 이익 추구를 위해서 노동시간과 자연자원을 착취하여 환경 파괴의 재앙을 초래하였지만, ‘감시자본주의’에서 디지털 대기업들(예: Google, Amazon, Facebook, Apple 등)은 감시, 통제, 유도를 통하여 이익을 추구하여 인간 본성을 파괴한다고 보았다.

최근 디지털 경제의 발전 양태를 보면 인공지능을 활용한 로봇의 개발과 작업의 자동화와 노동의 대체라는 분야에 집중되어 있다. 혁신적인 의약품 개발, 오락 도구의 고도화, 운송 수단의 효율화에 많은 발전을 보이면서, 신제품과 새로운 도구를 사용가능하게 하고, 직업과 시장의 특성을 바꾸고 있다. 그리고 민간 기업들과 정부는 인공지능을 이용하여 개인에 대한 엄청난 양의 정보를 축적하고 있다.

이런 디지털 경제의 발전은 유토피아를 가져오는가 아니면 디스토피아를 가져올 것인가? 밝은 미래에 대한 기대를 갖게 하면서 동시에 두려움도 일으킨다.

디지털 경제의 발전이 디스토피아로 진행되는 이유를 두 가지로 살펴본다. 첫째, 과잉 자동화로 인하여 대다수 노동이 대체되고, 노동 생산성 향상에 대한 투자도 없고, 소수를 제외한 대다수 인류에게 새로운 일자리 기회가 없어진다. 둘째, 민주주의의 쇠락과 퇴출, 그리고 자율의지를 가진 개인들의 자유 감소이다.

디지털 경제하에서도 인공지능 기술이 인간의 노동생산성을 향상하고, 신규 일거리를 창출하고, 성장의 과실을 공유할 수 있다면 인류의 미래가 디스토피아가 되기 어려울 것이다. 현재 시점에서 사기업과 정부는 작업자동화와 노동대체라는 너무 좁은 분야에 집중하고 있다. 특히 초 격차 기술이라 일컫는 독점적 공학 기술 우위가 가져올 장밋빛 미래에 대한 맹신과 규모의 경제를 통한 효율성 향상에 대한 과신은 디스토피아의 가능성을 오히려 높이고 있다.

디지털 산업의 발전은 사실상 인간의 거의 모든 행위의 기록을 가능하게 하고, 그 기록이 축적되면 큰 데이터(Big data)가 형성된다. 상호간 독립적으로 분리되어 보관되던 정보(Silo Information)가 개인, 집단, 조직의 동의 없이 통합되면 인간 행동에 대한 예측을 바탕으로 사업을 시행하는 것을 넘어서, 인간의 심리에 대한 연성 통제(soft control)를 통하여 인간의 의사결정과 행위결정에 대한 영향(nudge)을 미칠 수도 있다. 이로 인하여 발생하는 위험은 ‘연계평가’(Bundle)와 ‘연좌제’(Guilt by Association)의 만연이다.

개인에 대한 많은 정보가 인공지능, 안면인식기능, 디지털 기기 등을 통해서 개인이 인지 못하는 상황에서 축적되고 있다. 이런 정보가 수집되는 장소는 개인들의 짝 찾기(matching) 혹은 상거래(e- commerce)가 이뤄지는 민간 플랫폼(platform)들이 있다. 현재까지는 대부분의 민간 디지털 기업은 축적된 데이터를 분석하고 해석하여 창출된 정보를 거래하거나, 예측을 바탕으로 직접 투자하여 이익을 추구하는 수동적 사업 모형을 따른다. 그러나 연계평가를 이용하면 플랫폼 기업은 평가자의 심리를 통제하고 피 평가자의 행위를 유도하여 디지털 기업의 이익을 추구할 수 있게 된다.

문제는 이런 민간 플랫폼들의 사업 모형은 평가 대상을 선정하고 등급 평가를 통하여 사회적 평판에 대한 정보를 잠재적 고객(소비자)에게 제공하고 그 대가를 피 평가 대상으로부터 받는다. 이 때 민간 플랫폼은 사용 고객들의 경험만을 바탕으로 평점을 결정하는 것이 아니라, 잠재 고객들에게는 전혀 상관없는 요인(예: 플랫폼 사용료 지불 정시성)을 평점 기준에 포함시킨‘연계 평가’(bundle)’을 하는 것이다.

예를 들어서 호텔에 대한 평가를 하면서 Bookings.com에서 이런 평가방법을 사용하였다. 배달의 민족이 운영하는 앱에서 플랫폼 사용료를 많이 내는 음식점이 등장 순서가 맨 처음이 되는 것은 차라리 원시적이다.

더욱 심각한 것은 개인들이 법적, 사회적, 신분 보장을 위하여 공적으로 수행하는 정부와의 거래(예: 세금, 연금, 건강보험용 건강진단 등)들이 있다. 이런 곳에서 발생하고 저장되는 정보들을 이용하여 사적 이익을 취하는 디지털 기업들도 있지만 여전히 수동적이다. 그러나 기업경제가 곧 국가경제라는 주장이 만연하고, 개인들의 정보가 서로 연관되는 부분을 이용하여 개인의 가치 체계에 대한 평가가 가능하면, 기업이 개인의 의사결정을 유도하거나 자기 검열로 개인의 행동이 자율적으로 제약된다. 즉 연좌제를 통한 국가의 통제가 곧 기업의 이익이 되는 디스토피아의 궁극적인 형태가 된다.

한국의 차기 정부에서 디지털 산업 (정보 통신 산업 등)은 ‘자율적 규제’에 맡긴다는 소식을 들었다. 대단히 위험한 발상이다. 디지털 경제가 새로운 체제라고 해서 필요한 규제가 과도하게 완화되면, 공학 기술자들의 제어 없는 개발로 비롯되는 디지털 경제의 그 종착점은 강압적인 통제가 없더라도, 국가와 사회를 부드럽게 통제하는 연성(軟性) 전체주의 체계가 될 위험이 크다.

하이에크는 ‘노예로의 길’(Road to the Serfdom: 1948)에서 공산주의 체제의 실현은 무산계급(Proletariat)의 혁명을 통해서가 아니라, 생산자와 소비자가 모두 대기업의 구성원이 되는 지름길도 있다고 하였다.

19세기 2차 산업혁명이 진행되면서 동력의 무한한 활용을 위해서 인력과 자연이 한 없이 파괴되었던 기억이 21세기 디지털 혁명에서 반복되면 안 된다. 디지털 경제의 심화가 포괄적이고 지속가능한 경제 발전을 방해하고. 민주주의를 약화시키는 촉매제가 되어서도 안 된다. 사려 깊고 신중하지만 포괄적인 규제는 설정되어야 하고 그 규제의 행사 주체로 당연히 민주적으로 선출된 권력이 남아 있어야 한다. 그래야 민주주의가 지속가능하다.

[서울국제금융오피스와 함께하는 금융 전문가 칼럼③ - 송수영 중앙대학교 경영경제대학 경영학부 교수]

송수영 중앙대학교 경영경제대학 경영학부 교수