유발 하라리 <넥서스> 독서 일기 - 러다이트 운동은 아니지만

 
 
전체주의 국가였던 소련에서 개인을 '효과적으로' 감시하고 통제하는 방법은 서로가 서로를 감시하게 만든 것이었다고 합니다. 이웃이 이웃을, 자녀가 부모를 감시하고, 미심쩍은 행동을 하는 사람을 고발하게 만들었던 것이죠. 그런데 오늘날 자본주의 체제의 민주주의 국가에서도 상호 감시가 이루어지고 있다면 믿을 수 있으시겠어요? 식당, 미용실, 에어비앤비 등에 별점을 준 적이 있으시다면, 여러분도 이러한 상호 감시에 참여한 경험이 있는 것입니다. 이처럼 개인과 개인이 서로를 평가하고 평가받는 시스템이 도처에서 가동되고 있습니다.
 
심지어 스마트 기기를 포함한 컴퓨터 네트워크가 우리 삶의 모든 영역을 매우 효과적이고 철두철미한 방식으로 관리하고 있습니다. 현재 전 세계에는 세계 인구의 8명당 1대 꼴로 CCTV가 설치되어 있다고 하지요. 네트워크의 발달과 과학 수사 기법의 발달 덕분에 연쇄 살인과 같은 범죄는 줄어들었다고 합니다만, 우리가 실시간으로 감시 당하고 있다는 사실에 다소 거북한 느낌을 지울 수 없습니다. 게다가 저는 간밤에도 스마트워치를 통해 저의 수면 습관 데이터를 알렸고요, 네이버 AI는 제가 일전에 '레몬즙의 효능'을 검색한 사실을 알고 쇼핑 페이지에서 유기농 레몬즙을 다수 추천해 보이고 있습니다. 우리의 기호, 취미, 건강 상태 등 모든 것이 저만의 것이 아닌 세상이 되었네요. 이처럼 정보통신 기술의 발달로 인해 사생활이 사라진 상태를 '포스트프라이버시'라고 부른다고 합니다.
 
다음의 발췌문을 보시죠. 
 

컴퓨터 네트워크는 각 개인을 화나게, 두렵게, 또는 즐겁게 만드는 것이 무엇인지 정확하게 학습할 것이고, 그런 다음에는 우리의 감정을 예측하고 조종하여 우리에게 상품이든 정치인이든 전쟁이든 자신이 목적한 것을 받아들이게 만들 수 있을 것이다.
- 유발 하라리 <넥서스> 348면

 
유발 하라리가 지적한 것처럼 우리의 생각과 감정, 사상이 컴퓨터에 의해 영향을 받게 된다는 사실을 달갑게 여기는 사람은 없을 것입니다. 내가 보고 있는 알고리즘이 나도 모르는 사이 어떤 정치인에게 우호적인 판단을 갖게 만드는 영상을 추천한다면 어떨까요? 아니면 특정 집단에게 분노를 갖게 만드는 영상을 지속적으로 추천한다면 어떨까요? 컴퓨터 알고리즘의 추천으로 인해 인종 청소가 일어난다면 어떨까요? 허무맹랑한 소리처럼 들리시겠지만 실제 벌어지고 있는 일이라고 합니다.
 
2016년~2017년 미얀마에서 있었던 일이라고 합니다. 페이스북 알고리즘이 로힝야족에 대한 증오를 부추기는 영상을 지속적으로 추천하여 결과적으로 미얀마군과 불교 극단주의자들이 '7,000~2만 5,000명에 이르는 비무장 민간인을 죽이고, 1만 8,000~6만 명의 여성과 남성을 강간하거나 성폭행했으며, 약 73만 명의 로힝야족을 잔인하게 추방했다'고 하지요. 인간이 '분노'의 감정으로 인해 많이 결속된다는 사실을 알고리즘이 파악하여 '페이스북 이용자 수와 이용 시간'을 늘리기 위해 자극적인 콘텐츠를 계속 추천한 것이지요.
 
정말 소름끼치는 일이 아닐 수 없습니다. 물론 기계(컴퓨터)를 파괴해버리는 러다이트 운동을 벌이자는 것은 아닙니다. 가능하지도 않고요. 컴퓨터 네트워크가 우리 삶을 어떻게 순식간에 바꾸어 놓을지 경각심을 가지지 않으면 안 되겠지요.
 

소요를 일으킨 사람들을 찾고, 실종 아동을 구조하고, 훌리건의 축구장 출입을 금지할 수 있는 그 기술이 잘못된 손에 들어가면 평화적인 시위대를 박해하거나 획일적인 사고와 행동을 강요하는 데도 쓰일 수 있다.
- 같은 책 353면

 
중요한 것은 같은 기술일지라도 누가 어떻게 사용하는가 하는 윤리 의식입니다. 기술이 우리의 생명을 위협할 수도 있다는 사실을 명확히 인지하고, 우리의 안녕을 위해 기술이 사용될 수 있도록 각고의 노력을 기울여야겠습니다.