유발 하라리 <넥서스> 독서 일기 - 관료제와 AI

 

 

 

유발 하라리의 <넥서스>를 읽고 있습니다. 오늘은 관료제와 AI에 대해 이야기해 볼까 합니다.

 

관료제는 관료제만의 특징적인 방식으로 사람들이 세상을 보는 관점을 왜곡했다. 사람들에게 잘못된 꼬리표를 붙여 차별하는 편향된 알고리즘이나, 인간의 필요성과 감정을 무시하는 경직된 프로토콜 등 21세기 네트워크가 안고 있는 문제들 대부분은 컴퓨터 시대에 새로 생긴 것이 아니다.
- 유발 하라리 <넥서스> 99면

 

우리는 사회 시간에 관료제에 대해 배웠죠. 많은 구성원이 모여 사회를 구성하다 보니 사회를 관리하고 질서를 효율적으로 관리하고 유지하는 일이 필요해졌고, 이를 위해 관료 체계가 생겨났습니다. 관료제 덕분에 우리가 편리하게 교통을 이용하기도 하고, 교육을 받으며, 의료 서비스를 받습니다. 또한 관료제를 통해 현대 하수 시스템이 구축된 덕분에 런던에서 수백만 명의 목숨을 앗아간 콜레라 감염이 멈추었다고 하지요. 관료제는 장점이 많습니다. 

하지만 관료제의 단점도 존재합니다. 대규모 조직에서 부서와 과를 잘게 나누어 각자가 맡은 부분을 관리하다 보니 각 부분이 어떻게 돌아가고 있는지 서로 소통이 어렵기도 하고, 전체적인 흐름을 파악하기 어렵기도 합니다. 게다가 인간이 전체의 부품에 지나지 않는 존재로 여겨지는 인간 소외 현상이 발생하기도 합니다. 

 

그런데 이제는 AI가 극한의 효율성으로 사람을 관리합니다.

 

네이버클라우드, 네이버웍스·클로바 케어콜 등 AI로 공공업무 혁신

네이버클라우드, 네이버웍스·클로바 케어콜 등 AI로 공공업무 혁신

 

이미 우리 삶의 많은 부분이 AI를 통해 관리되고 있고, 점점 더 그 분야와 정도가 증가하겠죠. 

 

관료 조직이 당신에게 특정 꼬리표를 붙이면 설령 그 꼬리표가 순전히 관례에 불과할지라도 당신의 운명을 결정할 수 있다. 관료가 살아 숨 쉬는 동물 전문가든, 살아 숨 쉬는 인간 전문가든, 아니면 아예 유기체가 아닌 AI든 마찬가지다.
- 같은 책 104-105면

 

어떤 사람이 금전적 지원을 받아야 할 대상인지 아니면 특별한 감시를 받아야 할 대상인지, 면접에서 합격시킬만한 사람인지, 어느 정도의 세금을 징수할지, 어떤 점수를 부여할지, 수술을 할지 말지, 감옥에 보낼지 말지를 AI가 결정합니다. 기본적으로 인간을 소외시키기 쉬운 관료 시스템 운영에 있어 AI가 주축이 되는 것입니다.

 

pixabay

 

우리들의 미래가 과연 어떻게 될까요 여러분? 교육자인 저는 어떤 교육을 어떻게 실시해야 우리 학생들이 인공지능 시대를 주체적으로 잘 살아나가게 될까요? 굉장한 경각심이 드네요.

 

책을 더 읽으며 열심히 고민을 해보아야겠습니다.

 

추운 날씨에 감기 조심하셔요.