사람에 대한 불신(不信)

   인문학적 담론은 사람이 대체되는 데에 주로 우려를 표한다고 했지만, 인문학도 때로는 사람을 불신했다. 동양의 법가 사상이 대표적이다. 유가가 성선설을 바탕으로 덕치를 주창한 것과 달리 법가는 성악설에 근거한다. 순자가 성악설에 근거하면서도 방법론으로는 예치를 주창한 것과 또 다르게 한비자의 법가사상은 상과 벌을 적합한 수단으로 보았다.² 
   앞선 논의가 선악을 다뤘다면, 보다 경제 냄새가 나는 담론으로 테일러리즘이 있다. 그는 노동자들의 '솔선'에 의존하는 '주먹구구식' 관리보다, 체계적 분석을 거쳐 성문화된 법칙과 공식들이 생산성을 획기적으로 개선할 것이라 주장했다. 노동자의 '솔선'에 대한 의존을 비판하고 경영자 주도의 '과학적' 관리를 주창하는 그의 요지³는, 그의 저서 『과학적 관리의 원칙』 전 페이지에서 에코처럼 울려 퍼진다.

  이 로봇들은 복도를 이리저리 돌아다녀야 하는 사람보다 훨씬 빠를 뿐만 아니라, 휴식을 취하지도, 코로나19를 걱정하지도, (아마존이 유럽과 미국에서 경험한 것처럼) 열악한 작업 환경에 대해 항의하지도 않는다. 가끔 나타나는 컴퓨터 바이러스를 뺴면 전염성 질병에 면역이며, 접촉자 추적과 검사, 검역, 살균으로 야단법석을 벌일 일도 없다. ⁴

   사람을 대체하는' 로봇에 대한 기대를 담은 책이나 기획안을 보고 있노라면 테일러가 떠오를 때가 많다. '솔선'의 바통을 '사람', '아날로그' 등의 단어가 이어받았고, '과학'의 바통은 '로봇', '알고리즘' 등의 단어가 이어받았다. "사람에 의한 운영은 비효율적이고, 사회적 갈등과 질병에 대한 노출 등 예측하기 어려운 리스크를 내포하고 있어 기업 입장에서 바람직하지 않다. 그래서 어서 '디지털 전환'을 해야할 것만 같다." 이러한 인식은 근래의 팬데믹을 거치며 더 확산되었을 것으로 보인다.⁵ 

우리는 어떤 로봇을 어떻게 만들 것인가?

   '디지털 전환'의 주역인 로봇은 어떤 모습일까? 사람에 의한 것들을 스스로 해낼 수 있는 수준이어야 하는 만큼, 로봇의 수준이 사람에게 비견할 만한 것인지에 대해 관심이 뜨겁다. 그렇다면 로봇은 인간을 닮아야 할까? 우리가 사람의 한계를 토로하며 로봇을 소환해낸 것은, 프랭크 윌첵이 말한 '증강기술의 역사'와 맥락을 같이 한다. 그리고 윌첵은 그 결정체로서의 인공지능은 인간의 뇌와는 상당히 다른 형태일 것이라 전망했다.⁶ 
   사람에 의한 것들을 부정적으로, 비인간에 의한 것들을 긍정적으로 서술한만큼 우리가 로봇에게 기대하는 바 역시 사람을 꼭 그대로 닮은 모습은 아니다. 실제로 인공지능을 - 특히 지도학습을 - 적용한 알고리즘을 구상할 때 이것은 예상보다 큰 난관으로 다가온다. 데이터는 로봇을 가르치는 교과서의 역할을 한다. 그런데 사람에 의한 작업이 남겨둔 데이터베이스는 사실상 무수히 많은 오답노트에 가깝다. 기껏 다량의 데이터를 확보했건만 그 데이터로 로봇을 학습시키면 안 되는 상황인 것이다. 데이터는 스스로 로봇을 온전히 가르치지 못한다. 결국 로봇의 학습 방향은 데이터가 아닌 설계자의 몫으로도 남는다.
   엔카 드라간은 강화학습을 예로 들어 인간 스스로가 원하는 바를 명시하는 것이 얼마나 힘든지 설명했다.⁷ 이는 비단 강화학습에만 해당되는 어려움은 아니다. 소프트웨어 개발, 알고리즘 구상 전반에 걸쳐 필연적으로 내포되어 있는 문제다. 소프트웨어 개발자는 코드를 작성하고 디버깅하는 매순간 자신의 코드가 왜 이상한 결과를 만들어내는지 자문해야 한다.
   여러 인공지능 알고리즘의 공통점을 하나 들라면 해석 가능성과 정확도를 맞바꾼 것이라 하겠다. 해석이 불가능하리만치 복잡하기 때문에 이상한 결과의 원인을 규명해내기가 훨씬 어렵다. 엔카 드라간이 하필 강화학습을 예로 든 것은 그런 의미에서 매우 적합하다. 알고리즘은 복잡해짐으로써 유연성을 얻었고, 다량의 데이터를 바탕으로 파라미터 최적화만 잘 하면 매우 높은 정확도를 달성할 수 있다. 하지만 앞서 자신의 코드에 대해 자문하던 소프트웨어 개발자는 이제는 반대 방향으로 자문해야 한다. 왜 자신의 코드가 정확한 결과를 만들어낸 것일까? 그리고 그는 답을 찾을 수 없을 것이다.

누가 로봇을 평가할 것인가?

  알고리즘의 복잡성 문제는 로봇을 학습시키고 개발하는 관점을 넘어서, 그것을 현실에 정착시킬 때에도 이슈가 된다. 필자는 현장 개선을 해보겠다고, 담당자들이 수작업으로 몇 시간 하던 업무를 간단히 풀어주는 데이터 알고리즘을 개발한 적이 있다. 전체적인 성능에서 알고리즘이 뛰어나다는 점을 미리 메일로 알려주었고, 담당자들은 미팅 자리에서 개별 사례들에 대해 함께 검증하자고 했다. 하나하나 뜯어보던 담당자들은 왜 특정 사례에 대해 알고리즘이 자신들과 다른 방식으로 의사결정 했는지 물었다. 인공지능을 적용한 수준이 아니었음에도 필자는 답을 하는 데에 어려움을 느꼈다. 그날의 일은 다행히도 담당자가 "당신이 만든 프로그램인데 왜 당신이 설명을 못합니까?"라고 껄껄 웃으며 해프닝으로 마무리 되었다.

   우리가 사람의 뇌가 작동하는 방식을 잘 모르는 현실을 묵과하는 이유는 사람의 뇌가 항상 같은 방식으로 작동하기 때문이며, 인간이 자신의 자연언어를 사용해서 타인과 소통할 수 있고, 배울 수 있으며, 타인을 지도하고, 동기를 부여할 수 있기 때문이다. 만약 로봇이 알파고처럼 불투명한 존재가 된다면 (후략)⁸

   필자가 만난 담당자들은, 프로그램이 작동하는 방식을 잘 모르는 현실을 묵과한 채 그것을 잘 사용하고 있다. 그런데 만약, 알고리즘의 성능을 평가하는 기준에 논란의 여지가 있었다거나, 혹여나 발생할 수 있는 프로그램의 오작동이 야기할 위험이 매우 중대하다는 등 상황이 조금만 달랐더라면 주디아 펄이 말한 바와 같이 '묵과'의 기준은 매우 까다로워졌을 것이다. 주디아 펄의 지적이 또 한 번 흥미로운 것은, 로봇을 불신하고 사람을 신뢰하는 이유를 서술했다는 점에 있다. "사람은 속도, 정확성, 지구력에 있어서 오늘날의 로봇을 당해낼 수 없다."⁹  필자는 담당자들의 엑셀 파일에서 발견된 갖가지 실수들을 떠올리며 요시 셰피의 말에 동의하면서도 언제나 로봇의 정확성을 신뢰할 수 있는지의 질문에 대해서는 자신있게 동의하지 못한다. 사람은 우연히 실수로 일을 그르칠 수 있고, 로봇은 가끔 우리는 이해할 수 없지만 스스로의 필연적인 프로세스를 거쳐 일을 그르칠 수 있다. 결국 조지 다이슨의 말처럼¹⁰ , 사람과 로봇의 대체 관계 역시 '신뢰'의 문제가 될 것이다. 한 발짝 더 나간다면, 이 신뢰는 사람들 간 '합의'의 문제가 아닐까?
  장하준 교수는 『그들이 말하지 않는 23가지』에서 인터넷보다 세탁기가 세상을 더 많이 바꿨다는 도발적인 주장을 폈다. 비슷한 맥락에서 적어도 현재까지는 파이썬보다 스프레드시트가 세상을 더 많이 바꾸지 않았을까? 엑셀이 호모 사피엔스 역사상 가장 성공적인 프로그래밍 시스템이라는 피터 왕의 말에, 필자는 크게 동의한다.¹¹  그런데 스프레드시트는 '디지털 전환'의 대척점에 있는 것 같다. 필자 또한 스프레드시트가 유발하는 여러 문제점¹²을 모르는 바는 아니다. 그러나 업무 현장에서는 스프레드시트야말로 프랭크 윌첵의 '증강 기술'로서, 사람에 의한 업무를 고도화해낸 '사람의' 도구였다.
  앞서 언급한 한비자는 시대 간의 질적 차이에 주목했다. 필자가 만난 담당자들이 난생 처음 보는 공급망 불안에 창의력을 발휘해 만든 스프레드시트로 대응하던 모습이 떠오른다. 동시에 '시스템에도 생명이 있다'라던 필자의 선배의 말도 떠올려본다. 그 생명이란, 인간 사회에서의 '사회적 생명'이리라. 로봇을 재생산하고, 그것에 대한 신뢰를 합의하여 새로이 사회적 생명을 불어넣는 것은, 결국 누구의 몫일까? 물론 사람의 사회적 생명 또한 마찬가지일 것이다.