<2022 인공지능인문학 추천도서 독후감 경연대회 일반부 수상작> 

 『인공지능은 무엇이 되려 하는가』를 읽고 

요즘 가게에 가면 종종 사람보다 기계가 먼저 나를 맞이할 때가 있다. 패스트푸드점을 필두로 무인점포까지 속속 들어서고 있는 ‘키오스크’다. 아직 젊은 세대로 분류되는 나이에 속함에도 불구하고, 키오스크를 마주하는 내 심정은 반가움보다는 불편함 또는 당혹감이 더 크다. 줄지어 있는 손님들을 두고도 음식 제조에만 열중하는 점원들을 보면, 또 사용 매장이 점점 늘어나고 있는 걸 보면 효율성 면에서는 키오스크의 공이 큰 듯하다. 손님의 입장에서도 직원에게 직접 주문하는 과정이 딱히 늘 편리했던 것도 아니다. 그런데 왜 나는 더 불편한 걸까. 무언가 새로운 것을 접하게 되면 적응의 기간이 필요하기 마련이니까, 익숙하지 않아서 불편한 걸까, 아니면 그 이상의 이유가 있을까.

 비록 키오스크가 인공지능의 영역에 속하진 않지만, 이 책은 큰 맥락에서 나의 의문과 궤를 같이 한다. 25명의 필자는 인간과 기계의 관계, 그리고 그 미래가 어디로 향하고 있는지를 끈질기게 고찰한다. 이 분야를 처음 탐구한 위너의 ‘사이버네틱스’라는 개념이 등장한 후 자율주행차가 선보인 오늘에 이르기까지 다양한 이론과 기술이 등장한 만큼, 화자들의 관점도 주장도 제각기 다르다. 특히나 인상 깊었던 지점은, 위너를 비롯한 많은 초창기 학자들이 인공지능이 가져올 미래를 어둡게 예견한 데에 반해 수 십 년이 지난 지금 현실에서 인공지능의 영향력은 그들의 예상보다 작았다는 점이다.

이 예상은 흔히 ‘특이점’이라고 일컬어지는, 인류가 이해하지 못할 정도의 속도로 발전해찾아오는 초지능의 등장을 전제로 한다. 실제로 70년 전의 예측에 비해 기술의 발전은 훨씬 더 빨랐다. 핸드폰은 갈수록 작아지다 못해 화면을 접을 수 있게 되었고 인터넷만 있으면 시공간의 한계는 충분히 뛰어넘을 수 있게 되었다. 그렇다면 인류가 기술을 현명하게 다루어 온 덕분에 특이점은 찾아오지 않았고, 우리는 기술의 이점만 누릴 수 있게 된 걸까.

 필자들의 의견은 크게 두 가지로 나뉜다. 하나는 “아직 찾아오지 않았다”는 것이고, 다른 하나는 “찾아올 이유가 없다”는 것이다. 전자는 인공지능의 기술력에 주목한다. 일단 인공지능은 설정값만 넣어 두면 스스로 케이스들을 추적 또는 역추적하며 발전을 거듭하는 존재이기에, 아직 초지능의 시대가 오지 않았을 뿐이지 등장 자체는 시간문제라는 것이다. 반면 후자의 학자들은 인공지능에게 그럴 만한 동기가 전혀 없다는 점에 주목한다. 특히 스티븐 핑커는 모든 일에는 인과적 힘이 작용한다며, 기술과 지능이 갖추어졌다는 이유만으로 어느 순간 초지능이 등장할 수는 없다고 역설한다. 그는 시행착오 끝에 인류를 편리하게 만들어 준 수많은 기술들처럼, 환상을 지우고 보면 인공지능도 그저 인간이 다룰 수 있는 하나의 기술이며 앞으로도 규범이나 법률 등 인간 사회의 합의 하에 조심히 다루어질 것이라고 말한다.

 환상. 책을 읽어내려 나가던 나는 환상이라는 단어에서 멈춰 섰다. 문득 십 수 년 전의 기억이 떠올랐다. 해마다 열린 과학의 날 행사에서 그림을 그릴 때면 나는 하늘을 나는 자동차를 그리곤 했다. 물론 나 말고도 많은 친구들이 하늘을 나는 자동차를 그렸다. 그리고 그 자동차 속 사람들은 하나같이 파란 하늘을 누비며 밝게 웃고 있었다. 하늘에서 벌어질 교통체증, 일조권을 침해받아 화가 난 땅 위의 사람들, 좋을 리가 없는 공기의 질 따위는 아무도 고려하지 않은 것이다.

 그러나 지금의 나는 명확한 사회적 합의 없이 도로에 등장한 킥보드, 자전거가 얼마나 큰 혼선을 빚는지 아는 어른이 되었다. 여기까지 생각이 미치자, 스티븐 핑커에 전적으로 공감하게 되었다. 인공지능이 어느 날 별안간 새로운 세상을 열 것이라는 기대와 공포는 환상에 가깝다. 아무리 발달했다 해도 인공지능의 능력은 계산과 정보 처리 능력에 치중되어 있는 데다, 스스로 초지능으로 나아갈 동기와 사회적 배경도 불충분하기 때문이다.

이 때문에 많은 학자들은 ‘가치 정렬’에 대해 고민한다. 가치 정렬은 한마디로 ‘지켜야 할선’을 설정해 주는 작업이다. 가치 정렬 없는 인공지능은 그저 효율성을 추구하는 고성능 계산기에 불과하다. 책에도 언급되는 “손에 닿는 모든 것을 금으로 바꿔 달라”는 소원을 빌어 딸까지 금으로 만들어버린 미다스 왕, “가장 효율적인 방법으로 종이 클립을 만들어라”는 미션을 받은 인공지능이 우주의 모든 원자를 종이 클립으로 바꿔버린다는 스튜어트 러셀의 가설 등이 그 예시다. 위 예시에서 ‘인간은 금이나 종이 클립으로 바꿔선 안 된다’는 것은 인류에게는 너무 당연해 구태여 설명할 필요도 없는 조건이다. 하지만 인공지능에게는 이러한 선을 하나하나 그어주는 작업이 필요한 것이다.

이 작업을 위해서는 결국 기술과 기계가 아닌 인간에 대한 연구가 가장 심도 있게 이루어져야 한다. 우리가 보편적으로 공유하고 있는 가치들부터 의식적, 무의식적으로 나오는 말과 행동을 기준삼아 가치 정렬을 진행해야 하기 때문이다. 그리고 이것이 사실상 인공지능의 발전에 있어 넘어야 할 가장 큰 산이라고 봐도 과언이 아니다. 인공지능과 달리 인류는 늘 합리적인 선택을 하지 않는다. 효율적으로 시간을 쓰는 대신 드라마를 보거나 게임을 하는 나를, 퇴근길에 시간이 조금 더 걸리더라도 날씨가 너무 좋은 날에는 버스를 타는 대신 걸어가는 경로를 택하는 나를 인공지능은 이해할 수 없다. 또한 사회 집단은 문화권, 세대 등 여러 조건에 따라 때로 전혀 다른 우선순위와 사고방식을 갖기 마련인데 인공지능이 이를 적절히 반영할 수 있을지도 의문이다.

 앞서 내가 키오스크 앞에서 느꼈던 불편함 또한 이 가치 정렬과 맞닿아 있음을 깨달을 수 있었다. 키오스크는 매장 운영 차원에서는 분명 효율성을 가져다주었을 것이다. 그러나 뒤에 늘어선 사람들 때문에 마음이 쫓겨 제로 콜라와 치즈스틱 옵션을 고르는 대신에 기본 세트를 고른 내 마음을 이해하지 못할 것이다. 직원에게서 “제일 잘 나가는 거”를 추천받고 금방 주문을 마치는 대신 복잡한 영어 메뉴 일색의 화면에서 헤매야 했던 중년 손님의 피로감을 알 수 없을 것이다. 그리고 만약 이렇게 조금씩 쌓인 불편함으로 인해 손님들이 이 매장을 찾지 않기 시작한다면, 결과적으로 키오스크의 도입은 효율과 거리가 먼 선택이 된다. 아무리 주방이 효율적으로 돌아간들 손님이 없으면 아무 의미 없을 테니 말이다.

 궁극적으로 인공지능과 인류가 어떤 방식으로 공존해야 할지에 대한 해답은 이 미묘한 지점들을 풀어나가는 데에 있다. 인공지능과 인류는 서로에 대한 환상을 버리고, 치열하게 서로를 연구해 나가야 한다. 인공지능은 그동안 너무 당연해서 들여다보지 않았거나, 사회과학 연구로 진행되어 데이터화되지 못했던 인간의 행동 양식들을 연구해야 할 때다. 마침 빅데이터의 발달로 인해, 아날로그형 데이터에 대한 학습도 이전보다 한층 용이해졌다. 인류 또한 인공지능에 대한 막연한 기대와 공포를 내려놓아야 한다. 간단한 알고리즘을 적용한 정도로 ‘AI’를 남발하는 마케팅을 멈추고, 인공지능의 현재와 미래에 대해 함께 고민해보아야 한다. 이 책의 서문에서 책의 집필 의도를 ‘코끼리 장님 만지기’에 비유한 것처럼, 인공지능이라는 손에 잡히지 않는 존재를 어떻게 우리의 현실 세계로 데려올 지에 대한 많은 사회적 논의가 필요하다. 이렇듯 기술과 인류가 함께 고민할 때, 비로소 밝은 미래가 환하게 펼쳐질 것이다.

필자 : 강현지