이찬규 중앙대 교수(국가교육회의 디지털특별위원장)

우리는 10시간이면 미국도 가고, 거의 실시간으로 전 세계 어디에 있든지 화상 회의가 가능하며, 전 세계에 창궐한 바이러스 백신을 1년 만에 개발하는 시대에 살고 있다. 모두 과학 기술의 발전 덕분이다. 산업혁명 이후 인류를 이끌어 가고 있는 것은 ‘과학 기술’이라는 것에 의심의 여지가 없다.

앞으로는 이 과학 기술의 심장에 AI가 자리를 잡을 것이다. 수많은 기술들이 AI로 집약될 것이며, 과학기술은 AI를 통해 비약적 진화를 이루어낼 것이 분명하다. 아직은 특정 영역에 국한된 것이기는 하지만 인간이 수 백만 년에 걸쳐 습득한 지식과 행동 방식을 단 몇 개월 안에 학습해 낼 뿐만 아니라 우리가 미처 파악하지도 못했던 새로운 사실들을 알려주고, 예측하게 해준다. 수많은 개인들이 제공한 데이터와 기술 전문가들의 혜안이 빚어낸 결과물들이다.

그런데 2020년 미국의 비영리 연구소인 OPenAI 내놓은 인공지능 언어처리 모델인 GPT-3를 보며 많은 사람들의 우려가 깊어지고 있다. 대부분의 사람들은 준비도 돼 있지 않은 상황에서 AI가 거침없이 진격을 해 오고 있다는 사실을 깨달았기 때문이다.

현존하는 언어처리 인공지능 중 최고의 성능을 보여주었다는 GPT-3는 4990억 개 데이터셋 중 가중치 샘플링한 3000억(300B) 개로 구성된 데이터셋으로 사전 학습을 받았으며, 1750억 개(175Billion) 매개 변수로 딥러닝을 했다. 언어모델 개발에 소요된 비용은 1200만 달러(142억)에 이르고 위키피디아 전체를 포함한 엄청난 양의 데이터, 최고 성능과 용량의 슈퍼컴퓨터, 우수한 AI 개발자들이 동원됐다. 이 말을 요약하면 ‘아무나, 아무 회사나 개발할 수 있는 수준이 아니다’라고 할 수 있다.

물론 기술적으로 GPT-3는 보완해야 할 점이 많지만 그러한 문제는 조만간 GPT-4급, GPT-5급 AI로 진화하면서 극복할 것이고, 인류는 꼼짝없이 이 인공지능 기술에 이끌리게 될 것이다. 휴대전화를 사용하는 것과는 차원이 다른 문제다. 우리가 선택하고 말고의 문제를 넘어서기 때문이다.

우리가 상상할 수도 없는 기술이 우리의 삶을 좌우하는 현실을 어떻게 받아들여야 하는가? 이 문제에 대해서는 이미 2000년에 Daniel Lee Kleinman 등이 펴낸 《Science, Technology, and Democracy(과학, 기술, 민주주의)》를 비롯해 2018년 벤쿠버에서 열린 TED에서 유발 하라리도 기술의 발전이 개인의 자유를 억압할 수 있다고 경고했다. 하지만 아직 국제사회에서는 이를 심각하게 받아들이고 있지 않다.

과학기술 엘리트들은 가치 중립적으로 기술을 개발한다. 기술에 이념을 부여하는 것은 정치인들의 몫이다. 그런데 기술의 영향력이 한 국가를 넘어 전 세계에 미치는 현대 지구촌 상황을 고려한다면 정치인들조차 무기력할 수밖에 없다. 기술의 발전이 인간과 사회에 어떠한 영향을 미칠지 고민하기보다는 이것이 국가 경제 발전에 어떠한 기여를 할 수 있을지에 더 관심이 많다.

더 나아가서 기술 전문가들이 직접 관료가 돼 기술 발전을 가속화 하는 상황이 전개되고 있다. 그래서 등장한 말이 기술관료주의(Technocrat)다. 이 자체가 문제는 아니지만 이 과정에서 많은 일반인들이 소외되고 있다는 사실이 간과되고 있다는 점에 주목해야 한다. 이것은 더 이상 당연한 문제가 아니다.

현대 대부분의 국가에서는 간접 민주주의를 채택하고 있다. 국민은 누군가에게 대표성을 부여하고, 그 사람은 국민들의 뜻을 반영해 입법활동 및 국가 권력을 감시하는 일을 한다. 만약 그 정치인이나 행정가가 국민들에게 전혀 알리지 않고 자신의 소신대로 입법하고 정책을 만들어 간다면 국민들은 그것을 용납하지 않을 것이다.

우리가 민주주의 질서를 따른다면, 그것이 옳은 방향이든 아니든 그 결정의 주체는 국민이 돼야 하기 때문이다. 오늘날 어떤 점에서 정치인이나 행정가보다 국민들에게 더 큰 영향을 미치는 기술 엘리트들의 기술 개발은 누구로부터 그 권력을 위임받았으며, 무엇을 위한 것인지에 대해 전혀 논의조차 할 필요가 없이 독자적인 영역을 구축해 왔다. 우리는 이메일을 사용하지 않으면 정상적인 사회생활을 할 수 없는 시대에 살고 있으며, 미래엔 AI의 도움을 받지 않으면 외국인과 대화조차 어려운 세상에서 살아갈 것이다. AI가 우리 생활에 미칠 영향은 수없이 많다. 얼마 전에 나온 딥페이크 기술은 이미 쉽게 가짜를 양산하는 도구로 사용되고 있다.

인류가 봉건 사회를 극복하기 위해 치렀던 수많은 희생을 잊어서는 안 된다. 민주주의가 인간의 가치를 고양해 왔다는 확고한 믿음이 있다면 이제는 기술민주주의를 고려해 볼 때가 됐다. 기술 엘리트들이 자본과 결합해 귀족과 같은 지위를 차지하고 일반인들은 기본소득으로 연명해야 하는 신봉건주의 사회가 도래할 것인지에 대해서는 의견이 분분하지만 과연 이러한 방향이 인류에게 긍정적인지에 대해서 논의를 시작해야 한다. 저작권 문제를 잘 조정해 기술 엘리트들도 기술을 숨김없이 공개할 수 있어야 하고, 전문가들은 그 기술을 검증할 수 있어야 하며, 또 시민들은 그 기술에 대한 선택권을 가질 수 있는 방안을 찾아야 한다. 개별 시민들의 데이터가 모여 빅데이터가 되고 이것이 AI로 실현되는 상황에서는 더욱 그렇다. 현재와 같이 가치 중립을 표방하며 독자적으로 기술을 발전시키는 것이 인류에게 이익인지, 기술민주주의를 실현해 시민들이 기술을 판정하고, 선택하는 것이 이익인지에 대해 공적인 논의가 시작돼야 한다.

[기사원문보기] 

+PDF 전문 다운로드 : [시론] AI의 진격과 기술 민주주의