중앙대학교 인문콘텐츠연구소

HK+인공지능인문학

아카이브칼럼

칼럼

글보기
인공지능의 “망각”
Level 10조회수183
2022-12-26 16:15

인간이 가진 기억 용량의 본질적인 한계를 극복하기 위해서 인간은 끊임없이 도구와 기술을 개발해왔다. 돌에 그림을 그리던 것에서 시작해서 글을 쓰고, 사진을 찍고, 영상을 녹화하며 더 오래, 더 많이 기억하기 위한 기술과 기계를 개발해왔다. 

인간의 기억 활동을 돕기 위해 ‘기록’하는 매체와 ‘저장’하는 매체가 개발됐다. 특히 19세기에는 축음기, 사진기 등 흘러가버리는 시간을 기록하고 동시에 저장하는 매체들이 등장하면서 인간의 시간 경험을 확장하고 조작했다. 매체사에서 기록과 저장 매체의 목표는 더 많은 기록을 더 오래 저장하는 것이었다. 20세기에 들어 아날로그 매체에서 디지털 매체로 변화하면서 저장 매체의 용량은 획기적인 성장을 이루었다. 그동안 일각에서는 인간이 보고 들으며 경험하는 모든 것을 자동으로 기록하고 저장할 수 있는 매체를 꿈꾸기도 했다.  


2011년부터 방영된 영국 드라마 <블랙미러 (Black Mirror)>의 첫 시즌, 세 번째 에피소드 “당신의 모든 순간 (The Entire History of You)”은 그런 이들이 상상했던 미래의 단면을 보여준다. 이 에피소드에서 모든 사람들은 작은 캡슐 ‘그레인’을 귀 밑에 심어 자신이 보고 듣는 모든 시청각 정보를 영구적으로 저장하고 보존한다. 저장된 정보는 언제든지 눈앞에서 재생할 수 있고 스크린에 띄워 함께 보는 것도 가능하다. 에피소드의 초반까지만 해도 매우 유용한 매체처럼 보였던 그레인이지만 결말은 비극적이다. 일상의 모든 순간이 저장되면 기억에서 자유로워질 것 같지만 의외로 사람들은 과거와 기억에 비정상적으로 집착한다. 일상의 모든 만남은 서로의 과거를 돌려보며 시작하고, 아이의 기억을 돌려보며 베이비시터를 감시하거나, 예전 대화를 끊임없이 돌려보며 아내의 행적을 의심하기도 한다. 결국 벗어날 수 없는 기억의 굴레에서 힘들어하던 주인공이 자신의 손으로 ‘그레인’을 파내면서 에피소드가 끝난다. 

<블랙미러> 에피소드 속 그레인처럼 일상의 모든 기억을 저장하는 매체는 불편하고 자칫 두려운 매체다. 상업화가 숙명인 매체는 불쾌감, 불편함을 생산할 수 없다. 때문인지 더 많은 정보를 더 오래 저장하는 방향으로 기술 개발을 거듭하던 저장매체는 클라우드 컴퓨팅에 이르기까지 제법 빠른 속도로 무한대에 가까운 저장 용량을 이루었지만, 그레인처럼 일상의 모든 것을 기록하는 매체의 발전이나 도입은 상대적으로 더뎠다. 센서 기술의 발달로 인간의 개입을 최소화한 기록 장치들이 많이 개발되었지만 모두 대중적으로 받아들여지진 못했다.

‘기록’과 ‘저장’에 집착하던 매체가 이제 ‘망각’을 꿈꾸기 시작했다. 2021년 5월 페이스북 (현. 메타)의 AI연구소가 한 편의 논문을 공개했는데 인공지능의 망각에 대한 내용이 담겨 있었다. 연구팀은 인공지능에 학습시킬 데이터의 중요도에 따라 저장 기간을 부여하는 알고리즘을 개발하고, 시간이 지남에 따라 일부 데이터를 삭제하도록 했다. 인공지능 학습이나 실제 사용 과정에서 자주 참조한 순서나 빈도 등을 계산하여 데이터의 중요도를 예측하고 이에 따라 만료 날짜를 지정한다. 페이스북 측은 매체가 인간이 기억하는 방식을 참고하여 디프러닝 (Deep Learning)기술을 개발했듯이 인간이 기억을 유지하는 방식에서 영감을 받아 인간이 가진 본질적인 망각을 적용한 시스템을 개발했다고 밝혔다 (Fan & Sukhabaatar, 2021). 독일의 인공지능 분야 학술지 역시 2019년 특별호를 구성하여 컴퓨터 과학 및 인공지능 영역에서 ‘의도적 망각’에 대해 학술적, 정책적으로 지원할 방안에 대해 논의했다. ‘의도적 망각’은 2015년 독일 연구협회에서 뽑은 학제 간 연구 프로그램 우선 과제 중 하나로 발표되기도 했으며 망각 알고리즘 개발을 위한 연구 지원 등이 이루어졌다. 

지금까지 인공지능, 혹은 그 이전의 디지털 컴퓨터에 있어 ‘망각’은 시스템 실패였다. 인공지능 기술 역시 망각하지 않는 기계가 축적한 데이터를 통해 현재의 모습까지 발전했다. 인공지능 기술만큼이나 빅데이터 구축에 엄청난 재원이 투자되는 이유이다. 하지만 계속해서 커지는 빅데이터를 관리하기 위한 물리적 공간 확보에서부터 빅데이터를 관리하기 위한 전력 관리 비용도 그만큼 증가하고 있다. 지워지지 않는 데이터는 비용 효율 측면 뿐 아니라 윤리적 문제도 개입되어 있다. UN 역시 팬데믹을 전후하여 세계적으로 생성되는 엄청난 양의 데이터를 지속가능한 방향으로 관리하기 위해 어떤 지침을 제공할 것인지 UN World Data Forum을 창립하여 논의 중이다. 영원히 지워지지 않는 매체들 간의 연결 속에서 개인 정보, 개인 기록이 퍼져나가고 사회 편향을 반영하는 데이터를 학습하는 인공지능을 통해 또 다른 편향 데이터를 낳는 문제도 발생하고 있다. 

인공지능은 데이터를 통해 학습하며 자신만의 실행 논리를 만든다. 구글 챗봇 ‘람다(LaMDA)’가 의식이 있는 것은 아닌지 의심을 받을 정도로 인간이 예측하지 못한 발언을 하게 된 것도 이 때문이다. 디프러닝을 바탕으로 무한대로 확장하는 인공지능 기술에 있어 망각 알고리즘은 어쩌면 인간이 할 수 있는 최대한의 개입일지도 모른다. 물론 망각 알고리즘의 개발은 무엇을 기억하고 무엇을 지울 것인지 또 다른 정치적인 논의를 양산할 것이다. 기술의 퇴보라 비판하는 이가 있을지도 모른다. 하지만 망각 알고리즘을 논의해야 할 정도로 성장한 기록매체와 빅데이터 기술, 그리고 그것을 양분으로 계속해서 확장하고 있는 인공지능을 목격하며 매체사에서 어쩌면 처음으로 ‘잊혀짐’에 대해서 논의해야 할 때는 아닐까? 

이정현 (중앙대학교 인문콘텐츠연구소 HK연구교수)


참고문헌
중앙대학교 인문콘텐츠연구소
06974 서울특별시 동작구 흑석로 84 중앙대학교 310관 828호  TEL 02-881-7354  FAX 02-813-7353  E-mail : aihumanities@cau.ac.krCOPYRIGHT(C) 2017-2023 CAU HUMANITIES RESEARCH INSTITUTE ALL RIGHTS RESERVED