망가진 머리: 인공지능과 윤리

이동신 (영어영문학과 교수, 서울대학교)

 빠르게 다가오는 인공지능의 시대에 인간은 인공지능을 통제 가능한 발달된 도구로 사용할 것인지, 아니면 인간과 공존할 수 있는 동반자로 삼을지 고민해야 할지 모른다. 하지만 두 가지 가능성 중 어떤 선택을 하더라도 인공지능을 다루는 데 있어서 새로운 윤리적 규범이 필요하다는 점은 의심할 여지가 없다. 본고는 인공지능이 매우 성숙한 정신을 가질 수 있고 인간의 삶에 불가결한 존재가 될 거라는 전제를 바탕으로 동반자로서의 인공지능을 대비하는 윤리적 규범이 무엇일지 고찰해본다. 아직 존재하지 않은 존재와의 윤리적 관계를 상정하는 작업이라는 점에서 일종의 생각실험(thought experiment)를 수행하여 논의를 하고자 한다. 실험을 위해 ‘진짜로 망가진 (인공지능) 머리를 어떻게 할 것인가?’라는 질문을 던짐으로써, 윤리적으로 인간과 동등한 관계에 있을 정도로 완전히 성숙한 인공지능이 인간이 설정해 놓은 유용성의 기준에서 벗어나 망가진 상태에 있는 상황을 설정한다. 유사한 상황이 등장하는 아시모프의 소설을 읽어나가면서 본고는 망가진 인공지능에 담긴 새로운 가능성에 주목하고, 이러한 가능성이 새로운 세계로 이어질 수 있음을 강조한다. 결국 인공지능과의 공존을 상상하는 일은 이 세계의 존폐로 이어질 수 있다는 점에서 막대한 윤리적 책임이 담겨있으며, 따라서 본고는 인공지능과 윤리의 논의가 그러한 책임을 인식하는데서 시작한다고 주장한다. 

주제어：인공지능, 사변적 윤리, 신사물론, 포스트휴머니즘, 아이작 아시모프