인공지능은 정보와 규칙의 체계이며, 코딩과 프로그래밍, 딥러닝 알고리즘의 형식 체계이다. 딥러닝 2.0 버전은 인공신경망 구조를 기반으로 빅데이터를 스스로 학습하며 정밀하고 정확한 계산과 신속한 판단으로 막힘 없이 일을 처리한다. 심지어는 자기 의견을 만들고 주저없이 실천한다. 마치 이론이성과 실천이성이 하나로 통합되어 있는 이상적인 존재처럼 보인다. 인간의 경우에는 유능하면서도 나쁜 사람이 존재하지만, 도덕적으로 옳은 일만 선택하는 인공지능을 도덕적으로 진보한 인공적 행위자로서 도덕적 기계로 볼 수 있다. 그러나 우리는 일반적으로 ‘도덕적’이라는 말을 스스로 생각하고 판단하는 의지적 선택이 가능한 존재에게 적용한다. 인간은 이러한 의미의 도덕적 자율성을 지닌 존재로 간주된다. 이에 의하면, 도덕적 기계는 원칙적으로 불가능하다. 그러므로 인공적 도덕 행위자는 자동기계의 자동성에 지나지 않는 공학적 자율성만을 지닌 존재로 보아야 한다. 그러나 이는 특정한 도덕적 관점을 채택한 경우에만 타당하다는 시각도 존재한다. 이 글은 ‘도덕’을 이해하는 다양한 관점이 존재할 수 있다는 입장에서 도덕적 기계의 가능한 모델을 설계해보려는 시도이다.