고유번호: http://www.riss.kr/link?id=A106370566

제목: AI로봇의 도덕성 유형에 근거한 윤리인증 프로그램(ECP) 연구

= A Study on the Ethics Certification Program Based on the Morality Types of AI Robots

저자명: 변순용

학술지명: 倫理硏究

권호사항: 1/126

수록면: 73-90

발행년도: 2019

등재정보: KCI

The goal of the Ethics Certification Program for Autonomous and Intelligent System (ECPAIS), recently proposed by the Institute of Electrical and Electronics Engineers (IEEE), is to improve the transparency, accountability and to reduce algorithmic bias of autonomous intelligence systems. Citizens and consumers are concerned about the proliferation of these systems in the form of smart homes, companion robots, autonomous vehicles, or many of the products and services associated with them, whether they are considered “safe” or “trustworthy” by professionals.

It cannot be denied that safety and reliability are important and that they should act as important thresholds in our introduction to real life. One thing is clear, however, is that ethics cannot be replaced by safety or reliability. It is important to distinguish between ethical certification and safety or reliability certification.

Therefore, this study critically examines the contents of the ethical certification program, which is being discussed as the main criteria of accountability, transparency, and algorithm bias, and combines types of ethics certification and AI morality. I would like to present a ethical certification program that is dualized by ethical autonomy.

최근 전기전자공학자협회(IEEE)에서 제안하고 있는 자율 지능 시스템의 윤리인증 프로그램(Ethics Certification Program for Autonomous and Intelligent System, ECPAIS)의 목표는 자율 지능 시스템의 투명성, 책임성 그리고 알고리즘 편향성의 축소를 증진시키는 인증 및 검토 과정에 필요한 것들을 만드는 것이다. 여기에서도 스마트 홈, 반려 로봇, 자율 주행차 혹은 이와 관련된 수많은 생산품과 서비스들의 형식으로 이러한 시스템이 확산되면서 이것들이 전문가들에 의해 “안전”하거나 “신뢰할 만한다”라고 평가되는지에 대해 시민이나 소비자들에게 알려야 할 필요성을 부정할 수는 없다. 이러한 필요성이 바로 윤리에 대한 ‘인증’이라는 개념이 도출되고 있는 이유일 것이다. 안전성이나 신뢰성이 중요하고, 우리들의 실생활의 도입에서 중요한 문턱으로 작용해야 한다는 주장을 거부할 수는 없을 것이다. 그런데 한 가지 분명한 것은 윤리성이 안전성이나 신뢰성으로 대체될 수 없다는 사실이다. 윤리인증과 안전성 내지 신뢰성 인증을 구분하는 것은 중요하다. 그래서 이 연구에서는 현재 논의되고 있는 책임성, 투명성, 그리고 알고리즘 편향성을 주요 기준으로 논의되고 있는 윤리인증 프로그램의 내용을 비판적으로 검토해보고, 윤리인증과 인공지능도덕성의 유형을 결합하여 기준 내지 준거인증과 자율성인증으로 이원화된 윤리인증 프로그램을 제시하고자 한다.