“인공지능은 기술이 아니라 이데올로기다.(AI is an Ideology, Not a Technology)”
“AI는 인간의 존재를 인정하지 못하는 위험한 신념이다.(At its core, ‘artificial intelligence’ is a perilous belief that fails to recognize the agency of humans)”
WIRED1)의 두 헤드라인은 중국이 AI 기술을 급속도로 발전시키기 위해 아무런 규제도 없이 데이터를 수집하고 있음을 꼬집는 동시에 AI가 인간의 존재, 즉 휴머니티에 위협이 될 수 있음을 암시하고 있다.
AI는 이제 단순한 인간 생활의 도구가 아니다. 제대로 프로그램된 AI는 사물을 이해할 수 있을 뿐만 아니라 컴퓨터 속에서 구현되는 독립적인 무엇이다. John R. Searle에 의하면 전자는 약인공지능(weak AI)이며, 후자는 강인공지능(strong AI)이다. 인간의 삶을 풍요롭게 하기 위하여 설계된 프로그램이 약인공지능이라면, 인간의 복잡한 인지과정을 이해하고 인간을 완벽하게 모방하는 것이 강인공지능이다. AI는 머지않은 미래에 인간과 같은 수준까지 진화하게 될 것이며, 결국 우리가 우려한 것처럼 위험한 신념이 될 수도 있다. 신념은 삶의 방식이라는 점에서 마르크스나 시저가 말하는 사회주의나 자본주의가 아니다 할지라도 개인이 접촉하는 세계의 어떤 대상에 대한 감정‧지각‧인식‧평가‧동기‧행동 경향 등을 종합적이고 지속적으로 추구한다는 점에서 AI는 이데올로기와 닮아 있다.
그렇다면 이데올로기란 무엇인가? 사전적 의미는 “사회 집단에 있어서 사상, 행동, 생활 방법을 근본적으로 제약하고 있는 관념이나 신조의 체계. 역사적‧사회적 입장을 반영한 사상과 의식의 체계이다”이다. Terry Eagleton은 “‘이데올로기’를 ‘단 하나의 적합한 개념’으로 정의를 내릴 수 없다”고 고백한다. Thompson은 ‘의미가 지배의 관계를 지속시키는 데에 기여하는 방식’이라고 정의한다. 또한 마르크스주의 철학 이론에서는 이데올로기를 ‘지배 계급의 허위의식’으로 간주하기도 한다. Olivie Reboul은 이데올로기는 특정 집단의 사상이므로 편파적이며, 타집단에 대해서는 논쟁적인 ‘당파적 생각’을 가지며, 개인적 의견이나 신념과 구별하기 어려운 익명적 사고이자 주체 없는 담화임에도 불구하고 집단 구성원의 믿음이 되는 ‘집단적 생각’이며, 그 자체가 비합리적이므로 스스로 본질을 감추려는 속성이 있는 ‘은폐적 생각’이며, 그 자체가 갖는 본질적인 불합리성을 합리성으로 포장하려는 ‘합리적 생각’이며, 타집단에 대해 권력을 행사하고 그것을 정당화함으로써 권력에 봉사하는 기능을 갖게 하는 ‘권력에 봉사하는 생각’이라고 말한다.
이러한 이데올로기는 근본적으로 의사소통의 수단이자 사유의 표현 수단인 ‘언어’에 의해서 표현된다. 따라서 언어와 이데올로기는 떼려야 뗄 수 없는 불가분의 관계에 놓여 있다. ‘언어 이데올로기’는 Rumsey가 말하고 있는 것처럼 “언어의 본질에 대한 상식으로 공유되는 관념”이거나, Silverstein의 말처럼 “언어 사용자들이 그 언어의 구조와 사용에 대한 인식을 합리화 또는 정당화하는, 언어에 관한 신념의 집합들”이다. Heath는 사회적 측면을 강조하기 위해 ‘언어 이데올로기’는 “하나의 집단이 그 집단을 표현하는 데 기여하는 구성원들의 사회적 경험에서 언어의 역할에 관해 가지고 있는 자명한 생각이나 목표”라고 정의하고 있고, Irvine은 “도덕적이고 정치적인 이해관계와 결부된, 사회와 언어 관계에 대한 생각의 문화적 체계”라고 정의한다.
AI가 지능을 갖게 되는 것은 학습의 결과이며, 그 학습은 언어에 의해서 이루어진다. 따라서 AI는 언어를 통하여 인류의 역사 속에서 형성되어 온 이데올로기를 학습하거나, 궁극적으로는 언어 학습과정에서 스스로 이데올로기를 형성할 수도 있을 것이다.
그렇다면 ‘AI 이데올로기’는 무엇이며, 어떻게 구분될 수 있을까? 첫째는 AI 자체가 이데올로기인 경우이다. 이는 ‘AI의 본질이 무엇이며, AI 주체성과 자율성이 존재하는가, AI가 인간과 같은 감정을 지니며 판단할 수 있는가’와 관련이 있다. 만약 이러한 전제가 사실이 될 수 있다면, ‘주체적 AI’는 미래 인간의 삶에 막대한 영향력을 미치게 될 수 있으며, 어쩌면 인간을 뛰어넘는 거대한 존재로 미래 사회를 지배하게 될 수도 있다. 이는 ‘AI가 인간의 삶에 나타나는 복잡하고 어려운 문제를 해결해 주며, 미래 사회에 도움을 줄 수 있는 가치 지향적인 존재인가’라는 질문과도 맞물린다. ‘주체적 AI’는 미래 사회에서 인간과 동등한 존재론적 가치를 부여받을 수 있으며, 인간이 가진 동등한 권위, 혹은 그 이상의 지위를 갖게 될 수도 있을 것이다.
둘째는 AI가 ‘언어 이데올로기’를 학습한 경우이다. 이러한 경우 ‘인간 학습 AI’는 학습데이터 범위 내에서 AI가 작동하므로, 인간의 사회문화적 맥락에서 크게 벗어나지 않는다. 다만, ‘인간 학습 AI’는 입력(input)되는 학습데이터의 유형과 크기에 따라 출력(output)되는 결과도 크게 달라질 수 있다.
미래 사회에서 AI는 사회의 여론 형성에도 영향을 미칠 수 있으며, 필요에 따라서 가짜 뉴스를 생성해 내거나, 접촉 환경에 따라서 비윤리적 담화를 생성해 낼 수도 있다. 앞으로 AI는 의료, 교육, 소비, 문화콘텐츠 등 다양한 분야에 접목될 것이다. 따라서 AI 기술에 대한 접근 가능성과 적응 능력은 또 다른 사회적 불평등을 초래할 수 있다. 미래의 사회에서 AI 이데올로기는 새로운 권력으로 작동하게 될 것이고, 그 영역을 지역, 성별, 계층, 직업, 장애 여부뿐만 아니라, AI 사용자의 경험에서 비롯한 다양한 사회적 현상 속에서 또 다른 이데올로기를 형성하며 은밀하게 그 세력을 확장시켜 나갈 것이다.
우리는 AI를 통하여 형성될 이데올로기를 인식하고 대비하여야 한다. 인간의 생각을 뛰어넘는 속도로 AI가 발달하게 된다면, AI는 ‘인간 학습 AI’에서 ‘주체적 AI’로 진화를 거듭하게 될 것이며, 그렇게 되면 결국 인간은 AI의 지배 아래에 놓일 수밖에 없다. 우리는 이제 AI가 가져다주는 인간적 삶의 혜택보다는 인간다움에 대한 진지한 성찰과 AI와 함께 공존하며 살아가게 될 미래 사회에 대해서 고민할 때이다. 내가 수많은 AI에 투영되어 여러 개의 페르소나를 가질 수 있는 시대에 과연 진정한 ‘나’는 누구인가. AI와 공존하며 살아갈 미래 사회에서는 어떠한 이데올로기들이 새롭게 생성되고, 그것들이 인간 사회를 어떻게 지배할지는 지금으로서는 상상하기조차도 어렵다. 그렇다고 하더라도 우리는 AI와 공존하면서도 인간다움을 잊지 않는 풍요로운 미래 사회를 차근차근 준비해 나가야 할 것이다. 정유남 (중앙대학교 인문콘텐츠연구소 HK연구교수) 1) https://www.wired.com/story/opinion-ai-is-an-ideology-not-a-technology/ (2022.02.08.) |
