[DIwiTH 캠페인 테마4]
AI 윤리와 다양성&포용성
- 편리함 뒤에 숨겨진 AI의 편견과 차별
- 인간과 사회를 이롭게 하는 AI 개발의 열쇠는 ‘다양성&포용성’
디위드캠페인은 과학기술계 다양성&포용성 문화를 더 깊게 이해하기 위한 스토리텔링 테마기획을 연재합니다. 네 번째 테마에서는 인공지능(AI) 기술에 다양성&포용성을 반영하면 AI의 윤리적 활용을 통해 인류에 기여할 수 있다는 점을 살펴보고자 합니다.
챗GPT 열풍, 실생활로 들어온 AI
약 30만 년 전 아프리카에서 처음 등장한 인류는 도구를 사용해 기술을 발달시킴으로써 지구의 지배종으로 군림하고 있어요. 인류는 농업혁명과 산업혁명, 그리고 정보혁명의 단계를 거치면서 비약적인 인구의 증가와 생활수준의 향상, 시공을 초월하는 글로벌 네트워크를 만들어 왔죠. 그런 인류의 역사가 이제 4번째 혁명기를 맞이했어요. 바로 인공지능(AI) 혁명이에요. 수십 년간 개념으로만 존재하던 AI는 하드웨어의 발전과 데이터의 폭발적인 증가, 트랜스포머와 같은 알고리즘의 등장으로 현실이 되었어요.
알파고가 인간과 바둑 대결을 벌인 것이 2016년의 일인데, 그로부터 불과 6년 만인 2022년 11월에 챗GPT가 등장했어요. 생성형 AI 모델인 챗GPT의 등장으로 사람들은 마치 가까운 친구와 편하게 대화를 나누듯 쉽고, 빠르고, 편리하게 인공지능을 활용할 수 있게 되었죠. 글로벌시장조사기관 ‘스태티스타(Statista)’에 따르면, 챗GPT가 사용자 100만 명을 확보하는데 걸린 시간은 단 5일이었다고 해요. 챗GPT를 필두로 글쓰기, 그림, 음악, 영상 등 다양한 분야의 생성형 AI가 나타나 인간 이상의 능력을 보여주고 있어요.
챗GPT의 등장에 사람들이 충격을 받은 이유는 누구나 간단한 명령어 몇 개만으로 뛰어난 창작물을 만들 수 있게 됐기 때문이에요. 코딩을 못해도 앱을 제작할 수 있고, 그림에 소질이 없어도 일러스트 작품을 만들 수 있으며, 영어가 유창하지 못해도 영문 소설을 집필할 수 있을 정도가 된 거죠. 즉, 고도의 시간과 노력을 들이지 않고도 고난도의 창작이 가능해졌다는 이야기에요. 이처럼 빠른 속도로 성장하는 생성형 AI는 지난 몇 년 사이 인공지능의 엄청난 발전을 보여준 증거라고 할 수 있어요. 또한, 인간의 창의적 상상력에 불씨가 되고, 기업의 생산성 향상에도 혁신적 역할을 할 것으로 기대되고 있죠.
편리함 뒤에 숨겨진 생성형 AI의 편견과 차별
챗GPT의 등장은 AI에 대한 접근성을 높였어요. 누구나 손쉽게 대화창을 통해 AI를 쓸 수 있게 되면서 AI는 일하는 방식부터 정치·사법 체계에 이르기까지 우리 사회의 모든 부분을 바꿔놓을 것으로 전망되고 있어요. 하지만 AI에 대한 놀라움과 편리함도 잠시, 차별과 편견은 큰 우려를 낳고 있어요. 여기저기 퍼져있는 정보를 학습해 결과물을 제시하기 때문에 허위조작정보나 성차별, 인종차별 등 사회적 편견이 내포된 편향된 정보를 포함하고 있다는 거죠. 대표적인 예가 서양 우월주의, 남성 중심주의 같은 인식과 시각이 결과로 나타난다는 것이에요.
왜 그럴까요? AI는 인간이 사용하는 SNS, 인터넷 등 방대한 데이터의 가중치를 계산해 가며 학습하기 때문이에요. 즉, 우리 사회의 차별과 편견을 그대로 따르고 있는 셈이죠. 또한 AI를 만드는 과학자의 약 78%가 남성이기 때문이라는 보고도 있어요. (출처: fastcompany.com, Is AI bad for diversity?)
지난해 타임지가 선정한 AI 분야 영향력 있는 100인에 이름을 올린 유일한 한인으로, 미국 앨런 AI연구소에서 AI에 윤리를 가르치는 ‘델파이 프로젝트(Delphi Projects)’를 주도한 AI윤리계의 권위자인 워싱턴대 최예진 교수는 “AI 개발이 미국 서해안의 빅테크에 쏠려 있다. 실리콘밸리를 비롯한 서구권의 가치관이 과도하게 반영되면서 한국 등 아시아 문화권을 비롯한 세계 각지의 고유 가치관들이 목소리를 잃고 있다. 이는 문화·인종 차별로 이어질 수 있는 문제다.”고 진단했어요.
또한, “최근 수년간 실리콘밸리를 휩쓴 ‘효과적 이타주의(effective altruism)’ 사상이 대표적이다. 이는 다수의 이익을 위해 소수를 희생해도 된다는 전체주의적 성향이 강한 사상으로, 이미 많은 부작용을 낳고 있다.”며, “지금의 AI가 소수 집단을 차별하는 현상이 일어나는 것도 사람 같은 상식적 가치 판단을 내리지 못하기 때문이며, 윤리적 학습이 안 된 AI는 긴박한 순간에 사람을 해치거나 방해하는 오작동을 일으킬 위험이 크다.”고 말했어요. 더 큰 선(善)을 위해 작은 악(惡)을 행해도 된다고 판단하는 AI는 인류에 큰 위협이 될 거예요. 편견 없는 AI 솔루션을 구축하기 위해 다양성과 포용성이 필요한 이유가 여기에 있어요.(출처: https://www.chosun.com/economy/tech_it/2024/01/02/734OD6WEIZERFI3OARG55LQZHI/)
AI의 윤리적 활용을 위한 다양성&포용성
유네스코는 AI의 윤리적인 기술 발전과 실행을 위해 지난 2021년 193개 회원국 만장일치로 첫 국제 표준인 ‘AI 윤리 권고’를 채택했어요. 이는 세계 인권 선언, 직업·인종 차별 금지 등을 감안해 AI 알고리즘을 짜라는 권고였어요. 생성형 AI를 긍정적으로 활용하기 위해서는 정부, 기업, 이용자 모두가 노력해야 하는데, 특히 AI를 만드는 조직은 윤리적이고 책임감 있는 자세와 함께 다양성과 포용성을 갖춘 인력 구성이 필요해요. 상식적인 선에서 다양한 문화권의 미덕과 전통 등을 고루 포용할 줄 아는 AI를 만들어야 하니까요. AI도 결국은 인간이 만든 과학기술의 산물이기 때문에 개발자의 세계관과 가치관이 주입될 수밖에 없거든요.
AI 기술 개발과 관련한 윤리적 위험을 인식하고, 그에 대해 책임있는 노력을 견지하고 있는 대표적인 기업이 인텔이에요. 인텔의 AI 자문 위원회(Responsible AI Advisory Council)는 인권, 관리·감독, AI 활용이유, 보안, 안전 및 신뢰성, 개인정보보호, 형평성 및 포용성 등 6가지 핵심 영역에 대한 윤리적 영향 평가를 통해 제품 및 프로젝트에 대해 철저하게 검토하고 있어요. 이는 AI 프로젝트 내에 잠재된 윤리적 위험을 평가하고 이를 최대한 빨리 완화하기 위함이에요. 위원회 구성원들은 전체적인 일관성 및 규정 준수를 위해 AI 프로젝트 개발팀을 위한 교육 및 피드백도 지원하고 있어요.
AI 알고리즘의 편향성은 도구나 프로세스만으로는 해결할 수 없어요. 그래서 AI 기술은 다양한 배경과 의견, 경험을 가진 다수의 사람들을 필요로 해요. 인텔은 AI 실무자들과 각각의 기술이 공정하고 포괄적일 수 있도록 사회과학 연구 결과를 활용한 데이터, 문제 공식화나 모델링에서 편견이 발생할 가능성은 물론 현실 세계에서의 예상치 못한 위험 상황에도 대비하고 있어요. 또한, 모든 AI 교육 프로그램에 윤리 요소를 핵심으로 포함시키려고 해요. 학생들에게 AI 윤리 원칙을 이해시켜 더 책임있는 AI 솔루션을 유도하려는 의도죠. 이를 위해 인텔은 다양한 배경과 전문성을 가진 학생들을 보유한 지역 대학과도 적극 협력하고 있어요. AI 등 신기술의 영향을 받은 다양한 배경을 가진 사람들과의 지속적인 교류 방법도 모색하고 있고요.
인텔의 사례에서 볼 수 있듯이, 엔지니어는 AI 알고리즘을 설계 구현하는 과정에서 시스템 너머를 생각할 수 있어야 해요. 누구를 위한 기술인지, 누군가에게 의도하지 않는 문제를 일으킬 수 있을지에 대한 통찰이죠. 다양성과 포용성의 시각에서 AI 기술을 바라볼 때, 사람을 이롭게 하고 사회에 이바지할 수 있는 이상적인 AI 기술이 완성될 수 있을 거예요. 세상을 이롭게 하는 AI 만들기, 여러분도 동참해 주실 거죠? (끝)
