[210114] (차제연) 챗봇 ‘이루다’가 여실히 드러낸 차별의 구조, 차별금지법 제정이 시급하다 > 논평/성명

본문 바로가기


자료실

자료실 논평/성명

논평/성명

[210114] (차제연) 챗봇 ‘이루다’가 여실히 드러낸 차별의 구조, 차별금지법 제정이 시급하다

페이지 정보

작성자 여세연 작성일21-01-14 17:13 조회1,114회 댓글0건

본문

 
[논평] 챗봇 ‘이루다’가 여실히 드러낸 차별의 구조, 차별금지법 제정이 시급하다
 
지난 12월 23일 스캐터랩의 대화형 챗봇 ‘이루다’가 출시되었다. “인간과 자유롭게 대화할 수 있는 AI가 앞으로도 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바란다”는 개발사의 입장과는 달리 이루다는 성희롱, 혐오발언, 정보인권침해 등 온갖 문제들을 야기한 끝에 약 2주만에 운영이 중단되었다. 특히 여성, 성소수자, 장애인, 흑인 등 사회적 소수자에 대해 이루다가 편견과 혐오를 그대로 드러내는 모습은 사회적으로 충격을 안겨 줬다.  
 
이러한 이루다의 혐오발언은 이미 2016년 마이크로소프트의 챗봇 ‘테이’가 “대량학살을 지지한다" 등의 발언을 해서 16시간만에 퇴출된 사례 등을 통해 문제가 예상되었음에도,  소수자 관련 키워드를 금지어로 할지 정도만 고민한 개발사의 안이한 대처에 일차적인 원인이 있다. 그러나 여기서 보다 주목해야 할 것은 이루다가 드러낸 혐오가 인공지능이 독자적으로 만들어낸 것이 아니라 사용자들의 혐오와 편견을 그대로 학습한 결과물이라는 것이다. 따라서 아무리 고도화된 알고리즘을 만든다 해도 구조적으로 차별이 만연한 사회 속에서 인공지능이 머신러닝을 통해 기존의 차별적 구조를 학습하는한 이루다와 같은 사태는 계속해서 발생할 수밖에 없다. 그렇기에 이 사건은 단지 한 스타트업의 개발상 실수의 문제를 넘어 인공지능이라는 매개를 통해 이 사회 전반의 차별과 혐오의 구조가 여실히 드러난 사건이며, 그에 대한 사회, 윤리, 법적 대안이 총체적으로 논의되어야 한다. 
 
이와 관련하여 정부는 지난 12월 ‘국가 인공지능 윤리 기준’을 발표했다. 그러나 해당기준에는 “모든 인공지능은 ‘인간성을 위한 인공지능(AI for Humanity)’을 지향하고 사회적 불평등 해소에 기여해야 한다”는 미사여구만이 담겨있을 뿐 구체적인 규범이 전혀 제시되고 있지 않다. 만일 정부가 정말로 인간의 존엄성과 평등을 지향하는 인공지능을 구현하고자 한다면 선언적인 기준을 내세우기에 앞서 해야 할일은 분명하다. 바로 이 사회의 구조적인 혐오와 차별을 개선하기 위해 포괄적 차별금지법을 제정하는 것이다. 지난 2020년 11월 유엔 인종차별철폐위원회 역시 인공지능, 빅데이터 등을 활용한 인종 프로파일링의 위험성을 경고하며 가장 일차적인 대안으로 포괄적 차별금지법 제정을 권고한 것을 정부는 새겨들어야 한다. 
           
“이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI입니다. 배워야 할 점이 아직 많습니다” 개발사 스캐터랩은 지난 11일 입장문에서 위와 같이 이야기했다. 그러나 교습자인 우리 사람들이 차별이 무엇이고 왜 문제인지를 확실히 알지 못한다면 인공지능의 학습 역시 제대로 이루어지지 않을 것이다. 그리고 차별금지법 제정이야말로 바로 시민들 모두가 구조적 차별의 문제를 이해하고 평등을 위한 방안들을 논의하게 하는 계기가 될 것이다. 그렇기에 이번 이루다 사태를 바라보며 우리는 다시 한번 정부와 국회에 요구한다. 지금 즉시 포괄적 차별금지법을 제정하라
 
2021. 1. 14.
차별금지법제정연대
 

댓글목록

등록된 댓글이 없습니다.

Total 464건 9 페이지
논평/성명 목록
no image [210218] (기자회견) "박원순 사건 2차 가해 앞장 선 전 서울시… 인기글

"박원순 사건 2차 가해 앞장 선 전 서울시 비서실장 오성규 경기테크노파크 원장 임명 반대 기자회견 -이재명 도지사님, 오성규 원장 최종 승인 결재서류에 서명하지 마십시오"    …

날짜 : 02-26     조회수 : 1047
no image [210215] (기자회견) 우상호는 박원순 성폭력 피해자에게 진심으로 … 인기글

우상호는 박원순 성폭력 피해자에게 진심으로 사죄하고 서울시장 후보 사퇴하라!     설 연휴 하루 전인 지난 10일, 우상호 더불어민주당 서울시장 예비후보(이하 우 후보)는 “박원…

날짜 : 02-16     조회수 : 1019
no image [210210] (연대성명)다양한 가족을 포괄하는 가족정책이 필요한 때이… 인기글

다양한 가족을 포괄하는 가족정책이 필요한 때이다.  국회는 건강가정기본법 전면개정에 앞장서라!   2004년 제정된 건강가정기본법은 가족을 사적 영역이 아닌 공적 영역으로 인식하면서, 요보호가족의 지…

날짜 : 02-15     조회수 : 1068
[210127] (성명) 성평등에 역행하는 조수진 의원의 발언을 규탄한다 인기글

  수준 낮은 정치인을 더 이상 보고 싶지 않다  성평등에 역행하는 조수진 의원의 발언을 규탄한다    국민의힘 조수진 의원이 1월 26일 본인 SNS 계정을 통해 더불…

날짜 : 01-27     조회수 : 1132
[210125] (성명) '남성' 정치인의 자격을 묻다… 인기글

  ‘남성’ 정치인의 자격을 묻다  ‘정치에서의 여성에 대한 폭력 방지법’ 제정이 필요하다  1월 25일, 정의당 젠더인권본부(본부장: …

날짜 : 01-25     조회수 : 1238
[210114] (차제연) 챗봇 ‘이루다’가 여실히 드러낸 차별의 구조,… 인기글

  [논평] 챗봇 ‘이루다’가 여실히 드러낸 차별의 구조, 차별금지법 제정이 시급하다   지난 12월 23일 스캐터랩의 대화형 챗봇 ‘이루다&rsq…

날짜 : 01-14     조회수 : 1115
[201224] (연대성명)문재인 대통령도 인정한 평등법 제정의 필요성,… 인기글

    문재인 대통령도 인정한 평등법 제정의 필요성, 더불어민주당은 온전한 평등법 조속히 제정하라   12월 23일 국가인권위원회의 대통령 특별보고에서 문재인 대통령은 코로나1…

날짜 : 12-24     조회수 : 1081
[201214] (논평) 정당의 공적 책임은 망각하고 정당의 자유만 외치… 인기글

    정당의 공적 책임은 망각하고 정당의 자유만 외치는 정당들에게 여성시민의 미래를 맡길 수 없다 공직선거법 및 정치자금법 개정에 부쳐   더불어민주당과 국민의힘…

날짜 : 12-14     조회수 : 1067
[201211] (입장문) 서울시 성차별‧성희롱 근절 특별대책위원회 근절… 인기글

    서울시 성차별‧성희롱 근절 특별대책위원회 근절대책에 대한  서울시장 위력성폭력사건 공동행동의 입장       1. 기존 문제…

날짜 : 12-11     조회수 : 1124
no image [201210] (연대성명) ‘술접대’가 아니라 여성에 대한 성착취 공범… 인기글

‘술접대’가 아니라 여성에 대한 성착취 공범이다 ‘김학의들’을 양산하는 검찰을 규탄한다   2020년 12월 8일 검찰은 김봉현 전 스타모빌리티 회장이 폭로한 현직 …

날짜 : 12-10     조회수 : 1027
[201209] (논평) 더불어민주당 김남국 의원님, 당신은 여성 정치인… 인기글

  더불어민주당 김남국 의원님,  당신은 여성 정치인에게 폭력을 행사한 것입니다    오늘(12월 9일) 정의당 정호진 수석대변인은 브리핑을 통해 더불어민주당 김남국 의…

날짜 : 12-09     조회수 : 1308
[201118] (성명) 2021년 재보궐선거, 후보 공천 논하기 전에 … 인기글

  대구시 달서구의회 성희롱 사건에 부쳐 2021년 재보궐선거, 후보 공천 논하기 전에 당내 성차별 구조부터 개혁하라   지난 11월 13일 대구 달서구의회 여성의원들은 성희롱을 한 국민…

날짜 : 11-18     조회수 : 1245
no image [201106] (연대성명) 국민들은 알고 있다. 학습이 필요한 것은 여… 인기글

[성명] 국민들은 알고 있다 학습이 필요한 것은 여성가족부 장관이다 학습하지 않은 것은 정부 여당이다 이정옥 여성가족부 장관은 11월 5일 국회 예산결산위원회 질의에서 지자체장의 성폭력으로 인해 열리는 부산시, 서울시…

날짜 : 11-18     조회수 : 1058
[201029] (논평)‘더불어민주당 재보궐선거 후보 공천을 위한 당헌개… 인기글

  ‘더불어민주당 재보궐선거 후보 공천을 위한 당헌개정 전당원투표 제안문’에 부쳐 틀렸습니다. 다시 해오세요.   “후보자를 내지 않는 것만이 책임 있는 …

날짜 : 10-29     조회수 : 1532
no image [201015] (기자회견) 서울시장 위력성폭력 사건 공동행동 출범 기자… 인기글

서울시장위력성폭력사건공동행동 출범 기자회견 "우리는 함께 한 걸음 더 나아간다"   ■ 일시 | 2020년 10월 15일(목) 오전 10시 - 11시 ■ 장소 | 서울시청 서울도서관 계단 …

날짜 : 10-15     조회수 : 1053
게시물 검색

(07263) 서울특별시 영등포구 영등포로19길 13 삼광빌딩 3층
Tel.02-824-7810 Fax.02-824-7867 e-mail.wopo@womanpower.or.kr
Copyright (c) womanpower. with 푸른아이티

국세청