【투데이신문 김효인 조유빈 기자】 IT 기술의 발달로 우리의 생활은 편리해졌다. 생산성 향상을 목적으로 개발된 기계나 장치는 산업 분야를 뛰어넘어 전 분야에 활용되고 있다. 스마트폰만 해도 이미 현대인들의 ‘필수 아이템’으로 자리 잡았다.

이처럼 이용자 편의성 향상 등 긍정적 영향을 주는 IT 기술은 정부에서도 유망 사업 중 하나로 주시하면서 적극 지원에 나서는 추세다.

하지만 선도적이라는 이미지를 가진 IT 업계에서도 젠더 차별에 관련한 이슈들이 끊임없이 이어지고 있다.

특히 개발자‧사용자를 통해 구축된 편향적 데이터를 학습한 인공지능(AI, Artificial Intelligence)의 윤리 문제가 대두되고 있다. 대표적인 사례로 성희롱·혐오 발언을 해 논란이 된 ‘이루다’ 사태가 꼽힌다.

또 음성 AI가 여성보다 남성의 말을 더 잘 인식한다거나 AI 비서가 통상 여성의 목소리로 설정된다는 점에서 잘못된 젠더 인식이 확산될 우려도 존재한다.

이밖에도 버추얼 인플루언서(Virtual influencer)의 대다수가 여성으로 설정돼 있거나 사이버 공간 속 캐릭터들이 성별에 따라 자세나 노출수위가 달라진다는 문제점들이 지적되기도 했다.

IT 기술은 빠르게 발전하고 있는데 비해 이에 걸맞는 도덕‧윤리 기반은 제대로 갖춰져 있지 않아 사회적 문제로까지 떠오르고 있다. IT 기술에 대한 의존도는 날이 갈수록 높아지고 있는 가운데 이러한 IT 기술이 성고정관념과 성차별은 더욱 강화하고 있는 아이러니한 상황이다.

男 이용자‧개발자 인식 반영돼 성 편견 배운 AI

통상 AI는 방대한 데이터를 기반으로 운용되기에 감정에 영향을 받지 않고 객관적이고 논리적인 평가를 할 것이라는 인식이 있다.

이로 인해 사회적 편견을 극복하고 공정한 판단으로 객관적인 결과를 도출해낼 것이라고 전망되기도 한다. 

실제로 외국에서는 변호사‧판사‧의사 등 다양한 사례와 객관적인 판단이 요구되는 전문 분야에 AI가 시범적으로 도입된 사례가 있다. 

그러나 AI가 다양한 사회 문제 해결에 기여할 것이라는 기대와는 달리 정작 활용 과정에서는 젠더 차별, 인종차별 등 공정성 훼손과 관련된 사회적 문제를 일으키는 부작용이 발생하고 있다는 지적이 제기된다.

그중에서도 인간의 성 편향된 사고를 그대로 학습한 AI ‘이루다’를 대표적인 사례로 꼽을 수 있다. 

지난 2020년 12월 말 국내 IT 스타트업 스캐터랩이 AI 챗봇(Chatbot, 메신저에서 일상 언어로 대화할 수 있는 채팅로봇 프로그램) ‘이루다’를 공개해 대중들의 관심을 끌었다. ‘20대 여대생’으로 설정된 이루다는 서비스가 시작되자마자 이용자 수가 32만명, 일일 사용자 수 21만명을 돌파할 만큼 큰 인기를 얻었다.

그러나 한 달도 채 되지 않아 이루다는 시장에서 퇴출되고 말았다. 이루다가 성희롱·혐오 발언을 해 논란이 됐기 때문이다. 이는 이루다가 ‘딥러닝’(Deep Learning, 컴퓨터가 스스로 외부 데이터를 분석해 학습하는 기술)을 통해 일부 사용자들에게 성희롱·차별·혐오 등에 대해 학습하게 된 것이 주요 원인으로 지목됐다.

이와 함께 젠더와 나이를 특정할 필요 없는 AI 챗봇이 굳이 20대 여성으로 설정된 점이 바람직해 보이지 않는다는 지적도 나왔다. 

이와 관련 스캐터랩 김종윤 대표는 자사 블로그에 게재한 입장문을 통해 “여대생 논란을 노린 바 없으며, 남자와 여자 버전 모두 고려했다”며 “개발 일정상 여자버전이 먼저 나온 것”이라고 해명했다.

하지만 이후 이루다를 둘러싼 개인정보 유출 논란도 함께 일면서 결국 서비스는 중단되고 말았다. 

음성 AI 목소리 ‘여성’인 이유…고객 선호‧상품화로 이어져

음성인식 기술의 발달과 함께 현재 다양한 분야에서 활용되고 있는 음성 AI에서도 젠더 차별 사례가 지적된다.

음성 AI가 여성보다 남성의 말을 더 잘 인식한다는 점과 AI 비서가 여성의 목소리로 기본 설정된 점 등 잘못된 성 편견을 심어줄 수 있다는 문제점이 지목됐다.

북미 계산언어학협회(NAACL) 타트만(Tatman) 박사의 음성 인식 속 인종‧성별 편견을 연구한 보고서에 따르면 구글 음성인식은 여성보다 남성의 목소리를 13%가량 더 정확하게 인식하는 것으로 나타났다. 또 자동차 웹사이트 오토블로그(Autoblog) 보도에 따르면 ‘2012 Ford Focus’를 구입한 여성은 자동차의 음성인식 소프트웨어가 자신의 음성은 인식하지 못하는 반면 남편의 말은 인식했다고 주장했다.

이와 관련해 한국과학기술젠더혁신센터는 지난 2020년 발간된 ’인공지능과 젠더‘ 연구보고서를 통해 “음성 AI의 인식 알고리즘이 남성 음성을 기준으로 한 데이터를 많이 사용했기 때문”이라고 짚었다. 해당 보고서에 따르면 음성과학자들은 TED 강연의 목소리를 많이 분석했다. TED의 강연자 70%는 남성이다. 이렇다보니 음성인식 소프트웨어는 기계학습의 모델링 과정 중 성대가 길고 낮은 음조에 맞춰지면서 상대적으로 남성보다 높은 음조를 가진 여성 음성을 덜 정확하게 인식하게 된 것이다.  

또 텔레마케팅, 자동응답, 내비게이션 등 음성 AI의 기본적인 성별이 여성이기에 비서, 고객 응대 서비스, 도우미 등이 여성이라는 성 역할 고정관념이 굳어질 수 있다는 우려도 제기됐다.

실제 대표적인 음성 AI 비서 구글의 ‘어시스턴트’, 애플의 ‘시리’, 삼성의 ‘빅스비’ 등은 출시 이후 젠더 이슈에 시달렸다.

지난 2019 제2차 성평등포럼의 ‘인공지능 음성인식장치와 포스트휴먼의 젠더화에 대한 비판적 검토’ 발표 보고서에 따르면 구글의 ‘어시스턴트’는 처음 출시(2016년) 때 여성의 목소리로 나왔다가 2017년 5월이 돼서야 남성의 목소리가 추가됐다. 애플 ‘시리’ 또한 노르웨이어로 ‘승리를 이끄는 아름다운 여성’이라는 의미가 담겨 기획 초기 단계부터 여성으로 설정됐다는 점을 알 수 있다. 

삼성 ‘빅스비’의 경우 출시 당시 목소리 성별은 선택 가능했으나, 음성 설명을 묘사한 해시태그(#)에 남성은 ‘적극적이고(assertive) 자신감 넘친다(confident)’, 여성은 ‘명랑하고(chipper) 쾌활하다(cheerful)’는 형용사를 써 지적을 받았다.

이처럼 기계 음성이 대부분 여성의 목소리로 설정된 점은 사회적으로 학습된 고정관념의 영향과도 무관하지 않다. 비서나 안내 서비스에서 여성의 목소리가 선호되는 배경을 살펴보면 해당 직종에 여성이 많이 종사한다는 관행과 그로 인한 학습된 편견이 한 요인일 수 있기 때문이다.

지난 2008년 인디애나대학교 칼 맥도먼(Karl MacDorman) 교수가 진행한 컴퓨터와 인간의 상호작용 연구에서 남성 참가자 151명과 여성 참가자 334명을 대상으로 컴퓨터가 합성한 남성과 여성의 목소리를 들려준 결과, 모든 참가자가 ‘여성의 목소리가 더 따뜻하다’고 답변했다.

실제 IT 업계 한 관계자는 “여성의 목소리가 더 잘 들리고, 친절하다고 느껴 고객들이 더 선호한다”고 설명했다. 이처럼 기업 스스로도 대중들의 여성의 목소리에 대한 선호도를 인지하고 있고, 이는 자연스레 상품화로 이어지는 모양새다.

‘제2차 성평등포럼’에서 조선대학교 이희은 신문방송학과 교수는 “기업의 ARS 음성이나 안내 서비스 목소리에 상냥한 여성이 주로 채택되는 배경은 철저히 문화적이고 사회적인 이유”라며 “현재의 기술 수준에서 인공지능이 수행할 수 있는 일이라는 것이 전통적으로 여성의 영역으로만 여겨졌던 편향된 사고와 맥락 때문”이라고 지적했다.

이런 문제점을 의식한 탓인지 최근 젠더 감수성을 둘러싼 업계 차원의 변화도 감지되고 있다.

특정 성별이 정해져 있지 않는 젠더리스, 혹은 젠더 중립적인 목소리가 제작된 것이 그 대표적인 사례다. 지난 2019년 북유럽 IT 기업 ‘버추 노르딕’과 덴마크 인권단체 ‘코펜하겐 프라이드’는 최초로 성별이 없는 젠더리스 음성 AI ‘Q’를 개발했다. 남성과 여성 뿐만 아니라 트렌스젠더, 젠더퀴어 등 여러 성별의 음성을 합친 Q는 어느 한쪽 성에 치우치지 않은 목소리를 갖는다. 

구글 또한 젠더 감수성을 고려한 행보에 나섰다. 기존까지는 구글 AI 툴이 사람 이미지에 ‘남성’ 또는 ‘여성’과 같은 성별 관련 라벨을 표기했다. 그러나 2020년부터는 더 이상 외모만으로 젠더 정보를 추론하기 어렵다는 판단에서 단순히 이미지를 통한 성별 구분은 사라지게 됐다.

‘핫’한 가상 인간은 여성뿐?…SNS 홍보에 유리

가상 인물 중 사회적 영향력을 가진 버추얼 인플루언서도 젠더 논란이 끊이지 않고 있다. 

국내 첫 버추얼 인플루언서인 ‘오로지(Rozy, 이하 로지)’를 비롯해 ‘여리지’‧‘은하’‧‘루시’‧‘수아’‧‘유아’‧‘래아’‧‘리나’‧‘마리’‧‘샘’ 등 여성 가상인간 10명이 모두 20대 여성으로 설정돼 있다는 점에서다. 이에 일각에서는 성상품화를 강화시킬 수 있다는 지적이 제기됐다. 

물론 남성 모델도 없지 않다. 가상 패션 모델인 ‘류이드’를 비롯해 ‘우주’, ‘질주’, ‘테오’, ‘선우’, ‘노아’ 등은 모두 남성형 가상인간이다. 그러나 그 성비는 10대 6으로, 존재감과 영향력 모두 여성형 가상인간 쪽에 편향돼 있는 모습을 확인할 수 있다. 

단순히 수만 차이 나는 것이 아니라 실제 인기 또한 여성형 가상인간에 치우쳐 있다. 여성 버추얼 인플루언서 1세대이자 신한라이프 광고에 등장해 대중들의 관심을 받았던 오로지의 인스타그램 팔로워 수는 14만명이 넘는 반면, 남성 버추얼 인플루언서 중 가장 인기를 끌고 있는 테오의 팔로워 수는 1만명에 그친다는 점을 확인할 수 있다. 

또 지난해 11월 열린 ‘NFT Busan 2021’ 옥션에서 여성 가상인간의 사진과 영상이 남성 가상인간보다 고가에 거래됐다는 점도 이를 뒷받침한다. 여성 가상인간 마리의 NFT 이미지는 최고가 400만원에 낙찰됐지만 남성 가상인간 선우와 노아의 최종 낙찰가는 각각 250만원과 65만원이었다. 

그렇다면 왜 여성 가상인간이 사회적으로 더 주목 받는 것일까. 이는 광고의 ‘3B법칙’과 관련이 있는 것으로 분석된다. 3B법칙은 미녀(Beauty)‧아이(Baby)‧동물(Beast) 등이 등장하면 성공할 수 있다는 광고업계의 전략이다. 미녀의 기준이 획일적이지는 않지만 통상 한국의 가상인간은 20대 여성으로, MZ세대들이 선호하는 매력적인 얼굴과 마른 몸을 갖고 있다. 이렇다 보니 해당 전략이 여성 가상인간에게도 적용된다는 해석이 나온다.

이와 관련 동아대학교 기초교양대학 임소연 교수는 “가상 모델로 20대 여성을 선호하는 것은 기술이 발전되면서 나온 새로운 문제가 아닌 기존에 있었던 문제들이다”라며 “젊은 여성들의 상품화가 여전히 이어져 그대로 반영된 것”이라고 말했다. 

이어 임 교수는 “여성에 대한 고정관념이 강화될 수 있다”며 “여전히 여성들의 상품화가 너무 자연스럽게 받아들여지고 있는 것 아닌지 생각해봐야 한다”고 지적했다.

가상공간 캐릭터마저 ‘남자는 당당, 여자는 조신’

가상공간 속 젠더 차별은 이미 수십년 전부터 뿌리 깊게 자리잡아 왔다. 온라인에서 개인을 대신하는 캐릭터인 아바타가 성별 편견을 강화했다는 지적은 끊이지 않고 있다. 

지난 2006년 한국여성민우회 여성노동센터 여성주의인권위원회는 싸이월드의 ‘미니미’와 다음·핫메일의 아바타 캐릭터에서 성차별적인 요소가 있다고 지적한 바 있다.

조사 결과 남성 기본형 캐릭터의 팔과 다리는 모두 정면을 향해 있는 반면 여성 기본형 캐릭터의 발 모양은 발을 모으고 무릎 이하가 안으로 굽어져 있는 것으로 확인됐다. 얼굴 표정 또한 여성 캐릭터에게는 볼터치나 눈물이 제공됐지만 남성 아바타에는 짙은 눈썹이나 다양한 분노의 표정 등이 주어졌다. 의상에서도 여성 캐릭터에게는 바지 대신 치마를 제공하고 몸매를 강조하는 의상을 제공하는 등 성별에 따른 차이점이 보였다. 

전반적으로 당당하고 여유있는 느낌을 부여하는 남성 기본형 아바타와 달리 여성 아바타에는 마치 귀엽거나 조신한 이미지를 부여해 사용자의 선택의 폭을 제한할 뿐만아니라 환경에 따라 이성애적인 성별화 규범에 맞출 것을 요구하고 있었다.

그렇다면 20여년이 지난 현재의 사이버 공간은 어떨까. 올 4월부터 재오픈한 싸이월드에서도 기본형 미니미의 자세와 캐릭터는 여전히 바뀌지 않았다. 

수십년이 지나도 여전히 개선되지 않는 젠더 인식 문제의 배경으로 콘텐츠를 제공하는 기업과 제작자의 무관심이 지목됐다.

한국여성민우회 관계자는 “성별화된 사이버공간을 평등하게 재구성하는 데는 사용자들의 책임도 있지만, 컨텐츠를 제공하는 기업과 제작자의 책임이 큰데 세심한 배려가 부족한 것으로 보인다”고 진단했다.

이 관계자는 “IT 기술이 발달한 가운데서도 현실 속에서 여전히 해결되지 못한 젠더 문제가 발견되고 있는 만큼 이용자들의 자유로운 개성이 발현될 수 있도록 성별 이분법에 기반한 현재의 사이버 공간을 함께 수정해 나가기 위한 방법을 고민해 볼 때”라고 말했다.

게임 속 캐릭터에서도 성별 편차는 여실히 드러난다. 전사답게 강한 모습이 강조된 남성 캐릭터와 달리 여성 캐릭터는 과도한 신체 노출로 불쾌감을 주고 있다. 남성 플레이어들의 선호에 맞춘 것이라지만 이 또한 편향된 젠더 의식을 제공할 우려가 있다.

지난 2016년 녹색소비자연대 전국협의회 ICT 소비자정책연구원은 넥슨의 온라인 1인칭 슈팅 게임인 ‘서든어택2’의 과도한 성적 노출과 성 마케팅에 대해 유감을 표했다. 최근에는 국내 게임  ‘블루아카이브’가 미성년자 여성 캐릭터에 대한 성 상품화 논란으로 인해 게임물관리위원회에게 청소년 이용 불가로 재분류 권고를 받기도 했다. 

RPG게임을 즐겨하는 여성인 최모(28)씨는 “여성 캐릭터에 대한 복장과 포즈에 선정적인 것이 많으면 아무래도 거북하다”며 “굳이 선정적이지 않아도 얼마든지 게임을 즐길 수 있기 때문에 불필요하게 노출을 과다하지 않았으면 좋겠다”고 강조했다.

이와 관련 한국다양성연구소 김지학 소장은 “여성 캐릭터들의 신체 묘사와 선정적인 의상은 게임 전투와 스토리에 관련이 없는 것들로 성차별적인 묘사”라며 “여성 캐릭터를 성적으로만 소비하고 있는 것에 대한 문제 제기가 지속적인 가운데, 이런 요소 없이도 게임이 성공한 사례는 많다”고 설명했다.

이어 “현재 IT업계나 게임 업계 종사자들 중 남성이 훨씬 더 많다는 인식이 있지만, 최근 여성 게이머들이 늘면서 해당 문제가 제기되고 있는 만큼 안일하게 멈춰도 무방한 시기는 지났다”고 강조했다.

젠더 편향 끊이지 않는 IT 산업…근본 원인은 ‘성비 불균형’

이처럼 IT 산업에서 끊이지 않고 젠더 편향성과 성차별 문제가 불거지는 이유는 무엇일까.  

IT 업계 젠더 편향은 곧 종사자의 성별 비중 편향에서 기인된 것으로도 볼 수 있다. 업계에 종사하는 사람이 대부분 남성인 만큼 남성의 시각에서 개발이 이뤄지고 있기 때문이다. 그만큼 여성의 의견이 적게 반영된다는 문제점이 한 원인으로 지목된다. 이로 인해 업계의 성비 불균형 해소를 우선으로 다양성 확보가 필요하다는 목소리가 나오고 있다.

여성가족부(이하 여가부)에서도 지난 8월 개최된 국무회의를 통해 ‘2021년 성별영향평가 종합분석 결과’를 발표하는 자리에서 관련 부처에게 AI 산업 인력에 대한 성별 현황을 관리하고, 성별 균형 참여를 확대해야 한다고 밝혔다.

여가부에 따르면 AI 사업 추진 기업의 소프트웨어 전문인력과 대표자의 여성비율은 각각 19.1%, 3.1%였다. 이에 여가부는 참여 인력의 성별 다양성도 부족해 개선이 필요한 상황이라고 지적했다.

또 여가부에서는 AI 학습용 데이터 기획·구축 과정에서 성별 등 다양성을 반영하는 한편 산업계와 학계 등 주체별로 구체적인 윤리 기준을 마련해야 한다고 과학기술정보통신부와 교육부에 권고하기도 했다.

이와 관련 여가부 김경선 차관은 “AI 분야 등 국민 실생활에 영향을 미치는 정책들이 양성 평등하게 운영되도록 하는 것이 중요하다”고 말했다.

IT여성기업인협회 박수산나 경영지원부장도 “여학생의 이공계 지원과 여성 연구원의 수는 증가하고 있지만 정보통신기술(ICT) 분야 여성 리더는 부족한 상황”이라며 “경력단절 여성 과학기술인에게 교육과 경력 설계 등을 지원하고 정보통신기술 분야에서의 여성 리더 역할을 제대로 부각할 필요가 있다”고 강조했다.

결국 IT 기술이 이용자와 개발자의 관점에 따라 사용방식과 해석이 달라질 수 있기 때문에 대중들의 지적과 관심이 성평등으로 나아가는 방향성을 잡는 계기가 될 수 있다.

한국과학기술젠더혁신센터 이혜숙 소장은 “여성이 도움을 준다고 해서 함부로 대하는 사람이 있는 한편 고마운 존재로 인식하는 사람도 있을 수 있다. 이 같은 이슈는 사용자 혹은 개발자가 어떤 관점이냐에 따라 해석이 달라질 수 있다”며 “다만 이러한 지적이 있기 때문에 기업과 사회에서도 한쪽 성으로 편향되지 않을 수 있다. 성별과 인종에 대해 고려하는 등 다양성이 중요하다고 본다”고 설명했다.

익명을 요구한 IT 업계 종사자 또한 “AI 등 IT 기술은 하나의 도구일 뿐 개발자와 이용자가 데이터를 어떻게 해석하냐에 따라 그 결과가 달라지다 보니 현실적으로 어쩔 수 없는 상황”이라며 “다만 최근에는 젠더 인식 등과 관련된 문제에 대해서 업계 내부에서도 좋은 방향으로 나아가고자 노력하고 있다”고 말했다. 

이처럼 정부 부처와 전문가, 업계 관계자 등은 공통적으로 IT 업계에 만연한 젠더 차별에 대한 문제를 지적했다. 결국 성차별을 유발하는 편향적 사고를 해소하기 위해서는 상대적으로 부족한 여성의 참여도를 높이는 등 다양한 측면의 의견 수렴이 필요하다는 방안이 제시되고 있다.

※ 본 기획물은 정부광고 수수료로 조성된 언론진흥기금의 지원을 받았습니다.