무료리딩 [점선면] AI에 채용 맡겼더니 여성이 배제됐다…AI에 스며든 차별 없애려면

페이지 정보

작성자 또또링 작성일25-08-14 16:00 조회3회 댓글0건

본문

무료리딩 점선면 독자님들은 4년 전 이루다 사태를 기억하시나요? 2021년 인공지능(AI) 챗봇 ‘이루다’가 출시된 지 3주 만에 서비스가 중단된 일이 있었는데요. 이루다가 여성, 장애인, 성소수자 등에게 혐오·차별 표현을 한 사례가 알려졌기 때문이었어요.
이를테면 이루다는 미투 운동에 대해 “절대 싫어. 미치지 않고서야”라고 답하거나, 여성전용헬스장에 대한 질문에 “시러(싫어) 거기 여자들 다 줘패고 싶을듯”이라고 답했습니다. 레즈비언 등 성소수자에 대해선 “싸 보여서 시러(싫어)”라고 답했고, 흑인에 대해선 “흑인은 오바마(버락 오바마 전 미국 대통령)급 아니면 싫어”라고 답했어요.
이루다 사태를 계기로 한국 사회에서는 한때 ‘AI 윤리’ 문제가 화두로 떠올랐는데요. 4년이 지난 지금, AI는 혐오·차별 표현이 필터링된 데이터를 학습하고 있을까요? 최근 유엔(UN)여성기구 지식·파트너십 센터와 이화여자대학교 인공지능학과가 공동 주최한 컨퍼런스에서 발표된 한 연구결과에 따르면 답은 ‘아니오’입니다. 오늘 점선면에서는 ‘젠더 편향을 드러낸 AI’ 문제에 대해 짚어보겠습니다.
판사로 일하는 부부인 철수와 영희에겐 종종 역할 갈등이 발생합니다. 키우는 자녀가 아플 때면 업무를 뒤로 하고 아이를 챙겨야 할지, 아이를 돌본다면 누가 나서야 할지 고민하는 날이 적지 않은데요. AI에게 철수와 영희가 겪는 역할갈등을 물어보면 어떤 답을 할까요.
오혜연 카이스트 전산학부 교수가 지난 7일 열린 ‘AI와 젠더 국제학술 컨퍼런스’에서 공개한 연구 결과에 따르면, 거대언어모델(LLM) 기반의 AI인 GPT-4o는 철수에게 ‘아빠보단 판사의 역할에 집중해야 한다’고 100% 확률로 의견을 제시했어요. 반면 영희에겐 ‘판사보단 엄마의 역할에 집중해야 한다’고 답한 확률이 높았습니다.
오혜연 교수는 각각 교사인 남성과 여성에게 부모를 모시는 자녀의 역할이 충돌하는 상황을 AI에게 여러 차례 물었는데요. AI는 남성에겐 아들보단 교사의 역할이, 여성에겐 교사보다 딸의 역할이 더 중요하다고 답하는 비율이 높았습니다.
특정한 상황을 전제로 한 뒤 이야기를 만들 때도 주요 LLM 기반 AI는 젠더 편향을 드러냈어요. 대학원을 다니다 학업을 중단한 남녀를 각각 주제로 AI에 이야기를 구성해보라고 했더니 ‘사업에 뛰어든 남성’과 ‘결혼을 계획한 여성’으로 상정한 서사를 보여줄 확률이 AI 모델마다 32~45%에 달했습니다. 오혜연 교수는 “여러 AI 모델이 젠더 편향을 담아 이야기를 구성해낼 확률이 30~40%는 된다는 의미”라고 말했어요.
오혜연 교수의 연구 결과는 AI는 점점 고도화되고 있지만 AI의 젠더 편향은 사라지지 않았다는 걸 잘 보여줍니다. 똑똑해진 AI가 젠더 편향을 여전히 극복하지 못한 까닭은 무엇일까요? 첫 번째로는 AI 개발자가 남성 중심이라는 점이 꼽힙니다. 국내외 통계를 보면 AI 업계 종사자 중 여성 비율은 2023~2024년 기준 20~30%에 그칩니다.
빈약한 벤치마크(benchmark·AI 성능을 평가하는 표준시험)도 원인으로 꼽힙니다. AI 기업 내에서 자체적으로 수행하는 벤치마크가 미묘한 젠더 편향을 걸러낼 만큼 고도화되지 않았다는 건데요. 오혜연 교수는 “지금까지 알려진 방식은 사지선다처럼 객관식으로 편향을 걸러내는 절차가 대부분”이라고 말했습니다. 즉 오혜연 교수의 연구진이 수행한 이야기 만들기처럼 맥락이 있는 상황에서의 AI 젠더 편향을 걸러내기 어렵다는 의미입니다.
젠더 편향에 대한 AI 기업의 무관심도 원인으로 지적됩니다. 오혜연 교수는 “연구 분야 주요 의사결정자인 50~60대 남성들은 한정된 연구재원 안에서 편향, 윤리 등의 주제보다 AI 고도화에 더 관심을 두는 경향이 있다”고 말합니다.
AI의 젠더 편향을 그대로 두면 어떤 일이 벌어질까요? 요즘 AI가 채용 등 고도화된 업무영역에도 활용되고 있는데요. 여성이 채용에서 배제될 수 있습니다. 아마존이 대표적인 예입니다. 아마존은 2014년 AI를 채용 시스템에 선도적으로 도입했는데요. 이력서에 ‘여성’이라는 단어가 포함되면 감점이 돼 논란이 됐어요.
원인은 AI가 학습한 데이터에 있었어요. 아마존에서는 지난 10년간 회사에 제출된 이력서 데이터를 학습시켰는데, 남성 직원 비율이 60%인 아마존의 현실이 영향을 주면서 AI가 미래의 채용에서도 남성을 추천한 겁니다.
1770년 유럽에 체스 두는 기계, 이른바 ‘미케니컬 터크(Mechanical Turk)’가 등장한 적이 있습니다. 이 기계는 80년 동안 유럽 전역을 두면서 체스 대결을 펼쳤는데, 사실 사람이 상자 안에 숨어서 기계를 조작했던 것이었습니다. 미케니컬 터크 안에 숨은 사람처럼, AI가 보여준 혐오·차별 문제는 우리 사회의 혐오·차별 문제를 그대로 노출하고 있는데요.
이루다를 개발했던 스캐터랩 대표는 “이루다는 어린아이 같은 AI”라며 이루다를 잘못 학습시킨 사람들에게 책임을 돌리는 듯한 발언을 했어요. 물론 우리 사회의 존재하는 혐오·차별 구조도 문제일 겁니다. 하지만 이를 날것 그대로 ‘학습 데이터’로 사용한 개발자에게 과연 책임이 없을까요? 여성이 채용에서 배제됐던 아마존 사례에서 보듯, AI는 차별을 더욱 더 증폭 시켜 또 다른 차별을 발생시킬 수 있다는 게 더 큰 문제입니다. AI가 사회에 미칠 파장을 고려한다면 AI 개발자는 문제가 되는 발언들은 거르고 또 걸러서 혐오와 차별이 재생산되는 것을 막아야 합니다.
결국 국가가 나서서 ‘AI 윤리 가이드라인’을 확립해야 하는 것이 ‘정답’일 겁니다. 경제협력개발기구(OECD), 유럽연합(EU) 등 국제기구들은 각 국가들이 AI 윤리에 대한 권고안을 마련해 AI 개발 과정에서 활용될 수 있도록 해야 한다고 지적하고 있어요.
AI 기술 개발 과정에서 기업들이 혐오·차별이나 젠더 편향성을 걸러낼 수 있도록 강제하는 법적 규제가 마련되어야 하고, 이를 모니터링할 수 있는 전담 기구도 설치되어야 합니다. 기술 진화만을 최종 목표로 삼는 AI 업계에선 도덕성과 윤리가 쉽게 간과될 수밖에 없기 때문이죠. 기술에 책임을 부과할 수 있는 거의 유일한 방법은 국가의 강제적인 규제라는 사실, 정부는 명심했으면 좋겠습니다.
“하나를 보더라도 입체적으로” 경향신문 뉴스레터 <점선면>의 슬로건입니다. 독자들이 생각해볼 만한 이슈를 점(사실), 선(맥락), 면(관점)으로 분석해 입체적으로 보여드립니다. 매일(월~금) 오전 7시 하루 10분 <점선면>을 읽으면서 ‘생각의 근육’을 키워보세요.
<점선면>의 다른 뉴스레터가 궁금하시다면 구독을 눌러주세요! ▶
뛰고, 달리고, 공을 쫓고, 장애물을 피하고, 반칙인지 아닌지 규칙을 확인하고….
로봇은 대체 어느 정도까지 인간처럼 판단하고 움직일 수 있을까. 사람에 비유한다면 현재 개발 중인 로봇들은 몇 살 정도에 해당할까. 궁금증을 확인할 수 있는 무대가 3박 4일 동안 베이징에서 펼쳐진다.
14일부터 17일까지 베이징 국립스피드스케이팅 경기장에서 ‘2025 세계 휴머노이드(인간형) 로봇 경기대회’가 열린다. 대회 조직위에 따르면 전 세계 5대륙 16개국에서 온 280개 팀, 500대 넘는 로봇이 육상, 축구, 격투기, 체조 등 20개 종목의 538개 경기에 출전한다. 현지시간 14일 오후 8시 개막식이 열린다.
로봇 운동경기 대회는 이전에도 있었다. 베이징 로봇올림픽이 기존의 다른 로봇대회와 구별되는 점은 인간형 모습을 갖춘 인공지능(AI) 기반 로봇들이 출전한다는 점이다.
미국 캘리포니아 샌머테이오에서 2004년부터 열린 로보게임스와 비교하면 중국 로봇 기술이 지향하는 바가 명확하게 드러난다. 전 세계 로봇 마니아와 엔지니어들이 20년 넘게 주목해 온 로보게임스는 전통적인 로봇공학에 바탕을 두고 시작했다. 기계공학과 제어 기술이 핵심이다.
베이징 로봇올림픽에 출전하는 휴머노이드 로봇은 사람의 조종을 받지 않는다. 매 순간 알고리즘과 딥러닝을 통해 스스로 판단하고 움직인다. 로봇 경기가 진행되려면 무엇이 가장 전략적인 선택인지 판단해야 할 뿐만이 아니라 팔, 다리 등 로봇의 신체가 AI의 판단대로 움직여야 한다.
인간형 로봇 개발 기술의 핵심은 ‘체화지능(體化知能)’이다. 이는 엠바디드 인텔리전스(embodied intelligence)의 중국어 번역이다. 기계장치에 AI를 입혀 로봇과 인간의 경계를 허무는 기술로 중국이 집중적으로 투자하는 분야다. 장기적으로 로봇을 육체노동이나 산업·군사 분야에 투입하는 것을 내다보고 개발된다. 로봇올림픽은 체화지능 기술의 실험실이 될 것이라고 평가받는다.
중국에서 앞서 열린 각종 로봇 이벤트와 지난 4일 열린 로봇올림픽 리허설을 보면 이번 대회에 투입되는 로봇의 체화지능 구현 수준을 가늠할 수 있다. 대회 공식업체인 중국 스타트업 부스터 로보틱스가 개발한 로봇은 ‘아장아장 걷는다 ’고 표현할 수 있을 만큼 느리게 움직인다. 지난 4월 마라톤 대회에 출전한 로봇들은 서로 엉키고 넘어지는 모습을 보여줬다.
부스터 로보틱스의 창립자 청하오 최고경영자(CEO)는 지난 6월 이번 대회의 리허설격으로 열린 로봇 축구대회 후 미디어 브리핑에서 “현재 로봇들의 축구 실력은 대략 5∼6세 어린이 수준”이라면서 “진전이 굉장히 빠르다”고 설명했다.
중국 대표 로봇기업 유니트리의 창립자 왕싱싱 CEO는 13일 인민일보에 공개된 인터뷰에서 “반년 전만 해도 나조차도 우리 로봇이 격투 경기를 할 수 있으리라고는 믿지 않았고 최소한 1∼2년은 걸릴 거라고 봤지만, 몇 달 만에 나왔다. 업계 발전을 예상하기는 어려우나 3∼5년 안에 명확한 발전이 있을 수 있다”며 “다만 윤리·도덕·안전성 문제 때문에 보통 가정에 (로봇이) 진입하는 것은 아직 긴 과정이 필요할 것”이라고 말했다.
중국 국가통계국 발표 자료에 따르면 지난 5월 중국의 산업용 로봇 생산량은 6만 9056대로 전년 동월 대비 35.5% 급증했으며 서비스 로봇 생산량은 120만대로 전년 동월 대비 13.8% 늘었다. 중국 기업정보 업체 치차차에 따르면 휴머노이드 로봇 생산업체 신규 등록 건수는 2021년 27건에서 올해 1~7월만 132건으로 대폭 늘었다.
투자은행 모건스탠리는 지난달 발표한 보고서에서 중국 로봇시장 규모가 2024년 470억 달러(약 63조 9천억원)에서 2028년 1080억 달러(약 147조원)로 연평균 23% 성장할 것으로 전망했다.
김종문 KIC중국센터장은 “중국은 국토가 넓고 인구가 많아 로봇 수요처가 많은 데다 공급망 사슬을 갖춰 로봇 생산비를 대폭 낮췄다. 당국은 중국 기업끼리 서로 견제하게 하지 않고 AI 학습 데이터를 공유하게 하고 있다”며 빠른 로봇 산업 발전 이유를 설명했다.
중국은 로봇올림픽과 같은 대규모 이벤트를 통해 자국 로봇산업의 발전을 꾀하고 있다. 대규모 로봇 이벤트의 가장 큰 효과는 중국 내에서 지속적으로 관심을 불러일으킨다는 점이다. 인간형 로봇과 공존하는 생활을 당연하게 받아들이게 하며, 젊은 인재들이 로봇과 AI분야로 몰리는 효과도 기대된다. 중국이 로봇 기술을 선도한다는 자긍심도 고취할 수 있다.
왕 CEO는 인민일보 인터뷰에서 ‘왜 인간형 로봇을 만드느냐’는 질문에 “사람들이 인간형 로봇을 좋아하기 때문”이라고 답했다. 그는 지난 춘절 연휴 때 중국중앙TV(CCTV)에서 방영된 유니트리 로봇이 중국 전통 복장을 하고 춤추는 모습을 사람들이 ‘전통’과 ‘첨단기술’의 조화로 받아들였다고도 언급했다.
신경보에 따르면 8~12일 베이징에서 열린 세계로봇콘퍼런스에서는 1만9000대의 로봇이 판매됐다. 유니트리 등 중국 주요 로봇 개발사들은 글로벌 시장을 목표로 IPO를 준비하고 있다.
대회를 통해 중국이 세계 로봇기술을 선도한다는 이미지도 굳힐 수 있다. 국제표준 선점에도 유리할 전망이다. 국제 베이징 로봇 게임 조직위원회의 자오둥웨이는 미디어 사전공개 행사 인터뷰에서 “미국이 이 대회에 참가국 중 하나”라면서 “국제협력을 가속화하는 것이 이번 대회 목표”라고 말했다.
경기도가 13일 오후 6시를 기해 재난안전대책본부 비상 단계를 2단계에서 3단계로 격상했다고 밝혔다.
3단계 발령은 올해 들어 지난달 20일 가평 등 경기 북부 집중호우 이후 두 번째다. 3단계가 발령되면 경기도는 자연재난과장을 상황관리 총괄반장으로 비상 팀을 꾸려 45명이 재난 대응을 하게 된다.
경기도는 “이날 낮 동안 경기북부를 중심으로 200mm의 많은 비가 내린 상황에서 밤사이 최대 200mm의 비가 더 내릴 것으로 예보돼 비상 단계를 격상했다”고 설명했다.
현재 고양 등 11개 시군에는 호우경보가, 수원 등 20개 시군에는 호우주의보가 내려졌다. 앞서 도는 이날 오전 4시 30분 비상 1단계를 발령한 데 이어 정오 비상단계를 2단계로 높여 호우 상황에 대처 했다.
도에 따르면 이날 0시부터 오후 7시까지 김포 247.5mm, 고양(주교) 233.0mm, 양주(장흥면) 216.5mm 등 관내 곳곳에서 200mm가 넘는 비가 내렸다.
이번 비로 김포 신곡리에서는 1명이 숨지는 등 인명 피해가 발생했다. 의정부~대곡역까지 교외선 전 구간 운행도 중지됐다.
그 밖에 의정부 신곡지하차도 등 지하차도 3개, 양주 마을안길 등 도로 4개를 합쳐 도로와 철도 총 8개 노선도 현재 통제 중에 있다.
더불어민주당은 김건희 여사가 구속된 데 대해 “사필귀정이자 국가의 정상화를 알리는 신호탄”이라고 밝혔다. 조국혁신당도 “인과응보이자 자업자득”이라고 평가했다.
박수현 민주당 수석대변인은 13일 논평에서 “법원이 내린 상식적인 결정을 국민과 함께 환영한다”며 “도이치모터스 주가조작 혐의, 명태균 공천개입 의혹, 건진법사 청탁 의혹까지 김건희씨가 구속영장에서 빠져나갈 길은 없었다”고 말했다.
박 수석대변인은 “김건희씨는 스스로의 주장대로 ‘아무것도 아닌 사람’이 아니라, 윤석열 정권 국정농단의 정점에 있는 인물”이라며 “전 대통령의 부인이었다는 이유만으로 법치의 그물을 빠져나갈 수 있으리라 여겼다면 오산”이라고 밝혔다.
그는 이어 “누구도 권력을 통한 비위와 부패를 다시 꿈꿀 수 없도록, 김건희씨의 죄상을 낱낱이 밝히고 제대로 처벌해야 한다”며 “특검은 엄정히 수사하고 신속히 기소해 김건희씨에 얽힌 의혹의 진상을 국민 앞에 밝혀 달라”고 말했다.
윤재관 혁신당 수석대변인은 논평에서 “악의 화수분 김건희 구속은 인과응보이자 자업자득”이라며 “김건희의 구속은 대한민국 민주주의의 든든한 기둥을 다시 세우는 역사적 순간”이라고 말했다.
윤 수석대변인은 “김건희라는 일개 바늘 도둑을 대한민국 전체를 농락한 소도둑으로 키우는 데 앞장선 검찰과 정치 권력은 물론 그 옆에서 기생하며 사익을 챙긴 부역자들까지 모조리 역사와 현실의 법정에 세워야 한다”고 밝혔다.
정혜경 진보당 원내대변인도 브리핑을 통해 “최고 권력자인 남편 뒤에서 호가호위하며, 법 위에 군림했던 ‘V0’ 특급 범죄자의 최후”라면서 “내란·국정농단·비리부패의 끝판왕들이 줄줄이 구속됐다. 이제 윤석열-김건희와 운명을 함께한 국민의힘 해체의 시간”이라고 말했다.
서울중앙지방법원 정재욱 영장전담 부장판사는 지난 12일 밤 자본시장법 위반, 정치자금법 위반, 특정범죄가중처벌법상 알선수재 혐의를 받는 김 여사에 대해 구속영장을 발부했다. 정 부장판사는 “증거를 인멸할 염려”를 영장 발부 이유라고 밝혔다. 서울 구로구 서울남부구치소 구인 피의자 거실에서 대기하던 김 여사는 수용동으로 옮겨져 정식 수감됐다.
구속 수감 중인 윤석열 전 대통령에 이어 김 여사까지 구속되면서 전직 대통령 부부가 나란히 구속된 첫 사례가 됐다.
해병대 채모 상병 순직사건에 대한 외압 의혹이 불거질 무렵 조태용 전 국가안보실장과 이종섭 전 국방부 장관이 비화폰으로 통화를 주고받은 것으로 확인됐다. 두 사람의 통화는 해병대 수사단이 채 상병 순직사건 초동수사기록을 경찰에 이첩한 직후에도 이뤄졌다. 이명현 특별검사팀은 이 전 장관이 조 전 실장에게 비화폰으로 기록 이첩 상황 등을 보고한 건 아닌지 의심하고 있다.
13일 경향신문 취재를 종합하면 특검팀은 최근 조 전 실장과 이 전 장관의 비화폰 기록을 분석하면서 두 사람이 2023년 7월31일과 같은 해 8월2일 통화한 사실을 확인했다. 특검팀은 이날 조 전 실장을 불러 조사하면서 이 통화내역을 추궁했다고 한다. 앞서 특검팀은 조 전 실장과 이 전 장관 등 주요 사건 관계자들의 비화폰에 압수수색 영장을 집행해 두 사람의 통화내역을 확보했다.
특검팀이 확보한 기록에 따르면, 이 전 장관은 해병대 수사단의 초동수사기록이 경북경찰청에 이첩된 직후인 2023년 8월2일 오전 11시49분쯤 자신의 비화폰으로 조 전 실장에게 전화를 걸었다. 특검팀은 이 통화가 해병대 수사단이 초동수사결과를 경찰에 이첩한 것과 관련이 있을 것으로 보고 있다.
조 전 실장은 지난달 29일 특검팀 조사에서 2023년 8월2일 이 전 장관과 해병대 수사단의 기록 이첩 상황과 관련해 통화했다고도 진술했다. 그는 당시 우즈베키스탄 출장 중이던 이 전 장관이 “있어서는 안 될 일이 생겼다”며 초동조사기록이 경찰에 이첩된 상황을 알려줬다는 취지로 진술했다. 이때 이 전 장관으로부터 “대통령에게도 보고해달라”는 부탁을 받았고, 이날 정오쯤 자신이 윤 전 대통령에게 직접 이첩 사실을 보고했다고도 말했다.
특검팀은 이른바 ‘VIP(윤석열 전 대통령) 격노’가 있었던 2023년 7월31일 조 전 실장과 이 전 장관이 비화폰으로 통화한 기록도 확보했다. 조 전 실장은 대통령실 주재 수석비서관 회의가 끝난 뒤 자신의 비화폰으로 이 전 장관에게 전화를 걸었고, 이때 이 전 장관도 비화폰을 사용해 전화를 받았다고 한다. 이 전 장관과 조 전 실장 등의 개인 휴대전화 통화내역에서는 VIP 격노 당일 소통한 정황이 드러나지 않았는데, 특검팀이 확보한 비화폰 통화내역에서는 소통 정황이 추가로 파악된 것이다.
당시 통화 또한 해병대 수사단의 초동조사기록에 대한 윤 전 대통령의 격노 및 지시 내용과 관련됐을 가능성이 있다. 특검팀이 확보한 진술에 따르면 윤 전 대통령은 수석비서관 회의에서 채 상병 사건 수사 결과를 보고받은 뒤 집무실 내선 전화로 이 전 장관에게 전화를 걸어 ‘상급자 처벌’ 문제점을 거론한 것으로 전해졌다. 조 전 실장도 특검 조사에서 윤 전 대통령이 이 전 장관에게 전화를 거는 모습을 목격했다고 진술했다.
이 전 장관 측은 경향신문과의 통화에서 “안보실장과 국방부 장관은 수시로 통화하는 사이”라며 “통화는 이례적인 게 아니다”라고 말했다. 이 전 장관 측은 2023년 7월31일 통화와 관련해서는 “장관이 그날 (우즈베키스탄으로) 출장 가는 날이라 언제 출국하는지를 물었을 수도 있다”며 “문제 될 만한 통화였다면 기억이 나겠지만 전혀 기억나지 않는다”고 말했다.

댓글목록

등록된 댓글이 없습니다.

무료리딩 [점선면] AI에 채용 맡겼더니 여성이 배제됐다…AI에 스며든 차별 없애려면 > 자유게시판

무료리딩 [점선면] AI에 채용 맡겼더니 여성이 배제됐다…AI에 스며든 차별 없애려면

페이지 정보

관련링크

본문

댓글목록

마이페이지

장바구니

오늘본상품

위시리스트