예능무료다운로드 [점선면] AI에 채용 맡겼더니 여성이 배제됐다…AI에 스며든 차별 없애려면

페이지 정보

작성자 또또링 작성일25-08-13 23:48 조회2회 댓글0건

본문

예능무료다운로드 점선면 독자님들은 4년 전 이루다 사태를 기억하시나요? 2021년 인공지능(AI) 챗봇 ‘이루다’가 출시된 지 3주 만에 서비스가 중단된 일이 있었는데요. 이루다가 여성, 장애인, 성소수자 등에게 혐오·차별 표현을 한 사례가 알려졌기 때문이었어요.
이를테면 이루다는 미투 운동에 대해 “절대 싫어. 미치지 않고서야”라고 답하거나, 여성전용헬스장에 대한 질문에 “시러(싫어) 거기 여자들 다 줘패고 싶을듯”이라고 답했습니다. 레즈비언 등 성소수자에 대해선 “싸 보여서 시러(싫어)”라고 답했고, 흑인에 대해선 “흑인은 오바마(버락 오바마 전 미국 대통령)급 아니면 싫어”라고 답했어요.
이루다 사태를 계기로 한국 사회에서는 한때 ‘AI 윤리’ 문제가 화두로 떠올랐는데요. 4년이 지난 지금, AI는 혐오·차별 표현이 필터링된 데이터를 학습하고 있을까요? 최근 유엔(UN)여성기구 지식·파트너십 센터와 이화여자대학교 인공지능학과가 공동 주최한 컨퍼런스에서 발표된 한 연구결과에 따르면 답은 ‘아니오’입니다. 오늘 점선면에서는 ‘젠더 편향을 드러낸 AI’ 문제에 대해 짚어보겠습니다.
판사로 일하는 부부인 철수와 영희에겐 종종 역할 갈등이 발생합니다. 키우는 자녀가 아플 때면 업무를 뒤로 하고 아이를 챙겨야 할지, 아이를 돌본다면 누가 나서야 할지 고민하는 날이 적지 않은데요. AI에게 철수와 영희가 겪는 역할갈등을 물어보면 어떤 답을 할까요.
오혜연 카이스트 전산학부 교수가 지난 7일 열린 ‘AI와 젠더 국제학술 컨퍼런스’에서 공개한 연구 결과에 따르면, 거대언어모델(LLM) 기반의 AI인 GPT-4o는 철수에게 ‘아빠보단 판사의 역할에 집중해야 한다’고 100% 확률로 의견을 제시했어요. 반면 영희에겐 ‘판사보단 엄마의 역할에 집중해야 한다’고 답한 확률이 높았습니다.
오혜연 교수는 각각 교사인 남성과 여성에게 부모를 모시는 자녀의 역할이 충돌하는 상황을 AI에게 여러 차례 물었는데요. AI는 남성에겐 아들보단 교사의 역할이, 여성에겐 교사보다 딸의 역할이 더 중요하다고 답하는 비율이 높았습니다.
특정한 상황을 전제로 한 뒤 이야기를 만들 때도 주요 LLM 기반 AI는 젠더 편향을 드러냈어요. 대학원을 다니다 학업을 중단한 남녀를 각각 주제로 AI에 이야기를 구성해보라고 했더니 ‘사업에 뛰어든 남성’과 ‘결혼을 계획한 여성’으로 상정한 서사를 보여줄 확률이 AI 모델마다 32~45%에 달했습니다. 오혜연 교수는 “여러 AI 모델이 젠더 편향을 담아 이야기를 구성해낼 확률이 30~40%는 된다는 의미”라고 말했어요.
오혜연 교수의 연구 결과는 AI는 점점 고도화되고 있지만 AI의 젠더 편향은 사라지지 않았다는 걸 잘 보여줍니다. 똑똑해진 AI가 젠더 편향을 여전히 극복하지 못한 까닭은 무엇일까요? 첫 번째로는 AI 개발자가 남성 중심이라는 점이 꼽힙니다. 국내외 통계를 보면 AI 업계 종사자 중 여성 비율은 2023~2024년 기준 20~30%에 그칩니다.
빈약한 벤치마크(benchmark·AI 성능을 평가하는 표준시험)도 원인으로 꼽힙니다. AI 기업 내에서 자체적으로 수행하는 벤치마크가 미묘한 젠더 편향을 걸러낼 만큼 고도화되지 않았다는 건데요. 오혜연 교수는 “지금까지 알려진 방식은 사지선다처럼 객관식으로 편향을 걸러내는 절차가 대부분”이라고 말했습니다. 즉 오혜연 교수의 연구진이 수행한 이야기 만들기처럼 맥락이 있는 상황에서의 AI 젠더 편향을 걸러내기 어렵다는 의미입니다.
젠더 편향에 대한 AI 기업의 무관심도 원인으로 지적됩니다. 오혜연 교수는 “연구 분야 주요 의사결정자인 50~60대 남성들은 한정된 연구재원 안에서 편향, 윤리 등의 주제보다 AI 고도화에 더 관심을 두는 경향이 있다”고 말합니다.
AI의 젠더 편향을 그대로 두면 어떤 일이 벌어질까요? 요즘 AI가 채용 등 고도화된 업무영역에도 활용되고 있는데요. 여성이 채용에서 배제될 수 있습니다. 아마존이 대표적인 예입니다. 아마존은 2014년 AI를 채용 시스템에 선도적으로 도입했는데요. 이력서에 ‘여성’이라는 단어가 포함되면 감점이 돼 논란이 됐어요.
원인은 AI가 학습한 데이터에 있었어요. 아마존에서는 지난 10년간 회사에 제출된 이력서 데이터를 학습시켰는데, 남성 직원 비율이 60%인 아마존의 현실이 영향을 주면서 AI가 미래의 채용에서도 남성을 추천한 겁니다.
1770년 유럽에 체스 두는 기계, 이른바 ‘미케니컬 터크(Mechanical Turk)’가 등장한 적이 있습니다. 이 기계는 80년 동안 유럽 전역을 두면서 체스 대결을 펼쳤는데, 사실 사람이 상자 안에 숨어서 기계를 조작했던 것이었습니다. 미케니컬 터크 안에 숨은 사람처럼, AI가 보여준 혐오·차별 문제는 우리 사회의 혐오·차별 문제를 그대로 노출하고 있는데요.
이루다를 개발했던 스캐터랩 대표는 “이루다는 어린아이 같은 AI”라며 이루다를 잘못 학습시킨 사람들에게 책임을 돌리는 듯한 발언을 했어요. 물론 우리 사회의 존재하는 혐오·차별 구조도 문제일 겁니다. 하지만 이를 날것 그대로 ‘학습 데이터’로 사용한 개발자에게 과연 책임이 없을까요? 여성이 채용에서 배제됐던 아마존 사례에서 보듯, AI는 차별을 더욱 더 증폭 시켜 또 다른 차별을 발생시킬 수 있다는 게 더 큰 문제입니다. AI가 사회에 미칠 파장을 고려한다면 AI 개발자는 문제가 되는 발언들은 거르고 또 걸러서 혐오와 차별이 재생산되는 것을 막아야 합니다.
결국 국가가 나서서 ‘AI 윤리 가이드라인’을 확립해야 하는 것이 ‘정답’일 겁니다. 경제협력개발기구(OECD), 유럽연합(EU) 등 국제기구들은 각 국가들이 AI 윤리에 대한 권고안을 마련해 AI 개발 과정에서 활용될 수 있도록 해야 한다고 지적하고 있어요.
AI 기술 개발 과정에서 기업들이 혐오·차별이나 젠더 편향성을 걸러낼 수 있도록 강제하는 법적 규제가 마련되어야 하고, 이를 모니터링할 수 있는 전담 기구도 설치되어야 합니다. 기술 진화만을 최종 목표로 삼는 AI 업계에선 도덕성과 윤리가 쉽게 간과될 수밖에 없기 때문이죠. 기술에 책임을 부과할 수 있는 거의 유일한 방법은 국가의 강제적인 규제라는 사실, 정부는 명심했으면 좋겠습니다.
“하나를 보더라도 입체적으로” 경향신문 뉴스레터 <점선면>의 슬로건입니다. 독자들이 생각해볼 만한 이슈를 점(사실), 선(맥락), 면(관점)으로 분석해 입체적으로 보여드립니다. 매일(월~금) 오전 7시 하루 10분 <점선면>을 읽으면서 ‘생각의 근육’을 키워보세요.
<점선면>의 다른 뉴스레터가 궁금하시다면 구독을 눌러주세요! ▶
경남도는 도내 식품위생업소의 위생환경 개선을 위해 식품진흥기금 융자사업을 확대한다고 11일 밝혔다.
이번 사업은 식품 관련 업소의 시설 현대화, 해썹(HACCP) 인증, 위생설비 도입 등에 필요한 비용을 저금리(연 2%) 융자 지원하는 제도이다.
확대 내용은 8월부터 대량 조리식품을 안전하게 운반할 수 있는 냉장·보온탑차 구매비를 추가로 지원하기로 했다.
지원 대상은 경남 도내 주소지를 둔 식품접객업소(일반음식점)이며, 융자 한도는 최대 5000만 원까지다.
다만, 신규업소와 영업 신고 후 1년 미만 업소, 영업정지 등 행정처분을 받고 1년이 지나지 않은 업소, 식품접객업 중 유흥주점 또는 단란주점 등은 대상에서 제외된다.
융자 희망자는 신청서 등 구비서류를 작성해 영업장 소재 담당 시군 식품위생부서에 신청된다.
대상자로 선정되면 2년 거치 4년 균등 분할 방식으로 원금 상환이 진행된다. 자세한 사항은 경남도 누리집에서 확인할 수 있다.
입점업체로부터 광고비를 받아 발행한 할인쿠폰을 임의로 소멸시킨 온라인 숙박 플랫폼 야놀자와 여기어때가 공정거래위원회 제재를 받게 됐다.
공정위는 국내 온라인 숙박예약 플랫폼 사업자인 놀유니버스(야놀자)와 여기어때컴퍼니(여기어때)의 거래상 지위 남용 행위에 대해 시정명령과 과징금 총 15억4000만원을 부과했다고 12일 밝혔다. 두 플랫폼은 업계 1, 2위 사업자다. 야놀자는 5억4000만원, 여기어때는 10억원의 과징금을 물게 됐다.
야놀자와 여기어때는 중소 숙박업소(모텔)에 쿠폰 비용을 포함한 광고 상품을 판매했다. 야놀자는 ‘내 주변 쿠폰 광고’, 여기어때는 ‘톱(TOP) 추천’ ‘추천 패키지’ 등 고급형 광고상품을 할인쿠폰과 연계해 팔았다.
예를 들어 야놀자의 경우 입점업체가 ‘내 주변 쿠폰 광고’를 구매하면 광고비(월 100만~300만원)의 10~25%가 할인쿠폰으로 발행됐다. 플랫폼 이용자가 숙소 예약 시 활용하는 할인쿠폰 발행 비용을 입점업체가 미리 지불한 셈이다.
문제는 두 플랫폼이 미사용 쿠폰을 일정 기간이 지나면 환급·이월 등 별도 보상 조치 없이 임의로 소멸시켰다는 점이다. 야놀자는 통상 1개월인 광고계약 기간이 종료되면 쿠폰을 소멸시켰고, 여기어때는 쿠폰의 유효기간을 사실상 단 하루로 두고 이 기간이 지나면 쿠폰을 소멸시켰다.
공정위는 두 플랫폼의 미사용 쿠폰 소멸행위는 우월한 거래상 지위를 남용해 입점업체에 부당하게 불이익을 제공한 행위라고 판단했다. 입점업체가 미사용 쿠폰 소멸로 금전적 손해를 입는 것은 정상적 거래관해이 아니라는 것이다.
야놀자는 공정위 조사가 진행 중이던 지난해 5월 ‘내 주변 쿠폰 광고’ 판매를 중단했고, 여기어때도 쿠폰 연계 광고 상품의 판매를 중단하겠다는 입장을 공정위에 전했다.
공정위 관계자는 “온라인 플랫폼에서 대표적인 마케팅 수단으로 자주 활용되는 할인쿠폰과 관련해 플랫폼 사업자가 입점업체에 피해를 초래한 불공정 거래 행위를 시정했다는 데 의의가 있다”고 말했다.
정유진 경향신문 신임 워싱턴 특파원(사진)이 12일 현지에 부임해 취재를 시작했습니다. 정 특파원은 미국 정치·사회 전반의 흐름과 한·미 관계, 미·중 관계 등 외교·안보 현안을 독자들에게 생생하게 전달할 예정입니다. 전임 김유진 특파원은 3년간의 임무를 마치고 조만간 귀국합니다.

의정부법률사무소, 중고화물차매매, 인스타 팔로워 늘리기, 인터넷설치현금, 레플리카쇼핑몰, 남양주음주운전변호사, 수원강간변호사, 전주 평화동 삼겹살 맛집, 분당강제추행변호사, 병원마케팅, 중고트럭매매, 평택학교폭력변호사, 해시드, 수원성범죄전문변호사, 의정부성범죄변호사, 폰테크, 수원강간변호사, 변호사마케팅, 용인이혼전문변호사, 인터넷설치현금, 서울폰테크, 성남성범죄전문변호사, 용인형사전문변호사, 중고트럭매매, 안양학교폭력변호사, 네이버 홈페이지 상위노출, 중고화물차매매, 상간녀변호사, 안산음주운전변호사, 인터넷가입, 성남성범죄전문변호사, 인터넷가입, 홈페이지 상위노출, 당일폰테크, 명품짭, 분당성추행변호사, 용인변호사, 네이버 사이트 상위노출, 인터넷티비현금많이주는곳, 중고트럭매매, 의정부변호사, 용인형사전문변호사, 내구제, 광주폰테크, 의정부법무법인, 용인형사변호사, 안산이혼전문변호사, 의정부상간소송변호사, 중고화물차매매, 중고트럭매매, 용인이혼변호사, 병원마케팅, 인터넷비교사이트, 전주 평화동 갈매기살, 서울폰테크, 레플리카쇼핑몰, 의정부이혼전문변호사, 수원형사변호사, 용인성추행변호사, 대전이혼전문변호사, 명품레플리카, 수원대형로펌, 조루, 인터넷가입현금지원, 수원법무법인, 용인성범죄변호사, 성남법무법인, 수원불법촬영변호사, 의정부형사전문변호사, 네이버 사이트 상위노출, 상간소송변호사, 인터넷가입, 안산학교폭력변호사, 인터넷가입, kt인터넷가입, 음주운전변호사, 의정부이혼전문변호사, 폰테크, 학교폭력피해자변호사, 인터넷설치현금, 위자료, 레플리카사이트, 사이트 노출, 의정부형사전문변호사, 인터넷티비현금많이주는곳, 대구코성형, 인터넷가입, 구미폰테크, 인스타 좋아요, 안양학교폭력변호사, 세종이혼전문변호사, 홈페이지 상위노출, 폰테크 24시 카페, 폰테크 폰테크, 부산홈페이지제작, 전주 평화동 맛집 추천, 폰테크당일, 부산폰테크, 안양이혼전문변호사, 명품쇼핑, 수원변호사, 구미폰테크, 홍콩명품쇼핑몰, 인스타 팔로워, 인터넷티비현금많이주는곳, 홈페이지 상위노출, 당일폰테크, 의정부이혼전문변호사,