1. AI 분야의 젠더 격차
2. 외부인의 'AI 디지털교과서' 단상

AI 분야의 젠더 격차

by. 🎶소소

생성 AI와 성착취물

저는 생성 AI 영상 속 여성의 자연스러운 걸음걸이에 감탄하면서도, 동시에 이 기술이 앞으로 얼마나 많은 여성 착취물 생성에 기여할지 걱정되기 시작했습니다. 최근 이미지 생성 AI의 활용이 확대되면서 실존 인물, 특히 여성을 대상으로 한 가짜 성착취물 문제도 많아졌기 때문입니다. 지난달에는 테일러 스위프트를 묘사해 AI로 생성한 성착취 이미지가 온라인에 널리 퍼졌습니다. 이 게시물은 삭제되는 데 걸린 17시간 동안 4,500만 회 이상 조회되며 당사자가 원하지 않는 주목을 받았습니다.

대부분의 이미지 생성 AI 서비스는 유명인 혹은 실존 인물의 이미지 생성을 제한합니다. 그러나 이러한 제한조차 허술한 서비스들이 많습니다. 오히려 특정 인물의 가짜 포르노 이미지를 생성하는 AI 모델 개발을 유도하고 수익을 공유하는 플랫폼이 인기입니다. 이 플랫폼은 유명 벤처캐피탈로부터 큰 투자를 받을 정도로 이목을 끌었습니다.

AI 분야의 젠더 격차와 성편향

이렇게 AI 기술이 여성 착취에 이용되기 쉬운 이유 중 하나로 AI 분야의 낮은 여성 비율이 꼽힙니다. 빠르게 발전하는 AI 기술과 다르게 AI 분야의 젠더 격차의 진전은 아주 더딥니다. 전체 AI 분야 인력이 2016년부터 2022년까지 6배 증가한 반면, 여성 비율은 약 4% 증가했습니다. 많은 국가에서 여성은 여전히 교육, 기술, 인프라에 대한 접근성이 낮습니다.

이렇게 AI 분야에 여성의 관점과 경험이 충분히 반영되지 못하는 상황은 기술 자체에 성편향이 내재될 가능성을 높입니다. 유네스코 보고서는 AI 분야 종사자 대다수가 성착취나 성폭력 문제로부터 동떨어져 있는 특권에 기반한 무지(Privileged Ignorance) 때문에 이 문제를 저평가하기 쉬우며 해결책도 단편적으로 될 수 있다고 이야기합니다.

현실보다 심각한 AI의 성편향

AI 분야의 젠더 격차는 AI 기술에 유해한 성편향을 촉발하고, 이는 사회적 성차별을 영속시킬 뿐 아니라 악화시키는 근본적인 원인이 될 수 있습니다. 심지어 이미 AI에 내재된 성편향은 현실보다 더 심각합니다. 블룸버그 분석에 따르면 ‘판사’를 키워드로 스테이블 디퓨전이 생성한 이미지의 3%만이 여성입니다. 그러나 미국여성판사협회와 연방사법센터에 따르면 미국 판사의 34%가 여성이라고 합니다. 이렇게 AI는 인간이 지켜내지 못한 사회의 격차를 그대로 답습할 뿐만 아니라, 수 세기 동안 이뤄온 인류의 노력조차 따라가지 못하고 있다는 것이 문제입니다.

더 많은 여성의 목소리를

유네스코 AI 윤리권고 내 ‘젠더’ 정책은 AI 시스템 수명주기 전반에 여성의 인권과 기본적 자유를 보장하고, 성평등 달성에 기여해야 한다는 중요한 내용을 담고 있습니다. 그러나 이 젠더 정책이 유네스코 위원회의 선량한 남성 위원들(Well Behaved Men)에게는 환영받지 못했다고 합니다. 특권에 기반한 무지가 이 정책의 필요성에 대한 의문 제기로 이어졌던 것이죠. 논쟁 끝에 여성 위원장의 지지로 AI 윤리권고에는 젠더 정책이 포함될 수 있었다고 합니다. 이 정책이 AI 분야의 젠더 격차를 줄이는 데 도움을 줄 수 있을까요? AI 분야에 더 많은 여성의 목소리가 적극적으로 들리기를 바라면서 글을 마칩니다.

이날 많이 사용된 표현 중 하나는 '하이터치 하이테크'(High Touch High Tech). 교사는 고차원적 학습과 인간적 연결, 사회적/정서적 역량을 담당하고 (하이터치), AI DT(하이테크)는 문제풀이나 채점 등 반복적 과업을 맡는다는 것입니다. 교육부가 추진하는 AI DT 도입의 기조를 정렬하는 표현으로 보였습니다.

AI DT 프로토타이핑과 시범운영 후 그 경과를 보고하는 행사인 만큼 어느 정도의 메시지 통일은 당연한 것일지 모릅니다. 그래도 기조발제 슬라이드에서 제시한, '획일적 정답을 요구하는 교육 → 모든 학생이 자기만의 질문을 하는 교육'으로의 이행과, 발표자들이 약속한 듯 강조하는 유사한 메시지 사이에서 무언가 어색한 틈새를 느꼈습니다.

교사 발표자들은 AI DT가 가져다주는 효율성을 선보이면서도, 인간 교사의 역할은 여전히 중요하다는 말을 곧잘 강조했습니다. 아마도 많은 이들의 뇌리에 있는 질문에 대한, 진심에서 나온 답일 것입니다. 한 선생님은 (AI DT로) "아낀 시간을 비효율적인 과정에 투자하자"고 말했습니다. 교사가 시도해 보고 싶지만 시간/비용 등의 이유로 하기 어려운, 참여를 더 잘 끌어낼 수 있는 수업을 AI 덕에 할 수 있으리라는 기대로 들렸습니다.

AI에 반복 작업을 맡기고 인간은 창의적인 일을 할 수 있으리라는, 많이 들어본 전망과도 흡사합니다. 그렇게 될 수 있다면 좋겠습니다. 하지만 AI DT가 문제풀이 등에서 업무를 경감한다는 발표자들은, 태블릿이나 DT 서비스에 대한 학생들의 친숙도가 달라 중간에 교사가 개입해야 하는 연결노동이 새로 발생한다는 이야기도 들려주었습니다. 한편 교실이라는, 기존에는 비교적 독립적이었던 공간이 DT를 통해 감시 가능한 디지털 시공간으로 통합되는 데 따른 변화도 아직은 미지수 같습니다. 교실이 플랫폼과 연결되면 교육 노동에도 플랫폼노동의 성격이 가중될까요?

이런 우려가 기우이고 전체적으로 업무가 잘 경감된다고 하더라도, 교사가 하고 싶어 하는 종류의 수업을 '비효율'로 분류하여 우선순위에서 밀리게끔 만든 구조가 있을 것입니다. DT 도입이 그런 구조를 해결할 수 있을지, 아니면 아낀 시간에 또 다른 과제가 효율의 이름으로 비집고 들어오지 않을지 하는 걱정도 듭니다.