하지만 데이터 라벨링이 재소자의 사회 복귀에 정말 도움이 되는지는 미지수입니다. 특히 라벨링 노동은 “일체의 사회적 관계 없이 플랫폼이라는 온라인 공간만을 매개로” 수행된다는 점에서 더 그렇습니다. 오히려 소위 AI 혁명을 빌미로 경제적 선택지가 좁은 남반구 노동자, 난민 등에게 아웃소싱 해오던 저임금 데이터 라벨링 노동의 착취가 재소자에게까지 확대되었다고 보는 시선도 있습니다.

메트로크는 초기투자금으로 2백만 유로를 유치했습니다. 투자자들은 특히 재소자 노동 활용을 혁신적으로 보았다고 합니다. 그렇다면 여기서 말하는 혁신이란, 기술적 진전보다는, 새롭게 찾아낸 저임금 노동 공급원인 셈입니다.

인권이 잘 보장되기로 유명한 핀란드이고 재소자들 또한 자발적으로 데이터 라벨링 노역에 참여하고 있으니 ‘노동착취’라는 표현은 섣부른 걸까요? 한국, 영리 교도소가 존재하는 미국, 공권력이 막강한 중국 등에 데이터 라벨링 노역이 도입될 경우 어떤 일이 벌어질지 상상한다면, 조금 예민하게 구는 것도 괜찮을 듯합니다. 현재는 데이터 라벨링 노역이 ‘안전한’ 작업에 국한되지만, 폭력적/선정적 콘텐츠 모더레이션 등 보다 위험한 작업으로 확대될 가능성도 있다는 점에서 더욱요.

이미 존재하는 AI 시스템에 반창고를 붙이지 않도록, 처음부터 기술을 설계하는 방식을 재구상(reimagine)하려면 어떻게 해야 할까요?

벤카타수브라마니안은 기존 기술에 대한 비판을 넘어 새로운 기술 설계 방식으로 나아가자고 제안합니다. 벤카타수브라마니안은 AI 공정성 분야를 선도하는 연구자로, 예측 AI에서 발생할 수 있는 차별과 편견의 위험에 대한 인식을 제고해 왔습니다. 그는 2021년 백악관 과학기술정책실 과학 및 사법 담당 부국장으로서 AI 권리장전의 청사진을 공동 집필했습니다. 지난 8월 백악관을 떠난 그는 현재 브라운 대학교의 기술 책임, 재구상 및 재설계 센터의 책임자로 있습니다.