1. 죽음의 기술과 효율성
2. 빅테크의 기발한 데이터 수집
3. AI가 나의 음성을 학습하는 걸 막을 수 있을까?

1. 죽음의 기술과 효율성

• 전쟁의 현장에서 벗어나 있는 우리는 첨단 기술이 살상을 효율화한다는 설명을 듣습니다. 무인 무기로 아군의 피해를 최소화하고, 적을 정확히 지정(pinpoint), 정밀타격(surgical strike)한다는 것이죠. 심지어는 인간 행위자의 판단 없이 AI의 자체 ‘판단’으로 ‘적’을 살상하기도 합니다. 우크라이나 군의 AI 드론이 자체 ‘판단’으로 인간을 살상했습니다. 우크라이나군의 AI 드론이 조종 신호가 끊겨도 독자적으로 살상하도록 프로그래밍 되어 있었기 때문입니다. 그게 더 효율적이기 때문입니다.  

• 이스라엘의 팔레스타인 폭격에도 AI가 쓰이고 있습니다. 라벤더라는 이름을 가진 이 AI는 3만7천여 명의 ‘타겟’을 학습했고, 10% 정도의 오류율을 보이는 것으로 알려져 있습니다. 인간이 ‘타겟’ 식별 결과를 확인하는 데 쓰는 시간은 20초. 살상을 결정하는 데 쓰는 시간입니다. 군수 시장도 가세합니다. 이스라엘 군수 스타트업들은 이번 전쟁에서 쓰인 AI를 수출할 계획입니다. …정말 여러모로 효율적이네요.
• 효율은 인간을 잘 죽일 수 있도록 AI를 개발하고, 기술에 대한 감독 책임에서 슬쩍 빠져 나오는 모든 행위를 정당화하려 시도합니다. 우스운 일입니다. 어떤 미사여구로도 전쟁은 정당화 되지 않습니다.
• 여러 기구에서 전쟁의 중단을 요청하는 서명을 진행하고 있습니다. 그 중 러시아의 우크라이나 침략 중단, 이스라엘/팔레스타인 휴전을 촉구하는 앰네스티의 온라인 서명 운동을 링크합니다. 부디 원래 전쟁이 그런 거라며 쉬이여기거나, 그것에 무뎌지거나, 좌절하지 않길 바랍니다.

더 읽어보기

• 전쟁과 죽음의 기술(2023-10-30)
• 자동화된 아파르트헤이트(2023-05-15)

2. 빅테크의 기발한 데이터 수집

• 새삼스럽게 유튜브가 이용자와의 계약을 강조하기 시작했습니다. 오픈AI가 유튜브 영상을 동영상 생성 AI 모델 소라(Sora) 학습에 활용했다면, 이는 명백히 서비스 이용 약관을 무시한 처사라고 비판한 것이죠. 오픈AI의 CTO 미라 무라티가 소라 학습에 유튜브 동영상이 쓰였는지 묻는 질문에 ‘모른다’ 답한 것에 대한 대응으로 판단됩니다.

• 데이터는 생성형 AI 제작에 필요한 핵심적인 ‘자원’입니다. 이미 2021년 말부터 더 이상 학습할 영어 텍스트 데이터가 남아 있지 않았던 오픈AI는 동영상으로부터 텍스트를 추출하는 음성 인식 도구인 ‘위스퍼(Whisper)’를 제작합니다. 뉴욕타임즈의 취재 결과, 위스퍼를 활용해 오픈AI는 백만 시간 이상의 유튜브 동영상을 복사했습니다. 위스퍼 데이터는 GPT-4 개발에 활용된 것으로 알려 있습니다. 같은 보도에 따르면 오픈AI는 이러한 일련의 과정이 유튜브 약관에 위배된다는 사실을 내부적으로 논의했던 것으로 보입니다.
• 하지만 데이터에 목마른 것은 구글도 매한가지입니다. 지난해 구글은 문서, 지도 등으로부터 AI 학습에 활용할 데이터를 얻기 위해 개인정보보호 약관을 변경하였습니다. 빅테크의 필요에 따라 서비스 약관은 무시되거나 바뀌고 있습니다. 인터넷 등장 이후 우리가 지켜내려 해온 권리들은 생성형 AI의 등장 앞에 무력한, 과거의 것으로 치부되어야 하는 걸까요.  

더 읽어보기

• AI 학습용 데이터 팝니다(2024-03-04)
• 데이터, 어떻게 팔아야 잘 판 걸까? … 팔아야 하는 걸까?(2024-03-25)

3. AI가 나의 음성을 학습하는 걸 막을 수 있을까?

• 작곡 공모전에서 1위 곡이 알고 보니 생성형 AI가 만든 것이었다는 작곡가의 놀라움 섞인 한탄부터 인간이 새로운 창의 역량을 발휘할 수 있게 되었다는 평가까지, 음악 생성형 AI의 발전 또한 놀라운 속도를 보여주고 있습니다.  

• 빌리 아일리시, 이매진 드래곤 등 200여 명의 예술가들이 예술가 권리 연합(Artists’ Rights Alliance)의 AI 음악 생성 작업의 중단과 보상을 촉구하는 공개서한에 서명했습니다. 빅테크들이 음악 생성 모델들을 공개하는 와중에 등장한, 직접적인 이해당사자의 입장 표명입니다. 서명은 생성형 AI의 엄청난 잠재력에 대해서 동의하면서도, 무책임한 개발과 이용은 창작자의 프라이버시와 생계 모두를 심각하게 위협한다는 사실을 지적합니다.
• 관련 법 제정 움직임도 관찰됩니다. 지난달, 미국 테네시 주는 ‘엘비스(ELVIS) 법(Ensuring Likeness Voice and Image Security Act)을 제정했습니다. 주지사가 테네시 주 상원 및 하원 다수당 대표들과 함께 제출한 법안이었죠. 엘비스법은 이름과 이미지, 초상을 보호해 오던 기존 퍼블리시티법의 보호 대상에 음성을 추가하고, 공연 목적으로 AI 음성을 무단 사용하는 것을 금지했습니다.
• 한국에서 ‘인격표지영리권’으로도 불리는 퍼블리시티권은 통상 “성명, 초상 등이 갖는 경제적 가치를 상업적으로 사용하거나 배타적으로 지배하는 권리”로 정의되어 왔습니다. 대체로 음성은 보호 범위 밖에 있었죠. 게다가 한국에서 인격표지영리권은 법에 명문화되지 않고 판례로서 보호되어 왔습니다. 지난 2022년 12월, 법무부는 (AI를 염두에 두었던 것은 아닌 듯 합니다만) 연예인뿐만 아니라 국민 모두의 인격표지영리권을 보호하는 민법 개정을 추진한다고 밝힌 바 있습니다. 기술 환경이 변화한 만큼 관련 논의도 새로운 국면을 맞이할 수 있지 않을까요?