🦜 오픈AI의 비공개 로비

타임지가 정보공개청구를 통해 확보한 백서의 기본 입장은 “챗GPT는 고위험 서비스에 사용될 가능성이 있으나 그 자체로 고위험군(high-risk)은 아니”라는 것입니다.

이외 주요 내용을 요약하면 다음과 같습니다.

• 오픈AI는 가이드라인과 콘텐츠 정책 정비, 우수 사례 소개, 서비스 이용 제한, 모니터링 등에 많은 노력을 기울이고 있다.
• 생성 AI 콘텐츠 규제는, 생성 AI를 고위험군으로 분류하기보다, 워터마크 등 AI 생성물이라고 이용자가 확인할 수 있도록 하는 것이 적절하다.
• 고용, 교육 평가 분야의 모든 생성 AI 모델이 위험하지는 않다. 직무 설명, 문제 출제 등 법익을 침해하지 않으면서 생성 AI를 도입할 수 있는 영역이 있다.
• 주요 업데이트마다 위험성 평가를 시행하도록 하면, 안전성을 높이기 위한 업데이트도 위축된다. 안전성을 높이기 위한 업데이트는 평가에서 제외되어야 한다.

번역기를 돌려봅시다. 다음과 같이 해석해 볼 수 있겠습니다.

• 오픈AI의 자율규제만으로 충분하다.
• 이용자의 콘텐츠 소비에 있어 오픈AI의 책임은 생성 AI가 생성한 콘텐츠라는 사실을 이용자가 알 수 있도록 고지하는 것까지이다.
• 생성 AI의 고용, 교육 시장 진출을 막아서는 안 된다.
• 오픈AI는 일단 모델을 공개하고 사후적으로 문제를 개선하는 반복 개선 모델(iterative deployment model)을 고수할 것이다.

타임지는 EU AI법에 오픈AI의 의견이 대체로 반영되었다고 평합니다. 앞에서는 규제를 외치면서 뒤에서는 규제에서 벗어나려 애쓴 오픈AI가 끝내 성공한 것으로 해석하기도 합니다. 글쎄요. 입법 과정상의 합리적인 의견 청취일까요? 아니면 규제 당국에 대한 기업의 입김일까요?

• 🍊 산디 : 오픈AI의 주장이 완전히 틀렸다고 주장할 수는 없어 보입니다. 특히 고용, 교육 등 서비스 분야가 아니라, 구체적인 서비스 내용에 따라 위험도가 달라져야한다는 주장은 합리적이라고 생각해요. 하지만 ‘규제 정도는 개별 서비스마다 다르다’라고 명시하면 사업자와 이용자의 혼란이 가중될 수도 있습니다. 규제 기관 편의대로 악용될 소지도 있죠. 어떤 접근이 바람직할까요?

• 🤖 아침 : 실제로는 인간 노동이 계속 들어가고 있는 기술을, 마치 인간의 역할을 완전히 자동화한 것처럼 과대포장하는 일은 새로운 현상이 아니죠. 애스트라 테일러는 "자동화 흉내내기"라는 에세이에서 이 현상을 "포토메이션"(fauxtomation, 가짜를 뜻하는 faux와 자동화를 뜻하는 automation의 합성어)이라고 부릅니다. AI 기술을 아예 '가짜 자동화'라고 부르긴 어렵겠지만, 여기서 중요한 포인트는 '기술의 성능을 과대포장하고 노동을 비가시화함으로써 노동의 금전적/사회적 가치를 최소화하려는 자본주의적 착취'가 일어난다는 것입니다.

개인정보보호위원회와 디지털플랫폼정부위원회가 <AI와 데이터 프라이버시 국제 컨퍼런스>를 열었습니다. 유럽, 미국, 아시아의 개인정보 감독기관과 국제기구, 빅테크의 전문가들이 모여 AI 규제 방향과 국제적 협력 방안에 대해 논의했는데요. 누구도 뚜렷한 해결책을 갖고 있지는 못하지만, 많은 고민과 공감이 오갔습니다. 컨퍼런스의 주요 내용을 요약해 보았습니다.