🦜특명! AI를 속여라 / 워터마크 무력화하기

1. 특명! AI를 속여라
2. AI 생성 콘텐츠 무력화하기

emojify.info 접속 → [Enter] 클릭 → (카메라 허용 팝업이 뜨면 허용 클릭) → 우측 [Fake Smile Game] 클릭 → [Play Game] 클릭

6가지 감정(행복, 슬픔, 두려움, 놀라움, 혐오, 분노)을 웹캠을 통해 표정으로 표현해 보세요. 참여자의 표정에 따라 감정이 어떻게 인식되고 있는지 나타납니다.

*참여자의 얼굴 사진을 게임 서버에 저장하지 않습니다.

emojify.info 접속 → Enter 클릭 → 우측 Wink/Blink Game 클릭 → Play game 클릭

화면 속 사진이 윙크(Wink)인지 눈 깜박임(Blink)인지 구분하여 답을 클릭하세요.

"눈을 감는 것은 무의식적인 행동일 수도 있고 의미 있는 제스처일 수도 있습니다."라고 해거티는 말합니다. 물론 인간도 사람의 얼굴에서 감정을 읽을 때 실수할 수 있지만, 이 일을 기계에 맡기면 아래와 같은 문제가 생깁니다.

1. 우선, 기계는 인간처럼 다른 사회적 맥락을 읽을 수 없습니다(윙크/깜박임 구분처럼).

2. 기계는 인간이 의문을 제기할 수 없는 자동화된 결정을 내리는 경우가 많으며, 인간이 인지하지 못하는 사이에 대규모 감시를 수행할 수 있습니다.

3. 감정인식 AI는 인종적으로 편향된 경우가 많으며, 예를 들어 흑인의 얼굴이 부정적인 감정을 나타내는 것으로 평가하는 경우가 더 많습니다.

이 게임은 감정인식 AI에 대한 대중의 이해를 돕고 경험을 통한 다양한 관점을 공유하여 기술이 더 나은 방법으로 개선되고 사용될 수 있는 사회를 만들기 위해 개발되었습니다. 게임을 통해 여러분이 느낀 점은 무엇인가요?

1. 감정 인식 AI에 대한 관점이 바뀌었나요? 기술 때문인가요, 아니면 실제 적용 사례 때문인가요?

2. 감정 인식 AI를 직/간접적으로 경험한 적이 있나요?

3. 감정 인식 AI의 어떤 측면이 가장 흥미롭다고 생각하시나요? 유용하다고 생각하시나요? 아니면 우려스럽다고 생각하시나요? 그 이유는 무엇인가요?

4. 감정 인식 AI가 사용될 경우 어떤 영향을 미칠지 상상할 수 있나요?

덧붙이는 글

• 🎶소소: 직접 해보니 흥미롭네요! 제가 Fake Smile Game에서 제일 흉내 내기 어려운 감정은 혐오(Disgust)였습니다. 저는 역겨운 감정의 표정을 시도하는데 자꾸 놀라움(Surprise)으로 판정하네요. 아마도 제가 역겨울 때 짓는다고 생각하는 표정과 AI의 생각이 조금 다른 것 같네요. AI가 감정 인식을 잘 한다/못 한다는 것과는 별개로 제 감정이 읽힌다는 것은 썩 기분 좋지 않은 경험이었습니다.

덧붙이는 글

• 🤔어쪈: AI 윤리 레터에서 다룬 바 있는 AI 생성 텍스트 탐지기 논란이 반복될 수 있겠네요. 워터마크를 진짜 사진에 삽입할 수도 있게 되면 워터마크 탐지 여부와 무관하게 그 어떤 이미지도 진짜인지 AI가 생성한 것인지 의심해야 하는 상황이 올 것 같습니다.