1. 스케일이 커진다면 지능이 등장할까? [Part. 2]
2. 그래서 왜 AI가 정치적이라고요? 

데이터 지능 길들이기

인터넷에서 수집한 데이터는 굉장히 많은 잡음이 섞여 있습니다. 사회의 다양한 의견 뿐만 아니라 극단적인 주장도 포함되어 있고, 시간에 따라서 사실이 변했거나, 불확실한 정보 또한 담겨있을 것입니다. 데이터를 모방하는 현재의 인공지능 패러다임의 특성상 데이터를 정제는 필수적입니다. 이 과정을 통해 사회적인 합의를 데이터의 형태로 표현하고 알고리즘을 이를 모방합니다. 하지만 많은 경우 정제한 결과를 사회적인 합의라고 가정하는 경우가 더 많은 것이 아닌가라는 의문이 듭니다.

최근 구글 제미나이의 이미지 생성 알고리즘의 해프닝은 이러한 문제가 얼마나 어려운 지에 대해서 알 수 있습니다.

실천적 지능을 위한 AI 에이전트

튜링 테스트는 이미 한계를 맞이했기에 이를 보완할 수 있는 지능의 정의가 중요합니다. 최근 관심을 받는 AI 에이전트는 목적에 따라서 작업을 계획하고 실행에 옮기는 것을 목표로 합니다. AI 에이전트가 목표를 달성하기 위해서는 튜링 테스트 지능과는 다른 형태의 실천적 지능을 요구합니다.

최근 오픈AI의 sora가 놀라운 동영상 생성 능력으로 많은 관심을 받았습니다. 흥미로운 점은 sora의 기술 보고서의 제목 “Video generation models as world simulators”에서 드러나듯이 동영상 생성뿐만 아니라 sora는 현실 세계에 대한 시뮬레이터 역할도 가능한 것으로 보입니다. 과거 오픈AI가 수행했던 마인크래프트 에이전트 연구를 보면 동영상 기반의 시뮬레이터에 대한 힌트를 얻을 수 있습니다. 실제로 sora의 데모 영상 중에도 생성된 마인크래프트 플레이 영상이 있습니다.

이 글에서는 현재 생성AI로 대표되는 인공지능을 데이터 지능이라는 표현으로 지칭했습니다. 데이터 형태로 사회적 합의를 서술하는 것은 매우 섬세한 작업이며 높은 노력을 요구로 합니다. 이는 단순히 데이터의 양을 늘려서 해결되는 부분이 아니라 질을 올려서 해결해야 하는 부분을 의도했습니다.

인공지능에 대한 과도한 기대 혹은 하이프를 경계하자면서도 데이터 지능이라고 짚은 이유는 스케일 업은 파운데이션 모델이라는 개념어로 이미 인공지능 알고리즘의 패러다임으로 굳어졌기 때문입니다. 엔비디아뿐만 아니라 인텔, AMD 등 내로라하는 반도체 기업들이 파운데이션 모델 혹은 생성AI용 반도체를 이야기하고 있습니다. 특정 알고리즘을 위한 전용 하드웨어는 실행 속도 및 전력 측면에서 로그 단위의 획기적인 개선을 가져오는 경우가 많습니다. 이렇다는 것은 스케일 업에 대한 비용이 크게 줄어들면서, 현재 생성AI가 다른 분야로 빠르게 전파되고 관련 논의가 반복될 가능성이 크다는 것을 의미합니다.

유튜브의 동영상을 인공지능 학습에 사용하지 말라는 구글의 경고(2024년 4월 둘째 주 브리프)는 이미 동영상에 대한 대규모 데이터셋 수집이 AI 에이전트를 위해 이루어지고 있다는 현실을 보여줍니다. 이미지나 텍스트에서도 콘텐츠 창작자가 논의에서 소외되어 있었는데 동영상에서도 마찬가지로 언급되지 않고 소외되고 있습니다. 학습용 데이터의 기저에는 사람의 프라이버시나 저작권과의 교차점이 언제나 존재합니다. 이러한 논의를 꾸준히 진행해야 빠르게 변하는 시기에 관련 논의에서 주도권을 잡을 수 있으리라 봅니다.

다만, 최근 AI 에이전트 분야에서 일어나는 하이프에 대해서는 크게 경계해야 할 필요가 있습니다. AI 에이전트는 튜링 테스트를 벗어나는 지능을 달성할 가능성을 갖고 있지만, AI 에이전트를 잘 작동시키기 위해서는 넘어야 할 산이 많습니다. 텍스트나 이미지, 비디오와 같은 (1)의 형태의 데이터는 인터넷에 많이 있지만, AI 에이전트가 환경과 상호작용하는 (2)의 형태의 데이터는 매우 희귀합니다. 특히, 올해 휴머노이드 로봇에 대한 이야기들은 강한 하이프로 생각됩니다. 현실에서 작동하는 로봇에 대한 데이터는 매우 드물고 이에 대한 (1), (2), (3)의 형태의 데이터셋 구축은 매우 어려운 일입니다. 즉 생성AI와 다르게 스케일 업에 기반한 데이터 지능을 구축하기 비용이 크게 듭니다.

AI 에이전트는 기존 생성AI 대비 인간에게 직접적인 위해를 끼칠 가능성이 더 크기 때문에 AI 윤리 관점에서의 성찰이 필요할 것으로 보입니다. Stable Diffusion과 챗GPT는 창작 툴과 같은 형태로 제공되기 때문에 현실에 직접적으로 위해를 끼치지는 않습니다. 하지만 AI 에이전트의 경우는 현실에서 작업을 수행할 수 있는 형태이기 때문에 인간에게 직접적인 위해를 끼칠 가능성이 더 커집니다. AI 에이전트에게는 기존 인공지능 알고리즘보다 더 높은 AI 윤리 기준을 고민해볼 필요가 있다고 보입니다.

그래서 왜 AI가 정치적이라고요?

by. 🤔 어쪈

‘인공지능은 정치적이다.’ AI 윤리 레터를 계속 읽어온 구독자라면 꽤나 익숙하게 느껴질 문장일테죠. 하지만 인공지능이 왜 정치적인지 명쾌하게 답하기란 여간 쉬운 일이 아닙니다. 이제 막 선거가 끝나서인지 정치캠페인 속 딥페이크나 이른바 ‘가짜뉴스’를 퍼나르는 추천 알고리즘과 같은 사례가 먼저 떠오르는데요. 보다 넓은 의미의 정치를 생각해볼 순 없을까요?

AI 윤리 북클럽에서 <민주주의와 AI>를 주제로 읽은 두번째 책, <인공지능은 왜 정치적일 수밖에 없는가 (마크 코켈버그 저)>는 앞서 던진 질문을 고민하기에 제격인 저작입니다. 다만 지금껏 읽은 것 중에 평이 가장 극명하게 갈린 책이기도 합니다. 아마도 AI의 주된 정치적 쟁점을 면밀히 분석하기보다 기존 정치철학적 논의가 AI와 어떻게 연결되는지를 살피고, 그 과정에서 파생되는 질문들을 계속해서 던질 뿐 좀처럼 명쾌한 저자만의 답을 들려주지 않아서였던 것 같아요. 분명 다소 도발적인 번역본 제목보다 원제(AI의 정치철학; The Political Philosophy of AI)가 더 어울리는 개론서입니다.

책의 각 장은 정치철학의 주요 개념으로부터 출발합니다. 책의 전반부에서 다루는 자유, 평등과 정의는 AI가 사회에 보다 깊숙이 자리잡으면서 그 의미와 전제를 재검토해야하는 대상이 되었습니다. AI 덕분에 대규모 인간 행동 데이터를 분석하고 개입할 수 있게 된 지금, ‘넛지’라는 단어 아래 손쉽게 조종당하는 우리는 여전히 자유롭다고 할 수 있을까요? 과거에 축적한 데이터 간 상관관계만을 학습한 AI를 보다 평등하고 정의로운 미래 사회를 구축하는 데에 쓸 수 있을까요?

자유, 평등과 정의에 대한 논의가 AI를 고려하여 갱신되어야 한다면, 이를 토대로 하는 민주주의 역시 마찬가지일겁니다. 특히 우리가 민주주의를 실현하기 위해 발전시켜 온 제도가 자유를 기본 전제로, 평등과 정의를 주요 방향성으로 삼아 설계되었기 때문에 이것이 여전히 유효한지 의문을 제기할 수 있겠죠.

책은 앞서 언급된 물음들을 권력이라는 개념을 중심으로 다시 살펴보기도 합니다. AI는 권력을 행사하기 위한 도구로 직접 쓰일 수도 있지만, 새로운 권력 작동 방식과 적용 지점을 만들어 낼 잠재력 역시 갖고 있습니다. 또한 AI가 지금의 지배적인 이데올로기 아래에서 만들어진만큼 다양한 사회적 모순에서 결코 자유롭지 않으며, 오히려 강화하기도 하죠. 더 나아가 권력이 꼭 하향식으로만 작동하는 게 아니라 미시적 수준에서 개개인의 자아정체성을 구성하는 것 역시 권력작용이라는 지적은 AI에 가상의 ‘빅 브라더’ 이미지를 씌우기보다 실제 우리 지각과 행동을 매개하는 AI 기술에 주목할 것을 제안합니다.

“AI는 하나부터 열까지 정치적”이라는 저자의 입장을 다르게 표현하면 AI는 가치중립적이지 않다는 말이기도 합니다. 하지만 거꾸로 화살을 우리에게 돌려볼 수도 있습니다. AI에 더 많은 행위주체성을 부여할수록 동물, 환경을 포함한 비인간에 대한 인간의 정치적 입장의 재고 필요성 역시 커지는 셈이죠. 요컨대 인간중심적 사고방식에서 벗어나 지금껏 논의한 주제들을 다시 살펴봐야할 수도 있다는 뜻입니다.

랭던 위너가 기술이 정치적인 사례로 제시한 미국 롱아일랜드 존스비치공원의 낮은 고가도로. 버스가 지나다닐 수 없도록 설계되어 결과적으로 흑인의 공원 이용을 막았다. 출처: 캐나다 건축센터 (CCA)

책의 주제는 분명 AI이지만, AI가 아닌 다른 기술을 중심으로 서술하더라도 크게 다르지 않은 내용이 담겼을 것으로 보입니다. 예컨대 <가짜뉴스의 고고학>에서 살펴봤던 것처럼, AI 등장 이전에도 시대별로 여러 미디어 기술들이 정보를 조작하고 사람들을 조종하기 위해 쓰였죠. AI가 (정치철학적) ‘문제‘라는 주장은 충분히 설득력이 있었지만 왜 ’AI‘가 문제인지에 대해서는 책을 읽는 내내 물음표가 떠올랐습니다.

하지만 덕분에 우리가 왜 AI 윤리 북클럽이라는 이름 아래 모여앉아 책을 읽고 토론을 하는지를 다시금 확인할 수 있었습니다. 오직 ‘AI’에만 관심이 있었다면 이런 책을 읽지도, AI의 정치철학을 논하지도 않았겠죠. 분명 그보다는 공동체와 사회에 대한 관심이 우리를 AI 윤리라는 주제로 이끌었을 겁니다. 물론 우리는 AI에도 관심이 많습니다. 이 책을 통해 ‘그 어떤 것도 정치적이지 않을 수 없다’는 명제를 되새기며 AI 윤리에서 기술 윤리로 시야를 넓힐 수 있었다면, 다른 책을 통해 ‘왜 AI인가‘라는 질문에 대한 답도 찾아보려 합니다.

💡 그 외 모임에서 나온 질문들:

• 인공지능이 사용자 데이터를 기반으로 맞춤형 콘텐츠를 제공할 때, 이것이 사용자의 의사결정에 실제로 얼마나 영향을 미치는 것일까? 이러한 영향을 토대로 AI를 억압 및 착취의 도구가 아닌 변화의 도구로 만들기 위해서는 어떻게 해야 하는가?
• 거대언어모델(LLM)을 빅테크 기업만이 아니라 누구나 사용할 수 있게 된다고 더 민주적인 사회가 될까? 기업 소유의 소셜 미디어와 정부 통제 미디어 중 무엇이 더 민주적인가? 민주적이지만 더 민주적이지 않은 역설이 발생하진 않는가?
• 데이터는 누구의 것인가? 정말 이용자만의 것이라고 할 수 있는 것일까? 이용자의 것으로 규정하고 관련 제도가 마련되면 권력의 비대칭이 사라질 것인가? 그 외로는 이용자(또는 소비자)로서의 대항 권력을 갖출 방법이 없는가?
• 인간 → 동물 → 환경 → 인공지능까지 정치적 지위의 인정 범위를 계속해서 확대해야만 하는 것인가? 인간중심적이지 않은 비인간중심성은 가능한 것일까?