💪 활동가와 시민이 AI로 세상에 맞서는 법

 구글, 메타, 마이크로소프트와 같은 빅테크 기업들은 ‘AI for Good’이라는 이름으로 산불 대응, 홍수 예측, 산모 사망 문제 해결 등 다양한 사회 문제 해결 프로젝트를 추진하고 있다. 특히 아프리카 지역을 중심으로 AI 기술에 대한 투자가 이어지고 있으며, 겉으로 보기에는 사람들을 위한 선한 프로젝트로 보인다.

 그러나 이러한 프로젝트가 정말 ‘선한가’에 대해 생각해볼 필요가 있다. 일부 전문가들은 이 같은 AI 프로젝트가 지역의 디지털 인프라를 외국 기업에 종속시키고, 데이터 주권과 개인정보 보호 문제를 심화시킬 수 있다고 경고한다. 실제로 구글은 ‘AI for Good’이라는 이름 아래 위성 데이터를 활용해 아프리카 41개국, 약 4억 6천만 명을 대상으로 홍수를 예측하는 시스템을 구축했다. 이 기술은 NGO와 비영리 단체들이 홍수 이전에 취약 지역을 식별하고 지원금을 배포하는 데 활용되었고, 기존 방식으로는 상상하기 어려울 만큼 빠른 대응을 가능하게 했다. 하지만 동시에, 마이크로소프트는 스마트폰이나 인터넷 접근성이 없는 인도 농촌 노동자들의 음성 데이터를 수집해 논란이 되었고, 아르헨티나에서는 청소년 임신을 예측한다는 명목으로 북부 지역 소녀들의 개인 데이터를 수집해 강한 반발을 샀다.

 결국 누구를 위한 Good인지를 명확하게 구분해야 할 필요가 있다. AI 강국, AI 새시대를 말하는 대한민국에 살며, 진정한 'AI for Good'에 대한 희망을 갖고 싶었다. 그 과정에서 발견한 것이 아래의 아래의 사례들이다. 빅테크가 아닌, 활동가와 시민, 공동체가 스스로를 위해 AI를 이용하고, 개발하는 사례들이다.

 

AI로 기록하고 고발하기 – ICE List

ICE List 웹페이지 (클릭 시 이동)

 미국 이민세관단속국(ICE)은 팔란티어(Palantir)를 비롯한 AI 프로그램을 이용해 단속 정보 분석 등에 이용하고 있다. 국가 권력이 AI를 통해 감시와 사찰을 강화하는 상황에서, 네덜란드에 거주하는 이민 운동가 도미닉 스키너는 AI를 활용해 ICE 요원의 신원을 식별하는 활동을 시작했다. 그는 얼굴의 일부만 드러난 영상에서도 AI를 활용해 신원을 추정할 수 있다고 밝혔다.

 현재 이 활동은 Crust News가 운영하는 ICE List라는 독립적인 공공 문서화 프로젝트로 발전했다. ICE List는 흩어져 있거나 접근하기 어려웠던 이민 단속 관련 사건, 인물, 시설, 차량, 법적 구조를 기록하고 보존한다. 모든 항목에는 검증 상태가 명시되며, 증거 수준에 따라 분류된다. ICE List는 이민 단속이 점점 더 공격적으로 이루어지는 상황에서, 같은 기술을 사용해 익명성 뒤에 숨은 폭력에 대항하여 기록하고 책임을 묻는 방향으로 전환한다. 이 프로젝트는 우리로 하여금 AI 활용 자체가 아닌 누가 어떤 권력 관계 속에서 어떻게 AI를 활용하는가가 중요하다는 점을 상기시킨다.

 

혐오를 기록하다 – LEAVE HER ALONE

LEAVE HER ALONE 웹페이지 (클릭 시 이동)

 ‘LEAVE HER ALONE’은 여성에 대한 차별, 혐오, 폭력 관련 뉴스를 수집하고 기록한다. 이 사이트는 여성혐오 사건이 일시적으로 주목받았다가 빠르게 잊히는 문제의식에서 출발했다. 그런 사건들을 흩어진 채로 두지 않고, 분석하고 축적하여 이 문제의 해결에 기여하고자 한다. AI는 정보를 모으고, 분석하는 과정에서 중요한 역할을 한다. 키워드 분석과 자동 분류를 통해 여성혐오 관련 기사만을 선별하고, 동일한 사건을 다룬 여러 언론 보도를 하나로 묶어 데이터베이스화한다. 여기서 AI는 기록을 가능하게 하는 도구로 기능한다.

 

'AI' 활동가가 '인간'활동가에게 건네는 조언 – ProtestGPT

 ProtestGPT는 “AI가 시위를 기획한다면, 활동은 어떤 모습일까?”라는 질문에서 출발해 마이카 본프리가 만든 활동가 AI다. ChatGPT의 맞춤형 GPT 기능을 활용해, 과거 사회운동의 역사와 연대에 대한 자료를 학습시켰다.

 2025년 5월, 미국 스와스모어 대학 캠퍼스에서 이스라엘과의 연관성을 이유로 시스코(Cisco)에 대한 투자 철회를 요구한 농성장이 경찰에 의해 해체되었다. 학생들이 임시 정학 처분을 받았고, 이 과정에서의 절차적 정당성과 학업상 불이익에 대한 문제가 있었다. 이후 한 사람이 ProtestGPT에게 이 활동가들을 위한 조언을 요청했다. 요약하자면, ProtestGPT는 절망이나 분노에 머무르기보다 연대와 창의적 저항을 통해 운동을 지속할 것을 말한다. 제도의 언어에 규정되기를 거부하고, 신뢰 기반의 작은 공동체를 통해 서사를 기록하고 확산해야 한다고 강조한다. 농성이 끝난 이후에도, 캠퍼스 밖에서 새로운 학습과 연대의 공간을 만들어가는 것이 진정한 시작이라고 말한다.

 추상적으로 들릴 수 있지만, 활동가들이 흔히 빠지기 쉬운 감정적 소진을 넘어, 다음 행동을 요구하는 조언이기도 하다. 실제로 스와스모어 학생들은 이후에도 ZINE을 제작·배포하며 학교와 이스라엘 기관의 관계를 알리는 활동을 이어가고 있다.

 

활동가를 위한 AI – OutCryAI

OutCry AI 웹페이지 (클릭 시 이동)

 ProtestGPT의 흐름은 결국 활동가를 위한 AI의 탄생으로 이어진다. OutCryAI는 ChatGPT의 맞춤형 AI로 시작된 ProtestGPT에서 발전되어 개발된 인터렉티브 AI 활동가다. OutCry를 개발한 마이카 본프리는 사람들이 AI 활동가에 대해 가질 수 있는 회의적인 시각을 예상하고, 그가 스스로 자신에 대해 설명하도록했다.

"저는 '왜 시위는 실패하는가?'라는 질문에 진부한 답을 반복하지 않습니다. 굳어진 전술과 사고방식을 풀어내고, 새로운 상상력을 제안하는 것을 목표로 합니다."

 개발자인 마이카 본프리는 <시위의 종말(The End of Protest)> 이라는 책의 저자로, 평범한 사람들이 새로운 기술을 습득하여 어떤 정치 권력의 규칙을 다시 쓰는 순간들을 주목해왔다. 그리고 그런 전술들에는 분명한 패턴이 있고, 모든 세대의 저항은 새로운 기술을 타고 잠시나마 전술적 우위를 학보하기에, 지금 AI 또한 새로운 형태의 운동을 촉발할 수 있을 것이라 예상해 이런 실험을 시작하게 되었다고 한다. 완벽한 답변이 되기에는 이 또한 과정에 있지만 많은 사람들이 이 도구를 함께 시험하고, 비판하면서 AI가 우리의 편에 설 때 어떤 새로운 집단적 힘을 만들어낼 수 있을지 상상하는 것이 목적이라고 한다.

 OutCryAI는 과거 사회운동 사례에서 영감을 받아 캠페인을 분석하고, 전략을 제안하며, 활동가와 함께 성장하는 구조를 지향한다. 사회운동 역사서, 아나키스트 잡지, 캠페인 사례 연구 등이 훈련에 포함되었다. 기존 AI와는 다른 대안적인 방식을 추구하기 위해 1:1 대화 방식으로 고립되는 방식 대신 집단 대화를 지원한다는 점도 특징이다. 여러 명이 하나의 공유된 AI와 함께 대화할 뿐만 아니라 사용자가 선택한 사회운동 이론에 따라 AI의 어조와 전략이 조정된다. 그렇게 조정된 활동가 AI는 캠페인 아이디어 제안뿐 아니라 유동인구, 언론 노출도, 이동 편의성 등 다양한 요소를 분석해준다.

 보안의 측면에서, 현재 OutCryAI는 보안이 철저한 메신저 Signal에서도 사용 가능하도록 기능을 제공하고 있다. 별도의 앱 없이 signal에서 바로 캠페인 컨설팅을 받을 수 있고, AI를 그룹 채팅에 통합하여 한 그룹 채팅방 안에서 협업하고 개선사항을 받아볼 수 있으며, 콘텐츠를 생성할 수도 있다. PDF와 음성메일도 지원은 물론 가장 중요한 개인정보 보호를 최우선으로 한다. 스노든이 사용한 메신저로 널리 알려져있는 Signal은 오픈소스 프로토콜 기반의 암호화 기술로 대화를 보호하는 안전한 메신저다.

 처음 ProtestGPT와 OutCryAI를 접했을 때, AI와 활동에 대해 논하고 컨설팅을 받을 수 있다니 흥미로우면서도, OpenAI 모델을 활용하는 등 빅테크로부터 완전히 벗어난 실천은 아니라는 한계 역시 느꼈다. 그러나 최근 지속적으로 Signal 연동, 활동가를 위한 생성형 AI 기능 대안적인 방향의 기능 구성에 노력하고 있다. 더불어 아직은 한국어 지원되지 않지만, 점점 더 다양한 국가의 언어가 지원된다면 전세계 활동가들이 OutCry를 기반으로 교류할 수 있다면 보다 더 국제적이고 응집된 활동, 방대한 자료를 가진 AI와 협력을 하는 운동이 가능할 수 있다. 마이키 본프리는 앞으로의 과제로 남용을 방지하면서도 저항의 날을 무디게 만들지 않는 일, 살아 움직이는 시위 전술을 지속적으로 학습시키는 일을 꼽았다. 문제는 분명하지만, 그는 가능성이 그보다 크다고 말한다. 

 포털사이트는 우리가 원하든, 원하지 않든 검색 결과 위에 AI 요약을 제공하고, 이런 기술은 점점 더 다양하게, 일상 속에 스며들 것이다. 이러한 상황 속에서 AI를 무조건 거부하거나 반대로 맹목적으로 찬양하는 대신, 우리에게 도움이 되는 방식으로 사용하는 선택은 불가능할까?

 오늘 소개한 사례들은 완벽하지는 않지만, 대안적인 방향을 향해 나아가고 있다. 새로운 AI를 개발하지 않더라도, 이용자로서 분명한 가치와 관점을 가진 채 AI를 활용할 수도 있다. 예를 들어 환경단체 Friends of the Earth는 환경 정의를 위한 AI 활용 가이드를 발간했고, 사회운동가를 위한 AI 사용 가이드 역시 등장하고 있다. 이러한 실험과 도전이 계속된다면, 독립영화·독립다큐·독립미디어를 위한 AI, 더 나은 이야기와 제작 환경을 돕는 AI의 가능성도 열릴 수 있을 것이다. 창작자 가이드라인이 만들어지고, 창작자와 개발자가 협업하는 장면 역시 더 이상 낯설지 않게 될지 모른다. 우리가 미처 생각하지 못한 곳곳에서 이러한 논의가 꾸준히 이어지길 바란다. 📖

---

참고자료

ICE List 웹사이트

LEAVE HER ALONE 웹사이트

인공지능 활동가 ProtestGPT가 스와스모어의 친팔레스타인 활동가들에게 주는 조언 (AI Activism)

OutCryAI 웹사이트

OutCryAI 챗봇 (*실제 사용해보기)

사회 운동가를 위한 인공지능 활용 입문 가이드 (HARVARD Kennedy school ASH CENTER)

환경정의를 위한 인공지능 활용 가이드 (Friends of the Earth Policy)

---

글쓴이. 신한빛

미디어 전반에 관심을 가지는 오타쿠. 이것저것 공부하며, 이 배움이 어딘가에 닿기를 바라며 살고 있다. 현재는 미디액트에서 일하며, 개인적으로 상영 활동도 이어가고 있다.