AI 생성 선거 광고 확산과 진짜·가짜 구별 문제
2026년 정치 광고에서 AI로 생성한 이미지들. 대상은 James Talarico, Mike Mazzei, Peggy Flanagan, Kathy Hochul, Zohran Mamdani이다. (NRSC; Make Oklahoma Great Again PAC via Oklahoma PBS; North Star Dawn PAC via KSTP; Blakeman for Governor)
중간선거가 코앞으로 다가왔고, 캠페인과 PAC들은 이미 AI로 만든 광고를 내보내는 데 \$137 million 이상을 썼다. 여기에는 텍사스 상원 후보 James Talarico가 카메라를 바라보며 예전 트윗을 소리 내어 읽고, 실제로는 한 적 없는 자극적인 వ్యాఖ్య를 하는 85초짜리 영상도 포함된다. 이를 제작한 것은 상원 공화당의 선거운동 조직이다. UC Berkeley의 딥페이크 전문가 Hany Farid는 말했다 대부분의 사람은 그것이 가짜라는 사실을 곧바로 알아차리지 못할 것이라고. “AI GENERATED” 표시는 모서리 한쪽에 작고 희미하게 들어가 있다.
지금부터 11월 3일까지, TV나 피드에 뜨는 후보자의 영상은 무엇이든 조작되었을 수 있으며, 대부분은 AI 라벨조차 붙어 있지 않다. 나는 딥페이크가 쏟아질 것이라고 계속 예고해 왔고, 우리가 행동하지 않으면 상황은 더 나빠질까 봐 두렵다.
James Talarico가 자신의 말로 전하는 내용: pic.twitter.com/lDlUoqBbP7
— Senate Republicans (@NRSC) March 11, 2026
2024년, 나는 비영리단체 TrueMedia.org를 세워 정치 딥페이크와 싸우는 데 1년을 바쳤다. TrueMedia.org의 유능한 팀은 최첨단 딥페이크 탐지기를 기록적인 속도로 개발했고, 이를 무료로 널리 배포했다. 이 탐지기는 전 세계 선거에서 60,000건 이상의 이미지, 영상, 오디오 클립을 분석했지만, 아직 초기 단계였다.
\$137 million이라는 수치를 보고한 Wesleyan Media Project는 2024년 전체 선거 주기에서 AI 광고 지출이 50,000달러에도 못 미쳤다고 밝혔다. 2025년 1월, 나는 말했다. “2024년에는 그 현상이 나타나지 않았다. 그렇다고 해서 앞으로도 오지 않는다는 뜻은 아니다.” 우리는 이 기술을 오픈소스로 공개했고 Georgetown University에 넘겼으며, Georgetown은 현재 선거 주기의 정점에 맞춰 TrueMedia.org를 되살렸다.
나는 외국 공작원들이 가장 많은 가짜를 만들 것이라고 예상했다. 하지만 2026년에는 미국의 캠페인과 PAC들이 텔레비전과 피드에서 딥페이크를 만들어내고 있다.
Wesleyan Media Project가 집계한 많은 AI 광고는 해가 없다. 어떤 것은 단지 외형만 바꾼 수준이다. 예를 들어 오클라호마 후보 Chip Keating의 정지 사진을 미소 짓는 모습으로 애니메이션 처리하거나, 캠페인이 예전에는 스톡 영상을 사서 쓰던 자리에 합성한 가족이 부엌 식탁에 앉아 있는 장면 같은 것이다. 50년 동안 캠페인 광고를 만들어온 Fred Davis는 The New York Times에, 과거라면 촬영에 \$2 million이 들었을 장면을 이제는 생성하는 데 약 \$200,000이면 된다고 말했다. 아무도 속지 않는다.
다른 것들은 보기만 해도 황당하다. Bruce Blakeman 캠페인 광고에서 뉴욕의 주지사와 시장이 함께 정원을 가꾸며 “정치적 망상 약”을 홍보한다든가, Spencer Pratt가 Batman이 되어 토마토를 든 지친 로스앤젤레스 시민들을 이끄는 식이다. Pratt는 로스앤젤레스 시장 예비선거에서 3위를 했다. 이런 것들은 살아 움직이는 정치 만화이며, 보호받는 풍자다. NYU의 Scott Babwah Brennen은 이 장르를 “AI-generated slopaganda”라고 부른다. 즉, 논증을 하려는 것이 아니라 감정을 흔들기 위해 만들어진 정치적 슬롭이다.
.@KathyHochul과 @ZohranKMamdani는 변명과 빈 약속, 그리고 "망상 약"으로 뉴욕의 생활비 위기를 해결할 수 있다고 생각한다.
그들의 정책이 낳는 진짜 부작용은 농담이 아니다: 요금 인상 48건, 더 높은 세금, 통제 불가능한 정부 지출, 그리고… pic.twitter.com/CWxttSRwUK
— Bruce Blakeman (@NassauExec) September 1, 2026
세 번째 유형은 Talarico 영상처럼 믿도록 만들어진 것이다. Make Oklahoma Great Again PAC 광고는 주지사 후보 Mike Mazzei를 "Clinton Lover. Trump Hater"라는 문구 아래 힐러리 클린턴과 볼을 맞댄 모습으로 보여줬지만, AI 표시는 없었다. 이 PAC는 이 광고를 오클라호마 TV에 내보내는 데 20만 달러 넘게 썼다. 미네소타의 한 PAC 광고는 상원 후보 Peggy Flanagan이 돈더미 앞에서 손을 뻗고 있는 모습을 보여줬다. Talarico의 자체 광고는 이제 마지막에 “사람이 만들었으며, A.I.는 아닙니다”라는 문구로 끝난다.
North Star Dawn PAC 광고는 미네소타 상원 후보 Peggy Flanagan을 돈더미 앞에 세워 보여줬다. (North Star Dawn PAC via KSTP)
기만적인 가짜가 꼭 고품질일 필요는 없다. 2021년 실험에서 5,750명을 대상으로 했을 때, 엘리자베스 워런의 딥페이크는 조작된 스캔들이 실제라고 47%가 믿게 만들었고, 단순한 가짜 헤드라인도 43%를 속였다.
유타 밸리 대학교 연구는 올해 6월 유권자들이 딥페이크를 제대로 식별한 비율이 약 16%에 불과했으며, 스스로 “매우 잘 안다”고 한 사람들도 전혀 익숙하지 않다고 한 사람들보다 나을 게 없었다고 밝혔다. 미디어 리터러시는 딥페이크에 대한 면역이 아니다.
이미 존재하는 법은 이 문제를 해결하지 못한다. 적어도 31개 주에 딥페이크 선거 관련 법령이 있다. Wesleyan 연구진은 법이 있는 주에서는 AI 광고의 29%가 라벨이 붙어 있었고, 법이 없는 주에서는 32%가 라벨이 붙어 있었다고 밝혔다.
라벨이 있어도 유권자들은 종종 이를 놓친다. NYU의 Center on Technology Policy는 1,051명에게 라벨이 붙은 광고와 붙지 않은 광고를 보여줬다. 37%는 미시간 주의 필수 고지 문구를 아예 본 기억이 없었고, 그 문구가 “AI”가 아니라 “기술적 수단에 의해 조작됨”이라고 되어 있어 AI를 사용한 기술이라고 정확히 식별한 비율은 21%에 불과했다. 라벨이 확실하게 한 유일한 일은 그 광고를 낸 후보에 대한 신뢰를 낮추는 것이었고, 그래서 캠페인들은 그 라벨을 빼버린다.
내가 제안하는 해결책은 간단하다. 기술이 아니라 화면에 나오는 사람이 기준이 되어야 한다는 것이다. 실제 인물이 자신이 이런 방식으로 보여지는 데 동의했는가? 그렇지 않다면, 그 광고는 화면과 음성 모두에 평이한 언어의 라벨을 달아야 하며, 아니면 방송할 수 없다. 방송국 관리자는 이 테스트를 1분이면 적용할 수 있다. 이는 누구도 “기만적”의 정의를 내릴 수 없다는 불만에 대한 답이기도 하다. 이 규칙은 유료 정치 광고에만 적용돼야 하며, 방송사가 이미 방송 전에 모든 광고를 검토하는 바로 그 영역을 다뤄야 한다. 밈, 풍자 계정, 그리고 사촌의 단체 채팅은 또 다른 문제다.
지금 TrueMedia를 이끄는 조지타운 연구자 Sejin Paik은 텔레비전 문제를 분명하게 말한다. “TV에서는 AI 광고 지출이 늘고 있고, 시청자가 기만적인 광고를 볼 때 군중의 반응이나 출처 표시가 그들의 생각을 바꿀 여지가 거의 없습니다.”
H.R. 9922는 연방 차원의 고지 의무 규정을 마련할 것이며, 컨설턴트 업계의 자체 무역 단체도 주별로 뒤죽박죽인 제도를 대체할 연방 기준을 요구하고 있다. 규제받는 당사자가 그 규제를 요구한다면, 통과시키면 된다.
유권자들은 의회보다 앞서 있습니다. 이번 달 Scripps News 여론조사에서 등록 유권자의 43%는 이번 선거에서 이미 AI로 만든 광고에 속았다고 답했고, 민주당 지지자의 77%와 공화당 지지자의 79%는 정치에서 AI에 대한 규칙이 필요하다고 말했습니다.
앞으로를 내다보면, 2028년 선거는 대통령 선거입니다. 우리는 더 많은 기만적인 AI 광고로 범람하는 상황을 원하지 않습니다. 지금 시작한다면, 규칙과 절차를 마련하는 데 2년이면 충분합니다.
출처
- 원문: https://www.geekwire.com/2026/etzioni-on-ai-137m-ai-generated-midterm-ads/ (2026-10-25 · Oren Etzioni)