AI 딥페이크, 미국 민주주의를 위협하다

2024년 대선, AI 기반 허위 정보로 혼란 가중

▲ AI 기술을 활용한 딥페이크 이미지 예시 (사진=Unsplash)

2024년 미국 대선은 인공지능(AI) 기술의 발전으로 인해 전례 없는 정보 왜곡과 허위 정보 확산의 장이 되었다. 특히, AI를 활용한 딥페이크 기술은 후보자들의 이미지와 발언을 조작하여 유권자들의 판단을 흐리게 만들었다. 이러한 기술은 단순한 장난을 넘어 민주주의의 근간을 위협하는 수준에 이르렀다.

실제로, 한 정치 컨설턴트는 AI를 이용해 조 바이든 대통령의 목소리를 모방한 로보콜을 제작하여 뉴햄프셔주 유권자들에게 전화를 걸었다. 이 사건으로 해당 컨설턴트는 600만 달러의 벌금을 부과받았으며, 통신업체인 링고 텔레콤도 100만 달러의 벌금을 물게 되었다 .Reuters

또한, 러시아의 선전 그룹인 'Storm-1516'은 AI를 활용하여 가짜 뉴스와 이미지를 제작, 확산시켰다. 이들은 카말라 해리스 부통령과 팀 월즈 부통령 후보에 대한 허위 정보를 퍼뜨려 선거에 영향을 미치려 했다 .위키피디아

이러한 상황에 대응하기 위해, 텍사스주에서는 정치 광고에 AI로 생성된 콘텐츠가 포함될 경우 이를 명시하도록 하는 법안을 발의했다. 그러나 이 법안은 표현의 자유를 침해할 수 있다는 우려로 논란이 되고 있다 .San Antonio Express-News+1Reuters+1

전문가들은 AI 기술의 발전이 정치에 미치는 영향을 면밀히 분석하고, 이에 대한 규제와 대응 방안을 마련해야 한다고 강조한다. 특히, 유권자들은 정보를 접할 때 그 출처와 진위를 신중히 검토하는 태도가 필요하다.

 [AI 딥페이크 관련 주요 사건 정리]

사건	내용	결과
조 바이든 로보콜 사건	AI로 바이든 목소리를 모방한 로보콜 제작	컨설턴트 600만 달러 벌금, 통신업체 100만 달러 벌금
러시아 'Storm-1516' 활동	AI로 가짜 뉴스 및 이미지 제작	선거 개입 시도, 국제적 비난
텍사스주 법안 발의	정치 광고에 AI 콘텐츠 명시 의무화	표현의 자유 침해 우려로 논란

자료: 미국 연방통신위원회(FCC), 언론 보도 종합

글｜Berrive Magazine 편집부

※ 본 기사는 정보 제공을 목적으로 하며, 정치적 판단은 독자의 책임입니다.