기타 일론 머스크가 공유한 패러디 광고에서 카말라 해리스의 목소리를 복제해 정치권에서의 AI에 대한 우려를 제기
페이지 정보
본문
일론 머스크가 공유한 패러디 광고에서 카말라 해리스의 목소리를 복제해 정치권에서의 AI에 대한 우려를 제기
인공지능 음성 복제 도구를 이용해 카말라 해리스 부통령 이 하지 않은 말을 하는 목소리를 흉내 내는 영상이 공개되면서, 선거가 3개월 앞으로 다가온 가운데 AI가 유권자들을 오도할 수 있는 힘에 대한 우려가 커지고 있다.
이 영상은 기술계 억만장자 일론 머스크가 금요일에 자신의 소셜 미디어 플랫폼 X에 원래 패러디로 공개되었다는 사실을 명확히 밝히지 않은 채 공유 한 뒤 주목을 받았다 .
일요일 늦게, 머스크는 해당 영상이 풍자 영상임을 명확히 밝혔고, 원래 제작자의 게시물을 자신의 프로필에 고정했으며, 패러디가 범죄가 아니라는 점을 강조하기 위해 언어 유희를 사용했습니다.
이 영상은 민주당 대선 후보로 유력한 해리스 가 캠페인을 시작하면서 공개한 실제 광고와 동일한 비주얼을 많이 사용합니다 . 하지만 가짜 광고는 해리스의 음성을 AI가 생성한 음성으로 바꿔 해리스를 설득력 있게 가장합니다.
AI 음성은 영상에서 "저, 카말라 해리스는 조 바이든이 토론에서 마침내 자신의 노망을 드러냈기 때문에 민주당 대선 후보입니다."라고 말합니다. 해리스는 여성이자 유색인종이 기 때문에 "다양성 채용"이라고 주장하며 , 그녀는 "나라를 운영하는 것에 대해 아무것도 모른다"고 말합니다. 영상은 "해리스를 대통령으로"라는 브랜딩을 그대로 유지했습니다. 또한 해리스의 과거 클립을 몇 개 더 추가했습니다.
해리스 캠페인 대변인인 미아 에렌버그는 AP 통신에 보낸 이메일에서 "우리는 미국 국민이 해리스 부통령이 제공하는 진정한 자유, 기회, 안보를 원한다고 믿습니다. 일론 머스크와 도널드 트럼프의 가짜, 조작된 거짓말은 원하지 않습니다."라고 말했습니다.
널리 공유된 이 영상은 미국이 대선을 앞두고 정치를 조롱하고 오도하는 데에 실제와 같은 AI 생성 이미지, 비디오 또는 오디오 클립이 어떻게 활용되었는지를 보여주는 사례입니다. 고품질 AI 도구가 훨씬 더 쉽게 접근 가능 해졌음 에도 불구하고, 사용을 규제하기 위한 상당한 연방 조치가 부족하여 정치에서 AI를 안내하는 규칙이 주로 주와 소셜 미디어 플랫폼에 맡겨져 있음을 보여줍니다.
이 영상은 AI의 적절한 사용으로 간주되는 것의 경계가 모호한 콘텐츠를 가장 잘 처리하는 방법에 대한 의문을 제기합니다. 특히 풍자 범주에 속하는 경우 더욱 그렇습니다.
영상을 게시한 원래 사용자인 Mr Reagan이라는 유튜버는 YouTube와 X에서 처음부터 조작된 영상이 패러디라고 밝혔습니다. 하지만 플랫폼에 따르면 X에서 1억 3천만 뷰로 훨씬 더 광범위한 도달 범위를 보인 Musk의 영상이 담긴 최초 게시물에는 웃는 이모티콘과 함께 "이거 대단해"라는 캡션만 포함되었습니다.
주말에 머스크가 자신의 프로필에서 해당 영상이 농담이라고 밝히기 전에 X의 "커뮤니티 노트" 기능에 참여한 일부 사람들은 그의 게시물을 조작된 것으로 분류하자고 제안했습니다. 머스크가 패러디 영상에 대해 별도로 게시했음에도 불구하고 그러한 라벨은 추가되지 않았습니다.
일부 온라인 사용자는 그의 첫 게시물이 X의 정책을 위반할 수 있는지 의문을 제기했습니다 . 이 정책은 사용자가 "사람들을 속이거나 혼란스럽게 하고 해를 끼칠 수 있는 합성적, 조작적 또는 맥락이 없는 미디어를 공유할 수 없습니다"라고 명시하고 있습니다.
이 정책은 "미디어의 진실성에 대한 심각한 혼란"을 야기하지 않는 한 밈과 풍자에 대한 예외를 두고 있습니다.
Mr Reagan 온라인 페르소나의 배후에 있는 Chris Kohls는 AP 기자에게 월요일 이른 아침에 이 시련에 대응하여 게시한 YouTube 비디오를 가리켰습니다. YouTube 비디오에서 그는 AI를 사용하여 가짜 광고를 만들었다고 확인했고, 레이블이 있든 없든 분명히 패러디라고 주장했습니다.
머스크는 이번 달 초 공화당 전 대통령이자 현직 후보인 트럼프를 지지했다. 그는 이메일로 보낸 코멘트 요청에 응답하지 않았다.
AI가 생성한 미디어를 전문으로 하는 두 명의 전문가가 가짜 광고의 오디오를 검토한 결과, 대부분이 AI 기술을 사용하여 생성되었다는 것을 확인했습니다.
캘리포니아 대학교 버클리 캠퍼스의 디지털 포렌식 전문가인 하니 파리드는 이 영상이 생성적 AI와 딥페이크의 힘을 보여준다고 말했습니다.
그는 이메일에서 "AI가 생성한 음성은 매우 좋습니다."라고 말했습니다. "대부분의 사람들이 그것이 해리스 부통령의 목소리라고 믿지 않을지라도, 그녀의 목소리로 된 단어가 있을 때 영상은 훨씬 더 강력합니다."
그는 음성 복제 도구와 기타 AI 도구를 대중에게 제공하는 생성 AI 기업은 자사 서비스가 사람이나 민주주의에 해를 끼칠 수 있는 방식으로 사용되지 않도록 더욱 노력해야 한다고 말했습니다.
옹호 단체인 퍼블릭 시티즌의 공동 대표인 롭 와이스먼은 파리드의 의견에 동의하지 않으며, 많은 사람이 이 영상에 속을 것이라고 생각한다고 말했습니다.
"대부분 사람들이 그것을 보고 농담이라고 생각하지 않을 거라고 확신해요." 바이스먼은 인터뷰에서 말했다. "품질은 좋지 않지만 충분히 좋습니다. 그리고 그것이 그녀 주변에서 퍼져 나간 기존 테마에 부합하기 때문에 대부분 사람들은 그것이 진짜라고 믿을 겁니다."
의회, 연방 기관 및 주에서 생성 AI를 규제하도록 옹호해 온 조직인 와이스먼은 이 영상이 "우리가 경고해 온 종류의 것"이라고 말했습니다.
미국과 다른 지역의 다른 생성적 AI 딥페이크는 잘못된 정보, 유머 또는 둘 다를 통해 유권자에게 영향을 미치려고 시도했습니다. 2023년 슬로바키아에서 가짜 오디오 클립은 선거를 조작하고 투표 며칠 전에 맥주 가격을 인상할 계획을 논의하는 후보를 사칭했습니다. 2022년 루이지애나에서 정치 행동 위원회의 풍자 광고 는 루이지애나 시장 후보의 얼굴을 성적이 낮은 고등학생으로 묘사한 배우에게 중첩했습니다.
의회는 아직 정치에서 AI에 대한 법안을 통과시키지 않았고, 연방 기관은 제한된 조치만 취했으며, 대부분의 기존 미국 규제는 주에 맡겨졌습니다. National Conference of State Legislatures에 따르면, 주의 3분의 1 이상이 캠페인과 선거에서 AI 사용을 규제하는 자체 법률을 만들었습니다 .
X 외에도 다른 소셜 미디어 회사도 플랫폼에서 공유되는 합성 및 조작된 미디어에 대한 정책을 만들었습니다. 예를 들어 비디오 플랫폼 YouTube의 사용자는 생성적 인공 지능을 사용하여 비디오를 만들었는지 여부를 공개해야 하며 그렇지 않으면 정지됩니다.
댓글목록
등록된 댓글이 없습니다.
