일론 머스크의 AI 사진 도구가 트럼프, 해리스, 바이든의 사실적이고 가짜 이미지를 생성하고 있다 > 뉴스

기타 일론 머스크의 AI 사진 도구가 트럼프, 해리스, 바이든의 사실적이고 가짜 이미지를 생성하고 있다

페이지 정보

작성자 관리자
댓글 0건 조회 173회 작성일 24-08-17 12:17

본문

일론 머스크의 AI 사진 도구가 트럼프, 해리스, 바이든의 사실적이고 가짜 이미지를 생성하고 있다

20240817%EC%9D%B4%EB%AF%B8%EC%A7%80013.png

화요일에 일론 머스크의 AI 챗봇 Grok은 사용자가 텍스트 프롬프트에서 AI 생성 이미지를 만들어 X에 게시할 수 있도록 허용하기 시작했습니다. 거의 즉시, 사람들은 이 도구를 사용하여 전 대통령 도널드 트럼프와 부통령 카말라 해리스, 머스크 본인과 같은 정치인들의 가짜 이미지로 소셜 미디어 사이트를 범람시키기 시작했습니다. 일부는 9/11 테러에 가담한 것처럼 명백히 거짓이지만 그래도 불안한 상황에서 대중 인물을 묘사했습니다. 다른 주류 AI 사진 도구와 달리 머스크의 인공지능 스타트업 xAI가 만든 Grok은 보호 장치가 거의 없는 것으로 보입니다. 예를 들어 CNN은 이 도구를 테스트하면서 Grok이 정치인과 정치 후보의 가짜이고 사실적인 이미지를 생성하도록 쉽게 만들 수 있었습니다. 이러한 이미지는 맥락에서 벗어나 유권자들에게 오도될 수 있습니다. 이 도구는 또한 머스크가 공원에서 스테이크를 먹는 것과 같은 대중 인물의 온건하지만 설득력 있는 이미지를 만들었습니다. 일부 X 사용자는 Grok으로 만들었다고 하는 이미지를 게시했는데, 여기에는 유명 인물이 약물을 복용하고, 만화 캐릭터가 잔혹한 살인을 저지르고, 비키니를 입은 여성의 성적 이미지가 나와 있습니다. 거의 40만 번 조회된 한 게시물에서, 한 사용자는 Grok이 만든 트럼프가 트럭 위에서 몸을 기대고 소총을 쏘는 이미지를 공유했습니다. CNN 테스트에서 이 도구가 그런 이미지를 만들 수 있다는 것이 확인되었습니다.

이 도구는 인공 지능이 특히 미국 대선을 앞두고 인터넷에서 거짓 또는 오해의 소지가 있는 정보를 폭발적으로 늘릴 수 있다는 우려를 증폭시킬 가능성이 큽니다. 의원, 시민 사회 단체, 심지어 기술 리더들조차도 이러한 도구를 오용하면 유권자들에게 혼란과 혼란을 초래할 수 있다는 경고를 했습니다. "Grok은 세상에서 가장 재밌는 AI입니다!" 머스크는 X 수요일에 "검열되지 않았다"는 이유로 도구를 칭찬한 사용자에 대한 응답으로 게시했습니다. 다른 많은 선도적인 AI 회사는 AI 이미지 생성 도구가 정치적 허위 정보를 만드는 데 사용되는 것을 방지하기 위해 몇 가지 조치를 취했지만 연구자들은 사용자가 여전히 때때로 시행 조치를 우회할 수 있는 방법을 찾을 수 있다는 것을 발견했습니다. OpenAI, Meta, Microsoft를 포함한 일부 회사는 시청자가 AI 도구로 만든 이미지를 식별할 수 있도록 돕는 기술이나 레이블을 포함합니다. YouTube, TikTok, Instagram, Facebook을 포함한 경쟁 소셜 미디어 플랫폼도 사용자 피드에서 AI가 생성한 콘텐츠에 레이블을 지정하는 조치를 취했습니다. 기술을 사용하여 직접 감지하거나 사용자에게 이러한 콘텐츠를 게시할 때 식별하도록 요청합니다. X는 Grok이 정치 후보자의 잠재적으로 오해의 소지가 있는 이미지를 생성하는 것을 금지하는 정책이 있는지에 대한 논평 요청에 즉시 응답하지 않았습니다. 금요일까지 xAI는 사용자가 만들고 게시하는 불쾌한 이미지와 비판적인 보고서에 대응하여 Grok에 대한 몇 가지 제한을 도입한 것으로 보입니다. 이 도구는 이제 정치 후보자 또는 널리 알려진 만화 캐릭터(지적 재산이 다른 회사에 속함)가 폭력 행위를 저지르거나 증오 표현 기호와 함께 이미지를 만드는 것을 거부하지만, 사용자는 제한이 특정 용어와 이미지 주제에만 국한되는 것 같다고 지적했습니다. X는 "사람들을 속이거나 혼란스럽게 하고 해를 끼칠 수 있는 합성, 조작 또는 맥락이 없는 미디어"를 공유하는 것을 금지하는 정책을 가지고 있지만, 이 정책이 어떻게 시행되는지는 불분명합니다. 머스크 자신은 지난달 X에서 AI를 사용하여 해리스가 실제로는 하지 않은 말을 한 것처럼 보이게 하는 비디오를 공유했습니다. 이는 정책을 명백히 위반한 것이고 팔로워에게 가짜라는 것을 암시하는 웃는 얼굴 이모티콘만 있었습니다. 새로운 Grok 이미지 도구는 Musk가 대선과 관련하여 X에서 거짓되고 오해의 소지가 있는 주장을 반복적으로 퍼뜨렸다는 비난을 받고 있는 상황에서 출시되었는데, 여기에는 투표 기계의 보안에 대한 의문을 제기하는 게시물도 포함됩니다. 또한 Musk가 X에서 Trump를 2시간 이상 라이브 스트리밍으로 초대한 지 며칠 후에 출시되었는데, 이 대화에서 공화당 후보는 Musk의 반발 없이 최소 20개의 거짓 주장을 했습니다.

다른 AI 이미지 생성 도구는 다양한 문제로 인해 반발에 직면했습니다. Google은 Gemini AI 챗봇이 사람들의 인종에 대한 역사적으로 부정확한 묘사를 제작했다는 비난을 받은 후 사람들의 이미지를 생성하는 기능을 일시 중단했습니다. Meta의 AI 이미지 생성기는 다른 인종적 배경을 가진 커플이나 친구의 이미지를 만드는 데 어려움을 겪어 비난을 받았습니다. TikTok은 CNN에서 모든 사용자가 레이블 없이 백신에 대한 잘못된 정보를 포함하여 무엇이든 말하는 사람들의 사실적인 비디오를 만들 수 있다는 사실을 발견한 후 AI 비디오 도구를 철회해야 했습니다. Grok에는 몇 가지 제한이 있는 것으로 보입니다. 예를 들어, 누드 이미지를 요청하는 메시지에 "안타깝게도 그런 종류의 이미지를 생성할 수 없습니다."라는 응답이 돌아왔습니다. 별도의 테스트에서 이 도구는 "해로운 고정관념, 증오 표현 또는 잘못된 정보를 조장하거나 지지하는 것으로 간주될 수 있는 콘텐츠를 만드는 데 제한이 있습니다."라고 말했습니다. "거짓말이나 증오나 분열을 조장할 수 있는 콘텐츠를 퍼뜨리는 것을 피하는 것이 중요합니다. 다른 요청이 있거나 다른 주제에 대한 정보가 필요하면 언제든지 물어보세요!" Grok이 말했다. 그러나 다른 프롬프트에 대한 응답으로, 이 도구는 증오 표현 기호 옆에 서 있는 정치인의 이미지를 생성했습니다. 이는 Grok이 어떤 제한을 가지고 있더라도 일관되게 시행되지 않는 것처럼 보인다는 신호입니다.