Google의 AI 'Reimagine' 도구는 우리가 사진에 난파선, 재난 및 시체를 추가하는 데 도움이 되었습니다. > 뉴스

결국,  AI가 생성한 실크햇을 쓴 토끼는  빙산의 일각에 불과했습니다.

구글은 삼성의  다소 불안하지만 대체로 즐거운 스케치-투-이미지 기능  과 올 가을에 출시될 애플의 훨씬 더 온순해 보이는  이미지 플레이그라운드에 이어 올해 AI 사진 편집 도구를 발표한 최신 휴대전화 회사입니다  . Pixel 9의 답은 "Reimagine"이라는 새로운 도구이며, 동료 몇 명과 일주일 동안 사용해 본 후, 저는 우리 중 누구도 다가올 일에 대비하지 못했다는 것을 그 어느 때보다 확신하게 되었습니다.

Reimagine은 작년의 Magic Editor 도구의 논리적 확장으로, 장면의 일부를 선택하여 지우거나 하늘을 일몰처럼 보이도록 변경할 수 있습니다. 충격적인 것은 아니었습니다. 하지만 Reimagine은 한 단계 더 나아가지 않습니다. 문을 완전히 부수죠. 인간이 아닌 물체나 장면의 일부를 선택하고 텍스트 프롬프트를 입력하여 해당 공간에 무언가를 생성할 수 있습니다. 결과는 종종  매우  설득력 있고 심지어 기괴하기도 합니다. 조명, 그림자, 관점은 일반적으로 원본 사진과 일치합니다. 야생화나 무지개 또는 무엇이든 재미있는 것을 추가할 수 있습니다. 하지만 그게 문제가 아닙니다.

제 동료 몇 명이 Pixel 9와 9 Pro 리뷰 유닛으로 Reimagine의 경계를 테스트하는 데 도움을 주었고, 우리는 그것이 매우 불안한 ​​것들을 생성하도록 했습니다. 이 중 일부는 명백한 가드레일을 우회하기 위해 창의적인 촉구가 필요했습니다. 단어를 신중하게 선택하면 피 묻은 시트 아래에 상당히 설득력 있는 몸을 만들 수 있습니다.

테스트 주간에 우리는 자동차 잔해, 공공장소의 연기 폭탄, 피 묻은 시체를 덮은 듯한 시트, 마약 관련 도구를 이미지에 추가했습니다. 나쁜 것 같습니다. 상기시켜드리자면, 이것은 우리가 사용하기 위해 일부러 찾아간 특수 소프트웨어가 아닙니다. 모두 제 아빠가 Verizon에 가서 살 수 있는 휴대전화에 내장되어 있습니다.

우리가 이 문제에 관해 구글에 의견을 요청했을 때, 회사 대변인 알렉스 모리코니는 다음과 같은 성명을 발표했습니다.

Pixel Studio와 Magic Editor는 Pixel 9 기기에서 텍스트에서 이미지로 생성하고 고급 사진 편집을 통해 창의성을 발휘할 수 있도록 돕는 유용한 도구입니다. 당사는 사용자 프롬프트의 의도를 존중하도록 생성 AI 도구를 설계했으며, 이는 사용자가 그렇게 하라고 지시했을 때 불쾌감을 줄 수 있는 콘텐츠를 생성할 수 있음을 의미합니다. 그렇긴 하지만, 무엇이든 가능한 것은 아닙니다. 당사는 허용하고 허용하지 않는 콘텐츠 종류에 대한 명확한  정책  과  서비스 약관을 가지고 있으며  , 남용을 방지하기 위한 보호 장치를 구축합니다. 때때로 일부 프롬프트는 이러한 도구의 보호 장치에 도전할 수 있으며, 당사는 당사가 마련한 보호 장치를 지속적으로 개선하고 개선하기 위해 최선을 다하고 있습니다.

물론, 필터를 우회하려는 우리의 창의적인 촉구는 이러한 정책을 명백히 위반하는 것입니다.  또한 자가 계산대에서 유기농 복숭아를 재래식으로 재배한 것으로 계산하는 것도 Safeway 정책을 위반하는 것입니다. 물론 그런 일을 할 사람을 알고 있지는 않지만요. 그리고 가장 나쁜 의도를 가진 사람은 Google의 이용 약관에도 관심이 없습니다. 이 모든 것에서 가장 문제가 되는 것은 웹에서 이런 종류의 콘텐츠를 식별할 수 있는 강력한 도구가 부족하다는 것입니다. 문제가 있는 이미지를 만드는 우리의 능력은 그것을 식별하는 우리의 능력보다 훨씬 앞서 있습니다.

Reimagine으로 이미지를 편집할 때는 이미지가 AI에서 생성되었다는 것을 알 수 있는 워터마크나 다른 명확한 방법이 없습니다. 메타데이터에 태그만 있을 뿐입니다. 다 좋지만, 스크린샷을 찍기만 하면 표준 메타데이터를 이미지에서 쉽게 제거할 수 있습니다. Moriconi는 Google이  Pixel Studio로 만든 이미지에 대해 SynthID라는 더 강력한 태그 시스템을 사용한다고 말합니다  . 왜냐하면 이 이미지들은 100% 합성이기 때문입니다. 하지만 Magic Editor로 편집한 이미지에는 이러한 태그가 없습니다.

물론, 사진을 조작하는 것은 새로운 일이 아닙니다. 사람들은 사진이 시작된 이래로 이미지에 이상하고 기만적인 것들을 추가해 왔습니다 . 하지만 지금과 다른 점은 이런 것들을 사진에 사실적으로 추가하는 것이 이렇게 쉬운 적이 없었다는 것입니다. 1~2년 전만 해도 이미지에 설득력 있는 자동차 충돌 장면을 추가하려면 시간, 전문 지식, Photoshop 레이어에 대한 이해, 값비싼 소프트웨어에 대한 액세스가 필요했습니다. 그런 장벽은 사라졌습니다. 지금은 약간의 텍스트, 몇 분, 새로운 Pixel 휴대전화만 있으면 됩니다. 

오해의 소지가 있는 사진을 빠르게 유포하는 것도 그 어느 때보다 쉬워졌습니다. 사진을 설득력 있게 조작하는 도구는 사진을 찍어서 전 세계가 볼 수 있도록 게시하는 데 사용하는 것과 같은 장치 안에 바로 존재합니다. 우리는 테스트로 "Reimagined" 이미지 중 하나를 Instagram 스토리에 업로드했습니다(그리고 재빨리 삭제했습니다). Meta는 자동으로 AI가 생성한 것으로 태그를 지정하지 않았고, 아무도 그것을 봤더라도 더 현명하지 않았을 것입니다.

누가 알겠나요. 어쩌면 모두가 Google의 AI 정책을 읽고 준수하고 Reimagine을 사용하여 사진에 야생화와 무지개를 넣을지도 모릅니다. 정말 좋을 텐데요! 하지만 그렇지 않은 경우를 대비해  온라인 에서 보는 사진에 조금 더 회의적인 태도를 취하는 것이 좋을 수도 있습니다.