Google, AI로 만든 이미지를 알아내는 SynthID 출시

---

SynthID helps watermark and identify synthetic images created by Imagen

SynthID는 Imagen에서 생성된 합성 이미지를 워터마크에 표시하고 식별하는 데 도움이 됩니다.

---

AI가 만든 이미지가 날이 갈수록 인기를 얻고 있습니다. 하지만 특히 너무 현실적으로 보이는 경우 어떻게 알아낼 수 있을까요?

​

Google Cloud와 DeepMind는 협력하여 AI 생성 이미지를 워터마킹하고 식별하는 도구 SynthID(신스아이디) 베타 버전을 출시했습니다. 이 기술은 디지털 워터마크를 이미지의 픽셀에 직접 삽입하여 사람의 눈에는 감지할 수 없지만 식별을 위해 감지할 수 있게 만듭니다. SynthID는 입력 텍스트를 사용하여 사실적인 이미지를 생성하는 최신 텍스트-이미지 모델 중 하나인 이미젠(Imagen)을 사용하여 제한된 수의 이미지 생성 AI(Vertex AI) 고객에게 제공되고 있습니다.

​

생성 AI(Generative AI) 기술은 빠르게 발전하고 있으며, '합성 이미지'라고도 알려진 컴퓨터의 AI 시스템에서 만든 이미지는 그렇지 않은 이미지와 구별하기 점점 더 어려워지고 있습니다.

​

생성 AI는 엄청난 창의적 잠재력을 발휘할 수 있지만 제작자가 의도적으로 또는 의도치 않게 잘못된 정보를 퍼뜨리는 등의 새로운 위험도 제시합니다. AI가 만든 콘텐츠를 식별할 수 있는 능력은 사람들이 언제 생성된 미디어와 상호 작용하는지에 대한 지식을 제공하고 잘못된 정보의 확산을 방지하는 데 중요합니다.

​

우리는 고품질 정보로 사람들을 연결하고 사회 전반에 걸쳐 창작자와 사용자 간의 신뢰를 유지하기 위해 최선을 다하고 있습니다. 이러한 책임 중 하나는 사용자에게 AI 생성 이미지를 식별할 수 있는 고급 도구를 제공하여 나중에 이미지와 일부 편집된 버전까지 식별할 수 있도록 하는 것입니다.

Google Cloud는 AI가 만든 이미지를 확실하게 식별할 수 있는 도구를 제공하는 최초의 클라우드 제공업체입니다. 이 기술은 AI를 개발하고 배포하는 접근 방식에 기반을 두고 있으며 Google DeepMind에서 개발하고 Google Research와의 파트너십을 통해 개선되었습니다.

​

SynthID는 극단적인 이미지 조작에 대해 완벽하지는 않지만 사람 뿐 아니라 회사와 같은 곳에서 AI가 만든 콘텐츠를 책임감 있게 사용할 수 있도록 지원하는 유망한 기술적 접근 방식을 제공합니다. 이 도구는 오디오, 비디오, 텍스트와 같은 이미지를 넘어 다른 AI 모델 및 양식과 함께 발전할 수도 있습니다.

​

AI 이미지를 위한 새로운 유형의 워터마크

워터마크는 이미지를 식별하기 위해 이미지에 겹쳐서 표시할 수 있는 디자인입니다. 종이에 찍힌 실제 인쇄물부터 오늘날 디지털 사진에 나타나는 반투명 텍스트와 기호에 이르기까지 역사 전반에 걸쳐 진화해 왔습니다.

​

기존 워터마크는 이미지에 스탬프처럼 적용되는 경우가 많고 쉽게 편집할 수 있기 때문에 AI 생성 이미지를 식별하는 데 충분하지 않습니다. 예를 들어, 이미지 모서리에 있는 개별 워터마크는 기본 편집 기술을 사용하여 잘라낼 수 있습니다.

​

이미지 조작에 대한 민감성과 견고성 사이의 적절한 균형을 찾는 것은 어렵습니다. 흔히 이미지 상단에 이름이나 로고가 있는 레이어로 추가되는 눈에 잘 띄는 워터마크는 창의적이거나 상업적인 목적을 위한 미학적 문제도 제시합니다. 마찬가지로, 이전에 개발된 일부 눈에 띄지 않는 워터마크는 크기 조정과 같은 간단한 편집 기술을 통해 손실될 수 있습니다.

SynthID는 이미지 품질을 손상시키지 않고 필터 추가, 색상 변경, JPEG에 가장 일반적으로 사용되는 다양한 손실 압축 방식으로 저장 등의 수정 후에도 워터마크가 감지 가능한 상태를 유지할 수 있도록 했습니다.

​

SynthID는 워터마킹과 식별을 위해 다양한 이미지 세트에 대해 함께 훈련된 두 가지 딥 러닝 모델을 사용합니다. 결합된 모델은 워터마크가 있는 콘텐츠를 정확하게 식별하고 워터마크를 원본 콘텐츠에 시각적으로 정렬하여 인지도를 높이는 등 다양한 목표에 맞게 최적화되었습니다.

​

강력하고 확장 가능한 접근 방식

SynthID를 사용하면 이미지 생성 AI(Vertex AI)를 사용한 고객은 AI 생성 이미지를 책임감 있게 만들 수 있고, 자신 있게 확인할 수 있습니다. 이 기술은 현재까지 완벽하지는 않지만, 내부 테스트에 따르면 많은 일반적인 이미지 조작을 정확하게 확인 했던 것으로 나타났습니다.

​

SynthID의 결합된 접근 방식:

​

• 워터마킹 : SynthID는 Imagen에서 생성된 합성 이미지에 눈에 띄지 않는 워터마크를 추가할 수 있습니다. ‍
• 식별 : 이미지에서 디지털 워터마크를 스캔함으로써 SynthID는 Imagen에 의해 이미지가 생성될 가능성을 평가할 수 있습니다.

이 도구는 워터마크 식별 결과를 해석하기 위한 세 가지 신뢰 수준을 제공합니다. 디지털 워터마크가 감지되면 이미지의 일부가 Imagen에 의해 생성될 가능성이 높습니다.

​

SynthID는 디지털 콘텐츠를 식별하기 위한 광범위한 접근 방식이 제공됩니다. 콘텐츠를 식별하는 데 가장 널리 사용되는 방법 중 하나는 콘텐츠를 만든 사람과 시기 등의 정보를 제공하는 메타데이터를 이용하는 것입니다. 이 정보는 이미지 파일과 함께 저장됩니다. 메타데이터에 추가된 디지털 서명을 통해 이미지가 변경되었는지 확인할 수 있습니다.

​

메타데이터 정보가 손상되지 않은 경우 사용자는 이미지를 쉽게 식별할 수 있습니다. 그러나 메타데이터는 파일을 편집할 때 수동으로 제거되거나 손실될 수도 있습니다. SynthID의 워터마크는 이미지의 픽셀에 내장되어 있기 때문에 메타데이터를 기반으로 하는 다른 이미지 식별 접근 방식과 호환되며 메타데이터가 손실된 경우에도 계속 감지할 수 있다고 합니다.

---

※ 기사 내용 참조

​

[Google DeepMind] Identifying AI-generated images with SynthID | August 29, 2023 | https://www.deepmind.com/blog/identifying-ai-generated-images-with-synthid

---

https://pf.kakao.com/_UCxoxnT

웨어러블서치