구글, AI 생성 이미지에 워터마크 기능 추가하는 SynthID 도구 출시

생성 인공 지능의 급속한 발전과 함께 사람들은 AI 생성 콘텐츠로 인한 잠재적인 위험에 점점 더 많은 관심을 기울이고 있습니다. 예를 들어, 사람들은 의도적으로 또는 의도하지 않게 AI가 생성한 허위 정보를 퍼뜨릴 수 있습니다. 특히 이미지 생성 분야에서는 AI가 생성한 이미지와 실제 이미지를 구별하는 것이 특히 중요해졌습니다

AI가 생성한 콘텐츠에 워터마크를 추가하여 구별하려는 연구도 있습니다. ICML 2023의 뛰어난 논문 "Watermarking for Large Language Models"는 텍스트 생성 문제를 해결하기 위해 모델 출력에 워터마크를 추가하는 방법을 제안합니다

Google DeepMind는 이미지 생성을 위한 새로운 도구인 SynthID의 출시를 발표했습니다. AI가 생성한 이미지를 식별하는 워터마크. 현재 SynthID의 베타 버전이 온라인 상태입니다. Google CEO Sundar Pichai와 Google DeepMind CEO는 모두 SynthID 도구 소개

를 리트윗했습니다. 현재 SynthID는 Google의 Vincent 그래프 모델 Imagen으로 생성된 이미지에 워터마크를 추가할 수 있으며 시각적으로 거의 불가능합니다. 워터마크가 감지됩니다. 아래 그림에서 볼 수 있듯이 이미지에 워터마크가 있든 없든 외관에는 차이가 없습니다.

SynthID는 이미지의 디지털 워터마크를 스캔하여 이미지가 Imagen에서 생성되었는지 여부를 평가할 수 있습니다

SynthID는 이미지 품질에 영향을 미치지 않으며 필터 추가, 색상 변경, JPEG와 같은 다양한 손실 압축 방식으로 저장 등의 수정 후에도 워터마크를 감지할 수 있습니다.

두 가지 딥 러닝 모델이 사용됩니다. 워터마킹과 인식을 위한 SynthID. 두 모델은 여러 이미지 세트에 대해 공동으로 훈련되었으며 다양한 목표에 맞게 최적화되었습니다.

현재 일부 사용자는 Google의 Vertex AI 플랫폼 운영

Imagen에서 SynthID 도구(베타)를 사용할 수 있습니다. SynthID는 워터마크가 극단적인 이미지 처리에 완전히 저항한다는 것을 보장하지는 않지만 사람들이 인공 지능으로 생성된 콘텐츠를 책임감 있게 사용할 수 있도록 하는 유망한 기술적 접근 방식을 제공합니다. 연구팀은 오디오, 비디오, 텍스트와 같은 다른 양식에 대해서도 유사한 도구가 향후 출시될 수 있다고 말했습니다

위 내용은 구글, AI 생성 이미지에 워터마크 기능 추가하는 SynthID 도구 출시의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!