핀터레스트, AI로 생성된 이미지에 자동 라벨링 기능 도입

핀터레스트

 

핀터레스트는 이미지, 동영상을 통해 아이디어를 저장하고 공유할 수 있는 소셜 미디어 플랫폼이다. 관심사 기반의 시각적 탐색과 콘텐츠 수집에 초점을 둔 서비스이다. 주로 디자이너들이 많이 사용하는 SNS라고 생각하면 된다.

인테리어 아이디어를 찾거나 브랜드 마케팅, 프로젝트 구상 등 주로 디자인 관련 업종에서 일하는 사람들이 많이 이용을 한다. 특히 이미지를 통해서 유사한 컨텐츠를 검색하거나 추천해주는 기능이 일품이다.

 

생성형 AI로 제작되거나 편집된 이미지에 자동으로 "AI 수정됨(AI mdified)"이라는 라벨을 부착하는 기능을 도입했다.

핀터레스트는 몇 개월간 AI로 편집된 이미지를 검출하는 기능을 테스트해왔고 이미지의 메타데이터를 분석해서 AI 생성 여부를 감지하는 시스템을 구축했다. 메타데이터가 없는 경우에도 AI 생성 콘텐츠를 탐지할 수 있는 자동 감지기를 개발중이다. AI 생성 콘텐츠를 정확히 식별하는 것은 여전히 어려운 과제이며, 오류가 있을 경우 사용자가 이의를 제기 할 수 있다고 한다.

 

라벨은 이미지 핀을 확대하여 열람하면 좌측 하단에 나타난다. 일반적인 메타데이터 분석을 넘어 자체적으로 개발한 이미지 분류기를 활용해 AI 생성 여부를 자동으로 탐지한다. 이 분류기는 명시적인 표시가 없는 경우에는 콘텐츠의 시각적 특징을 분석해 생성형 인공지능의 개입 여부를 판단하도록 고안되었다. 탐지 기술은 계속 개선되고 있으며, 정확도 향상을 위한 고도화 작업을 병행하고 있다. AI로 생성된 콘텐츠를 필터링 하는 기능도 추후에 도입할 계획이다.

 

기술 책임자는 핀터레스트 내에서 AI 컨텐츠가 사용자에게 영감을 주고 실질적인 행동으로 이어지려면 그 출처와 성격을 명확히 파악할 수 있어야 한다며 이번 라벨링 기능은 생성형 AI 시대에 걸맞은 투명성과 책임성을 구현하기 위한 전력적 조치라고 말했다.

 

사용자 신뢰를 높이기 위해서 AI 생성 콘텐츠를 명시적으로 표시하는 조치이다. AI에 의해서 자동으로 생성되는 이미지, 동영상으로 인하여 서비스 품질이 하락하는 것을 방지하기 위한 조치로 보여진다.

AI에 의해 자동으로 생성되는 이미지를 보면 대단하다는 생각이 든다. 사람이 생각한 것보다 더 창의적 일 수도 있다.

하지만 무분별하게 자동으로 만들어 진 이미지는 공장에서 찍어낸 주방칼처럼 보일 수 있다.

장인이 손으로 직접 만드는 칼은 많은 요리사들에게 인기가 많다. 한땀한땀 수작업으로 만든 예술 같은 무늬와 품질 그리고 독창성은 하나의 예술품이라 생각이 된다.

독창성이라는 영역에서는 아직까지는 AI보다는 사람이 더 잘하는 영역일 수도 있다.