선언문에는 악의적 선거 딥페이크의 위험을 낮추기 위한 탐지와 신속한 조치, 대응 정책 공개, 딥페이크 확산 방지를 위한 지속적 논의, 다양한 외부 전문가와의 정보 및 의견 교류 활성화, 대중의 인식을 높이기 위한 노력 등이 주요 내용으로 담겼다.
기업들은 공동선언문을 계기로 인공지능(AI) 생성 콘텐츠에 대한 플랫폼 운영 기조와 자율규제의 중요성을 공고히 하고, 선거 관련 허위 정보 신고 채널 운영, 딥페이크 주의 안내 문구 표시 등 다양한 방안을 마련하고 있다고 밝혔다.
아울러 협회는 기업별로 제공하는 서비스의 형태가 다양하므로 각각의 특성에 따른 추가 조치 방안도 준비하고 있다고 소개했다.
네이버는 콘텐츠의 출처 정보를 확인할 수 있는 글로벌 기술 표준 채택과 생성 콘텐츠 탐지 기술 확보를 중장기적 목표로 연구하고 있다.
카카오는 생성형 AI로 작성한 기사에 대해 AI 기술 적용 사실을 표시하고, AI 이미지 생성 모델 ‘칼로’에 비가시성 워터마크를 부착하는 기술 도입을 준비하고 있다.
SK커뮤니케이션즈는 AI를 이용한 이미지 생성 시 주요 정치인의 이름에 관한 검색어 제한 조치를 통해 선거 관련 딥페이크 제작을 방지한다.
한편 구글코리아(구글)와 페이스북코리아(메타), 엑스(X) 등 해외 빅테크들은 이번 공동선언에서 빠졌다. 이와 관련 한국인터넷기업협회는 “빅테크들은 뮌헨 협약을 통해 기만적 AI 선거 콘텐츠 대응 방침을 밝혔다”며 “기술 협정에 따라 이번 선언문을 채택한 국내 기업들과의 자율협의체 활동에 참여할 것”이라고 설명했다.
최희주 기자 hjoo@ilyo.co.kr
