JTBC 보도에서도 소개된 라바웨이브의 디지털 범죄 대응 전문성

'노출 이미지' 합성 사이트 버젓이 활개…"성인 인증도 없어"

[앵커]

가해 중학생들이 사용한 프로그램은 온라인에서 쉽게 검색되는 AI 딥페이크 사이트였습니다. 

누구나 손쉽게 접근할 수 있습니다. 

정부가 접속 차단에 나섰지만 새로 만들어지는 속도를 따라가지 못하고 있습니다.

김서하 기자입니다.

[기자]

가해 학생들은 인터넷 검색으로 찾은 AI 딥페이크 사이트를 이용했습니다.
ADVERTISEMENT

직접 검색해 보니 비슷한 사이트가 줄줄이 나옵니다.

한 사이트는 접속이 차단돼 있지만 바로 아래 사이트는 접속돼 선정적인 사진이 뜹니다.

별도의 성인 인증도 없이 딥페이크 합성 기능을 이용할 수 있습니다.

취재진은 바로 방송미디어통신심의위원회에 신고했습니다.

[방송미디어통신심의위원회 관계자 : 인지를 저희가 그동안 못해서…이거는 딱 봐도 문제가 있는 사이트이고 조치가 되도록 저희가 좀 확인을 해보겠습니다.]

피해자가 명확히 확인된 성착취물을 우선하다 보니 딥페이크 사이트를 선제적으로 찾아내는 데는 한계가 있습니다.

그사이 새로운 딥페이크 사이트가 계속 생기고 있습니다.

이 사이트에 제 사진을 직접 넣어보겠습니다.

사진을 넣고 버튼을 누르자 20초 만에 옷차림이 바뀐 이미지가 만들어집니다.

나체 이미지 등 음란물 생성은 차단돼 있다고 하지만 우회하는 기술 역시 거래되고 있습니다.

[김준엽/디지털 범죄 대응기업 '라바웨이브' 대표 : (AI는) 안전 정책 필터 때문에 안 만들어 주니까 이미 그런 필터가 해제되어 있는 딥누드들이 한꺼번에 다 세팅이 끝나 있는 사이트 템플릿들을 판매를 또 하기도 하거든요.]

이미 만들어진 걸 찾아 지우고 차단하는 방식은 한계가 있습니다.

대형 플랫폼과 AI제작사가 스스로 유통을 막도록 제도화하는 게 급합니다.

이와 별개로 전문가들은 AI 음란물 제작 행위가 학교 친구의 삶을 무너뜨리고 자신도 강력한 형사처벌로 씻을 수 없는 상처를 입게 된다는 분명한 사실을 어린 시절부터 교육해야 한다고 강조합니다.

[영상취재 방극철 조용희 영상편집 유형도]

-기사 원문 보기

ㅡ 모두가 안전한 사이버 공간을 만들겠습니다.

Create a Secure Cyberspace for Everyone