"돈벌이 된 딥페이크 성범죄, 중고생이 홍보책…공공기관부터 나서야"

입력: 2024.08.28 13:00

장수현 기자

0 0

"딥페이크 시장화…사람 초대하면 대가 지급"
"가해자, 디지털 성착취 관여 가능성 높아"
"개인 외의 기업·공공기관 노력 필요"

진보당 관계자들이 지난 27일 서울 서대문구 경찰청 앞에서 열린 텔레그램 딥페이크 성범죄 경찰 수사 촉구 기자회견에서 텔레그램 딥페이크 성범죄의 수사를 촉구하는 내용이 담긴 피켓을 들고 있다. 신용주 인턴기자

'N번방' 사건을 처음 공론화했던 '추적단 불꽃' 소속 원은지씨가 최근 불거진 딥페이크(인공지능 기반 이미지 합성) 성범죄와 관련해 "(딥페이크 범죄) 행위 자체가 시장이 되어 여러 불법 업체가 이런 (텔레그램) 대화방들을 운영하고 있다는 게 문제"라고 짚었다.

원씨는 28일 CBS라디오 '김현정의 뉴스쇼' 인터뷰에서 돈을 받고 텔레그램에서 딥페이크물을 만들어주는 업체들이 있다며 이들은 "돈이 넉넉하지 않은 10대들을 홍보책으로 쓰고 있다"고 했다. 10대들이 불법 합성물이 공유되는 텔레그램 방에 사람을 초대하면, 운영자는 소개료 격으로 이들에게 불법 합성 의뢰 등에 사용할 수 있는 아이템 등 금전적 대가를 지급하는 방식이다.

원씨는 "(텔레그램) 방에서 결제를 한 번 한 사람들은 불특정 다수의 여성의 딥페이크 이미지를 공유하는 대화방에 입장할 수 있는 권한도 부여돼 유포 규모가 걷잡을 수 없이 커진다"며 "(불법 합성) 사진을 더 많이 올리면 올릴수록 이 사람에 대한 인정 같은 것이 쌓이며 그 안에서 어떤 생태계가 구축된다"고 설명했다.

그는 피해자가 특정 가능했던 N번방 사건과 달리 "이번 딥페이크 성착취 사건들 같은 경우엔 내가 언제, 어떻게 피해자가 될지 모르는 정말 두려운 상황"이라며 "(텔레그램 방 사용자) 규모가 3,000명 이상 그리고 많게는 몇만 명 이상의 방이 여러 개가 있기 때문에 정확한 규모를 파악하는 것 자체가 어렵다"고 했다.

딥페이크 제작자들이 여러 디지털 성착취와도 연관돼있을 수 있다고 경고했다. 원씨는 "딥페이크 관련 혐의로 잡힌 사람들 중 여죄를 더 조사해보면 아동청소년 성착취물까지도 소지·유포 이력이 있는 가해자들이 꽤 있다"며 "딥페이크 따로, 성착취 따로 볼 게 아니라 딥페이크를 하는 놈들이라면 성착취도 분명 관여하고 있다고 볼 수 있다"고 했다.

최근 딥페이크 피해 두려움으로 사회관계망서비스(SNS)에서 본인 사진을 삭제하는 여성들이 늘어나는 것에 대해선 "개인이 일상을 차단하면서까지 범죄에서 도망갈 필요는 없다 생각한다"고 말했다. 대신 "국내 플랫폼부터라도 프로필 사진 캡처가 감지되면 불법 사용의 경우 처벌받을 수 있다는 팝업창을 띄운다거나 하는, 개인 단위 외에 기업이나 공공기관의 노력이 필요할 것 같다"고 강조했다.