딥페이크 *인공지능 기술인 ‘딥러닝(deep learning)’과 가짜를 의미하는 ‘페이크(fake)’의 합성어로, 인공지능을 기반으로 한 인간 이미지 합성 기술를 이용한 성범죄 문제로 대한민국이 홍역을 치르고 있습니다. 텔레그램봇으로 나체 사진을 만드는 등 불법합성물을 제작하는 텔레그램 채널에 22만명에 달하는 사람들이 들어가 있어 큰 충격을 준 것입니다. 더구나 이번 사건이 우리에게 더욱 충격적으로 다가온 이유는 범죄 가해자의 상당수가 10대라는 점입니다. 정치권에서는 처벌 강화를 위한 법을 내놓고 각종 미디어에서는 후속 보도가 이뤄지고 있습니다. 사실 이 사태는 갑자기 나타난 일이 아닙니다.
'얼굴도둑 넘어 성범죄까지'...진화하는 딥페이크, 당신도 타깃
네덜란드 AI 연구소 센서티가 발간한 보고서에 따르면 2020년 7월까지 텔레그램 기반 '딥페이크봇'을 이용한 전세계 딥페이크 합성물 63%가 '가해자들이 실제로 알고 지내는 여성'을 합성한 것으로 조사됐습니다. 또한 2021년 5월 경찰청 국가수사본부 발표에 따르면 2020년 12월부터 5개월간 딥페이크 불법합성물을 만들고 유포한 디지털 성범죄 피의자 94명 중 69.1%가 19세 미만 청소년으로 피해자도 19세 미만이 57.9%로 가장 많았습니다.
“인증샷도 못 믿겠다”… 인공지능 '딥페이크'의 두 얼굴
딥페이크 영상이 사회적 문제로 떠오르는 가운데 세계 각국에서는 규제 강화에 열을 올리고 있습니다. 구글과 메타는 생성형 AI로 만든 이미지에 별도의 표식(label, 라벨)을 붙이는 안전 장치를 마련했습니다. 챗GPT를 개발한 오픈AI도 같은 정책을 추진하기로 했습니다. 미국 정부는 AI 기술 개발과 관련한 행정명령을 통해 워터마크(식별 표시)를 넣기로 하고 유럽연합은 AI로 생성한 콘텐츠에 워터마크를 의무화하는 ‘AI 규제법’을 통과시켰습니다.
일반인도 피해 대상…AI 딥페이크 음란물 '주의보'
국내에서는 2020년 3월 성폭력범죄의처벌 등에 관한 특례법에 딥페이크 처벌 규정이 신설됐습니다. 사람 얼굴·신체 등을 상대로 허위 영상물을 제작·배포하면 5년 이하 징역 또는 5000만원 이하 벌금을 부과합니다. 영리 목적이었다면 7년 이하 징역으로 가중 처벌을 받을 수도 있습니다. 문제는 실제 처벌 수위가 현저히 낮다는 점입니다. 실제로 음란물 합성만으로 국내에서 실형이 선고된 건수는 성폭력범죄의처벌법 개정 이후 5건 이내에 불과한 것으로 나타났습니다.
새로운 기술의 등장은 환영받는 게 마땅하지만, 이를 악용하는 상황이 지속되지 않도록 범 차원적인 노력이 필요합니다. AI 개발사와 포털, 플랫폼 등 각 업체에서 딥페이크 음란물을 초기에 발견하고 유포를 막을 수 있는 기술을 발전시켜야 합니다. 또한, 디지털 성착취 범죄의 심각성을 모두가 인식하고 피해 확산 방지와 가해자 처벌을 강화해야 합니다. N번방부터 끊임없이 이어지는 디지털 성범죄가 이제는 근본적 대책 마련으로 뿌리 뽑히기를 바랍니다. | 
댓글