AI 범죄, 일상… 법과 제도는 아직 연약

  최근 익명의 학우로부터 “SNS에 일상 사진이 합성물 제작에 악용된 것 같다.”는 제보가 왔다. 제보자가 불법 합성물 유포 정황을 확인하고 계정을 비공개로 전환하며 일단락됐으나 소식을 접한 재학생들 사이에서는 “나도 SNS에 올린 사진을 전부 내려야 하는 것 아니냐.”는 불안감이 급격히 확산하고 있다. / 사회부

  생성형 AI 기술 발전으로 누구나 이미지나 음성을 만드는 시대가 됐다. 그러나 기술이 범죄에 악용되면서 대학가도 안전지대가 아니라는 지적이 나온다. SNS에 올린 얼굴 사진 한 장, 혹은 몇 초 분량의 목소리만으로도 딥페이크 합성물이나 AI 피싱 음성을 만들어낼 수 있기 때문이다.

  # 손쉬운 AI 도구, 하지만 현행법과 기술적 단속은 한계

  재학생들의 불안감도 크다. 우리 대학 A 학우는 “딥페이크 소식을 접한 뒤 SNS 계정을 비공개로 바꾸고 사진을 내렸다.”고 털어놨다. 또 다른 B 학우 역시 “가족 목소리를 복제해 돈을 요구하는 피싱 범죄 이야기를 들었다.”며 “기술이 범죄에 쓰일 줄 몰랐다.”고 전했다.

  문제는 범죄 진입장벽이 낮아졌다는 점이다. 메신저나 무료 AI 프로그램 몇 번만 클릭하면 누구나 몇 초 만에 가짜 영상이나 음성을 만들어낼 수 있다.

  현행 법체계가 존재하지만 피해 차단의 한계가 명확하다. 성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌법)에 따르면, 사람의 얼굴이나 음성을 성적 수치심을 유발하는 형태로 편집·합성할 경우 5년 이하의 징역 또는 5천만 원 이하의 벌금에 처한다. 이를 이용해 협박할 경우 1년 이상의 유기징역에 처하도록 규정하고 있다.

  그러나 이러한 법적 처벌 조항은 이미 불법 합성물이 유포된 이후에 작동하는 ‘사후 처벌’ 중심이라는 허점이 있다. 전파 속도가 매우 빠른 디지털 범죄 특성상 초기에 유포를 차단하지 못하면 피해가 걷잡을 수 없이 커지지만, 현행법상 즉각적인 영상 차단이나 삭제를 강제하기는 쉽지 않다.

  # 증가하는 유포 범죄, 실효성 있는 대응 체계 마련 시급

  경찰청 국가수사본부 발표 자료에 따르면, 위장 수사 제도를 통해 2025년 8월 기준 위장 수사 검거 인원이 전년 동기 대비 약 66.7% 증가했다. 경찰이 실시한 전체 위장 수사 765건의 수사 현황을 구체적으로 살펴보면, 판매 및 배포 등 유포 범죄가 591건(77.3%)으로 가장 큰 비중을 차지했다. 그 뒤를 이어 제작 등 범죄가 102건(13.3%), 성착취 목적 대화 범죄가 46건(6%), 구입·소지·시청 등 범죄가 25건(3.4%) 순으로 집계됐다.

  이는 한번 제작된 불법 합성물이 온라인망을 타고 빠르게 퍼져 나가는 유포 범죄율이 얼마나 높은지 단적으로 보여준다. 경찰청 측은 단순한 호기심이나 장난으로 제작·소지·시청하는 것만으로도 엄격히 처벌된다고 경고한다. 하지만 경찰의 단속 강화에도 불구하고 현실적인 한계는 여전히 존재한다.

  국회입법조사처가 2024년에 발표한 연구보고서에 따르면 딥페이크 성범죄물은 피해 유형·양상은 진화하는데 높은 미삭제 비율과 디지털성범죄피해자지원센터(디성센터)의 인력 및 예산 등 물리적 한계, 실효성 없는 정부 대책으로 문제가 드러나고 있다. 이에 따라 완전한 피해 회복이 거의 불가능한 실정이다.

  특히 해외에 서버를 둔 역외 사업자 문제나 유포 차단 체계의 미비로 인해 실효성 있는 대응에 어려움을 겪고 있다. 이에 피해자 구제를 위한 적극적인 삭제 지원과 유포 방지 체계 구축이 필요하며, 전담 기구의 법적 근거 마련, 역외 사업자 대응 체계 구축, 디지털 성범죄 통계 구축, 구상권 제도의 활성화가 필요함을 제시했다.

  # ‘장난’으로 시작했다가 중범죄자로… 낮아진 범죄 문턱

  이러한 생성형 AI를 활용한 불법 합성 및 음성 복제 범죄의 또 다른 문제는 가해 문턱이 낮아졌다는 점이다. AI 합성 툴을 접한 일부 청년들이 이를 범죄가 아닌 장난이나 호기심으로 치부하며 범죄를 저지르는 사례가 늘고 있다.

  경찰청이 밝힌 바와 같이 성적 허위영상물은 단순 호기심이나 장난으로 만들거나 소지하는 것만으로도 엄벌에 처해지는 중범죄다. 단순한 호기심으로 시작했더라도 법적 처벌을 면할 수 없으며, 피해자에게는 평생 남을 정신적 고통을 안겨주게 된다. 그럼에도 불법 합성 툴에 대한 접근이 너무 쉽다 보니, 자신이 저지르는 행동이 얼마나 무서운 범죄인지조차 인식하지 못하는 경우가 많다.

  # 대학 내 자체 대응체계 구축과 예방 교육 시급해

  법과 제도가 따라가지 못한다면 대학 차원의 안전망이 갖춰져야 한다. 현재 우리 대학을 비롯한 다수 대학에 인권센터 등 상담 창구가 운영되고 있으나, 피해 발생 시 신속한 구제 창구로 활용하기엔 학우들의 인지도가 낮다. 전문 기관과의 즉각적인 삭제 지원 연계 안내도 생소한 실정이다.

  이에 따라 교내 인권센터를 통해 딥페이크 피해 시 행동 요령과 신고 창구를 안내하고, 외부 전문 기관과의 연계 체계를 정비할 필요가 있다. C 학우는 “신종 AI 범죄 발생 시 교내 창구 활용법과 외부 전문 기관 연계 절차 안내가 적극적으로 이루어지길 바란다.”고 밝혔다.

  기술이 발전하는 만큼, 이를 악용하는 범죄의 수법도 날로 정교해지고 있다. 불안감을 개인의 몫으로 남겨두지 않고, 우리 대학과 사회 차원이 실효성 있는 예방책과 지원 시스템을 마련해야 할 시점이다.