인공지능으로 만든 가짜 범죄자 영상이 온라인에서 빠르게 퍼지고 있다.
이 영상들은 실제 장면이 아니라, 범죄자의 얼굴과 목소리를 흉내 내어 만든 조작 영상이다. 영상 속 인물들은 교도소 생활을 말하며 농담을 하거나, 가볍게 웃고 춤을 추는 모습으로 그려진다. 자극적이고 우스운 방식으로 만들어져 사람들의 관심을 끌고, 일부는 조회 수가 매우 높게 나오기도 한다.
예전에도 범죄자를 놀리거나 우스갯거리처럼 다루는 글과 이미지가 있었지만, 최근에는 인공지능 기술이 발전하면서 훨씬 더 진짜처럼 보이는 콘텐츠가 만들어지고 있다. 여러 온라인 플랫폼에서는 강력 범죄를 저지른 사람들을 한데 묶어 이미지나 짧은 영상으로 만드는 일이 이어지고 있다. 이 때문에 범죄 자체가 무겁게 다뤄지기보다, 인터넷에서 소비되는 유행거리처럼 바뀌고 있다는 걱정이 커지고 있다.
가장 큰 문제는 피해자와 유가족이 다시 상처를 입을 수 있다는 점이다. 범죄자를 희화화한 영상이나 이미지는 사건을 다시 떠올리게 만들 수 있고, 피해를 겪은 사람들에게 또 다른 고통을 줄 수 있다. 범죄 장면이나 가해자의 얼굴이 반복해서 보이면 2차 피해로 이어질 가능성도 크다.
하지만 지금은 이런 인공지능 콘텐츠를 직접 막거나 강하게 제재할 뚜렷한 기준이 부족한 편이다. 현재로서는 관련 기관이 플랫폼에 삭제나 접속 차단을 요청하는 정도에 그치는 경우가 많다. 기술이 빠르게 발전하는 만큼, 이를 악용한 콘텐츠를 어떻게 다룰지에 대한 기준과 대책도 함께 마련될 필요가 있다.