펌) 이미 무죄 추정의 원칙이 사라졌습니다

최근 딥페이크 사건들로 인해 또다시 졸속 법안이 나올까 걱정되는데, 과거 n번방 사건으로 인해 이미 무죄 추정의 원칙이 사라졌습니다.

아래 에펨코리아 자체 동영상 녹화를 지금 당장 카카오 오픈톡에 올리면, 아래 화면 캡쳐처럼 국가 AI 기술로 불법촬영물로 잘못 인식됩니다.

불법촬영물로 잘못 인식되는 원본 영상 예시:

이에, 2024년 2월 16일에 관련 기관에 예외 처리를 요청했으나, 불법촬영물로 인한 피해자가 발생할 수 있다는 이유로, 예외 처리가 반년 넘게 지났는데도 아직까지 이루어지지 않았습니다.

위와 유사하게, 불법 촬영물이 아닌데도 오탐지로 인해 불법 촬영물로 잘못 인식되어 예외 처리를 요청한 특정 BJ나 기타 음원 영상 등이 다수 있으며, 그런 경우 계속 일단 업로드를 시도하면 죄가 있는 것으로 간주됩니다.

다만, 위에서 언급된 영상들은 에펨코리아 내에 반복적으로 문제가 되어 자체 개발된 시스템으로 내부적으로 예외 처리되었습니다.

즉, 이미 사용자들이 국가 AI에 의해 실제 불법행위를 했든 안 했든 기본적으로 죄가 있는 것으로 간주됩니다.

과거 관련 AI 성능에 대한 공지: https://www.fmkorea.com/5668394261

여러 차례 관련 기관에 n번방 사건 관련 AI 기술의 오탐지가 매우 많으므로 무죄 추정의 원칙이 우선되어야 한다고 주장하며 의견서를 제출했으나, 답변은 늘 피해자가 발생할 수 있으니 잘못 탐지가 확실하게 확인된 위 사례의 경우에도 불법촬영물로 인한 피해자가 혹시나 발생할 수 있다는 이유로 미래에 시스템을 개선하겠지만 예외 처리는 안된다는 내용이었습니다.

ㅊㅊ- https://www.fmkorea.com/7408948669