아동 대상 음란물 생성도 시청 제한도 AI... "독이자 약"

AI(인공지능)를 활용한 아동 음란물이 문제가 되고 있는 가운데, 아동∙청소년이 음란물에 접근하는 것을 막는 데도 AI 기술이 쓰인다. 이는 사용에 따라 독과 약이 되는 미래 기술의 양면성을 보여준다.

지난 4일 미국 라디오 방송국 WHYY는 여성과 아동에게 압도적으로 피해를 입히는 AI 생성물에 대한 우려를 실었다.

딥페이크 피해자는 대부분 아동과 여성

최근 미국 뉴저지의 한 고등학교에서 AI로 생성한 누드 사진에 한 여학생의 얼굴이 같은 학교 남학생들에 의해 유포되는 일이 있었다. 비슷한 일이 시애틀 교외의 고등학교에서도 벌어져 학교 여학생들의 얼굴로 이미지를 만든 10대 소년과 관련된 사건이 조사 중이다.

딥페이크(deepfake)는 인공지능 심층 학습을 뜻하는 'deep learning'과 가짜를 뜻하는 'fake'의 합성어로, AI 기술을 활용해 기존 인물의 얼굴이나 신체를 합성한 영상 편집물을 뜻한다.

AP통신의 독립 연구원 Genevieve Oh의 분석에 따르면 올해 온라인에 게시된 신규 딥페이크 동영상은 14만 3000개 이상으로 지난 2년을 합친 것보다 많다.

전문가들은 딥페이크 문제가 이전부터 있었지만 기술 사용이 점점 쉬워지면서 상황이 악화되고 있다고 전하며, 올해 실제 피해자나 가상 캐릭터를 묘사한 AI 기반 아동 성적 학대 자료(CSAM)의 폭발적인 증가를 지적했다.

영국, 18세 미만에 음란물 접근 제한 강화

그런데 아동들은 딥페이크 CSAM 범죄 대상뿐 아니라 온라인 음란물에 쉽게 접할 수 있어 또 다른 피해를 입고 있는 것으로 드러났다.

영국 아동위원회가 2021년부터 2022년까지의 연구에 따르면 평균적으로 어린이는 13세에 처음으로 온라인 음란물을 접하고, 거의 4분의 1은 11세에, 10명 중 1명은 9세 정도에 접하게 되는 것으로 나타났다.

전문가들 사이에서 '포르노 중독'은 존재 여부 자체가 논란이지만, 미성숙한 어린이에게 음란물이 미치는 영향은 중독을 넘어서서 실제의 사랑과 성관계의 자기 정립을 방해하는 문제로까지 확장되기 때문에 치명적이다.

이에 영국 정부는 지난 5일 18세 미만 아동∙청소년들이 온라인 음란물을 접할 수 없도록 IA 기반 기술로 시청자의 법적 연령을 확인하는 것을 포함한 새로운 연령 확인 지침을 제안했다.

규제 당국이 AI로 사용자의 얼굴 특징을 분석해 법적 연령을 가려내는 기술을 설명한 것으로 보아 사용자는 기기에서 셀카를 찍어 업로드해야 할 가능성이 높다.

이 지침에는 여권이나 운전면허증 같은 '사진 신분증 매칭'과 신용카드 확인도 포함된 것으로 알려졌다. 또 은행이 음란물 사이트와 사용자 연령 정보를 공유할 수 있는 오픈 뱅킹도 제안되었다.

일각에서는 이 같은 연령 확인 의무화가 사용자의 사생활 침해 및 개인정보 유출 등으로 이어질 수 있다며 우려했지만, 규제 당국은 스스로 연령 입력, 누구나 하는 온라인 결제, 면책 조항 및 경고와 같은 이전 방법은 약하다고 봤다.

미디어 규제 기관인 오프컴(Ofcom) CEO 멜라니 도스(Melanie Dawes)는 "접근 방식에 관계없이 모든 서비스가 아동이 음란물을 접하지 않도록 강력하게 보호하고, 성인들이 합법적인 콘텐츠에 접근할 수 있는 사생활 권리와 자유를 보호할 수 있기를 기대한다"라고 말했다.

AI, 긍정적 잠재력 있지만 최소한의 안전장치 필요

지난 10월 조 바이든 대통령은 AI 개발 규제를 위한 전면적 행정명령에 서명했고, EU는 AI 피해를 억제하기 위한 전면적 법안의 최종 통과를 앞두고 있다.

최근 생성 AI의 리더 기업 OpenAI는 내부에서 개발 속도에 대해 급진파와 안전파로 나뉘었다가 이사회에 의해 축출됐던 CEO 샘 알트만이 5일 만에 복귀하면서 급진파로 통합된 모양새다.

바이든의 말처럼 AI는 암 연구를 가속화하고 기후 변화의 영향을 모델링하고 경제적 성과를 높이고 정부 서비스를 개선하는 긍정적인 잠재력을 분명 가지고 있지만, 잘못된 이미지나 언어로 진실을 왜곡하고 인종 및 사회적 불평등을 심화시키며 범죄 도구로 악용될 수도 있다.

현재 발생하는 문제들은 우리 사회가 급격하게 진화하는 AI 기술을 받아들이는 과정일 수 있다. 그러나 미성숙한 손이 칼자루를 잡고 휘두르는 일은 없도록 최소한의 안전장치는 필요하다. 칼날은 대개 어린이를 비롯한 사회적 약자를 향하고 있기 때문이다.

포인트경제 박찬서 기자