• 최종편집 2024-07-03(수)
  • 로그인
  • 회원가입
  • 지면보기
  • 전체기사보기
 
20240701_110715.png
이미지 그래픽이다.(그래픽=저널인뉴스)

 

전북 전주의 한 중학교에서 남학생들이 교사와 동급생의 얼굴을 나체 사진과 합성한 사건이 발생해 사회적 우려가 커지고 있다. 이들 학생은 인공지능(AI) 딥페이크 기술을 이용해 음란물을 제작하고 유포했으며, 현재 경찰 조사를 받고 있다. 딥페이크는 AI 기술을 활용해 생성된 가짜 이미지나 오디오, 비디오를 말한다.


이 사건은 딥페이크 범죄가 점점 사회문제로 부상하고 있음을 보여준다. 최근 딥페이크를 악용한 가짜 동영상 및 뉴스 유포 사례가 증가하고 있으며, 이를 근절할 명확한 대책은 아직 마련되지 않은 상태다. 가해자를 특정하고 혐의를 입증해 처벌하기 어려운 점도 문제로 지적되고 있다.


서울대 딥페이크 성범죄 사건에서 보듯, 해외 서버를 이용한 딥페이크 음란물 유포 시 가해자 추적이 어렵고, 혐의 입증 역시 까다로운 상황이다. 심지어 유포 목적이 없이 개인 보관용이라고 주장할 경우 실질적인 처벌이 이루어지기 어렵다.


생성형 AI의 발전은 딥페이크 범죄 외에도 지식재산권 분야에서 새로운 문제를 야기하고 있다. AI가 인간의 최소한 개입만으로 창작물을 생성할 수 있는 수준에 도달하면서, 저작권 침해와 같은 이슈가 발생하고 있다. 생성형 AI 기술은 2022년 11월 Open AI에 의해 개발된 챗GPT의 등장으로 급부상했다.


현재 주요국에서는 AI 규제 법령을 시행 중이다. 유럽의회는 3월에 AI 기술의 안전성과 기본권 준수를 보장하는 인공지능 법(AI Act)을 승인했다. 미국에서는 바이든 대통령이 ‘안전성·보안성·신뢰성을 갖는 AI의 개발과 활용에 관한 행정명령’에 서명하며, AI 규제를 강화했다. 중국도 생성형 AI 서비스 관련 법률을 제정해 시행 중이다.


전문가들은 생성형 AI 기술의 부작용이 증가함에 따라, 서비스 제공자의 책임 한계를 명확히 하고, 규제를 강화할 필요가 있다고 지적한다. 이를 통해 AI 기술의 발전과 사회적 문제 해결 사이의 균형을 찾아야 할 것으로 보인다.

태그

전체댓글 0

  • 16719
비밀번호 :
메일보내기닫기
기사제목
전주 중학교에서 발생한 딥페이크 음란물 사건, 경찰 조사 중
보내는 분 이메일
받는 분 이메일