특정인의 외형이나 목소리를 모사하는 딥페이크나 딥보이스 기술을 활용한 AI 스피어 피싱 공격이 기승을 부리고 있다. 딥페이크 영상과 음성, 문서를 만들기 더욱 쉬워진데다가 사기행위에 이용할 수 있는 소프트웨어를 사고파는 다크 웹(dark web) 시장도 활개를 치고 있는 상황이다. 현재 국회에 ‘인공지능 산업 육성 및 신뢰 확보에 관한 법률안’ 등이 계류되어 있는데, 이 법안은 AI 생성물에 가상의 정보라는 특정 표식인 ‘워터마크’나 메타데이터를 넣도록 하고, 플랫폼 기업들은 표식이 없는 AI 생성물을 즉시 삭제할 것을 의무화하고 있다. 

과연 AI가 만들어낸 결과물은 누구의 소유인지, 인간과의 표절 분쟁은 어떻게 해결할지 등 산적한 쟁점들을 해결하기 위한 대책 마련 또한 시급한 시점이다. 이미 EU, 영국, 일본 등에서는 특정 조건에 한해 AI의 데이터 이용을 허가하고 있으며, 최근 EU에서는 생성형 AI의 원 데이터 저작권 공개를 의무화하는 규제안을 도입하겠다고 발표한 바 있다. 국내에서도 AI의 데이터 이용에 대한 저작재산권 제한 규정을 담은 저작권법 전부개정법률안 등이 발의되었으나 입법으로 이어지지는 않은 상황이다. 

한편, 국가의 기술력이 국가경쟁력을 좌우하는 기술패권 경쟁 시대가 본격화되며, 국가안보와 국민경제에 중대한 영향을 미치는 ‘국가핵심기술’ 유출은 △2017년 3건 △2018년 5건 △2019년 5건 △2020년 9건 △2021년 10건 △2022년 4건 △2023년 3건 총 39건에 달하고 있다. 디지털 포렌식은 국내에서 2008년 국가기관을 중심으로 확대되었으며, PC나 노트북, 휴대폰, 서버 등 각종 저장매체에 남아 있는 디지털 정보를 추출하고 분석해 증거를 수집하는 과학적 수사기법을 말한다. 최근에서는 기업들의 내부통제 시스템 구축과 내부 감사를 강화함으로써 법률 리스크를 예방하는 등 그 활용도가 확대되고 있다. 

이에 본원 R&D정보센터에서는 생성AI 지능범죄와 기술유출에 대응하는데 도움이 되고자 관련 기관들의 분석 정보자료를 토대로 「생성 AI 활용 딥페이크 위험성 및 기술 유출 지능범죄 예방 대응전략」을 발간하였다. 1편은 딥페이크와 생성AI 기술발전에 따른 위험성과 대응기술 R&D를 수록하였으며, 2편은 산업기술유출과 지능범죄에 대응하기 위한 최신기술을 다루었다. 본서가 학계･연구기관 및 관련 산업분야 종사자 여러분들에게 다소나마 유익한 정보자료로 활용되기를 바라는 바입니다. 

[원문보기]