인공지능(AI) 기술을 악용한 범죄 사례가 늘면서, 이를 올바르게 활용하기 위해 제도·기술적 대응이 필요하다는 주장이 나왔다.

소프트웨어정책연구소는 지난달 25일 이같은 내용을 골자로 ‘인공지능의 악용 사례, 딥페이크 기술과 과제’ 보고서를 내놓았다.



소셜 네트워크 서비스(SNS)의 여성 사진을 누드로 편집(Deep porn)하고, 연예인이나 정치인, 유명 인사를 전혀 다른 사람으로 뒤바꾸는 등 딥페이크나 페이크 페이스(Fake face)와 같은 AI 기술을 악용하는 사례가 등장하고 있다.

딥페이크에 활용하는 AI는 생성적 적대 신경망(Generative Adversarial Network, 이하 GAN)이라는 모델이다. 두 개의 신경망이 서로 경쟁하면서 더 나은 결과를 만들어내는 강화 학습 방식의 AI 기술이다. 위조지폐범은 더욱 정교하게 가짜 돈을 만들고자 노력(학습)하고, 경찰은 이런 가짜 돈을 더 정확하게 감별하기 위해 노력(학습)하는 것과 같은 원리다.
 
GAN은 실제와 가상의 이미지를 보다 정밀하게 구별하고 구현하기 위해 만든 기술이다. 영상이나 이미지를 정교하게 편집해 보다 실감 나는 콘텐츠를 제작하고, 손상된 영상을 복원하는 등 다양한 영역에 활용한다.

최근에는 사람의 피부와 머리카락까지 실제와 비슷한 수준으로 이미지를 만들면서, GAN이 기술적 한계를 이미 뛰어넘었다는 평가도 나오고 있다.
 
다만, 기술 발전과 함께 부작용 사례도 함께 속출하고 있다는 게 보고서의 설명이다. 얼마 전 러시아와 전쟁 중인 우크라이나 젤린스키 대통령과 똑 닮은 인물이 항복을 선언하는 가짜 영상이 온라인 상에 떠돌면서, 논란을 낳은 것이 최근의 사례다. 

보고서는 AI 기술 악용으로 사회·국가적 혼란을 일으키는 사례가 발생하는 만큼 올바른 활용을 위해 기술 및 제도적 대응이 필요하다고 제언했다.
 
MS나 구글 등이 참여하는 ‘AI for Good’ 프로젝트를 사례로 든 보고서는 AI를 활용한 긍정적 경험을 쌓는 과정이 필요하다고 조언했다. 이 프로젝트는 AI기술을 사용해 의료 보건 향상과 환경 보존, 사회적 약자를 보호하는 등 사회 행복에 기여하는 활동이다.

산·학·연이 함께 연구·개발 과제 기획 및 지원에 적극 나서고, 공공의 가치를 실현하는 등 다양한 실험적 시도도 함께 추진해야 한다고 했다. 특히, 미디어를 비롯해 뉴스나 금융, 치안 등 특정 분야에서 악용 사례를 감지 및 구별 하는 AI 개발에 나서야 한다고 강조했다.

이 외에도 ▲지방자치단체와 협력한 생활 밀착형 AI 리빙랩(Living Lab.) 프로젝트 ▲GAN을 활용한 다양한 과제와 기획·개발 ▲시민이 자발적으로 참여하는 생활 속 AI 활용 프로젝트나 경진대회 등도 대안이라는 의견이다.