인공지능 기술의 발전과 함께 딥페이크(deepfake)라는 개념이 등장하면서 영상 및 음성을 조작하여 사실과 허위를 혼동시키는 기술이 부상하였습니다. 딥페이크는 고도화된 딥러닝 알고리즘을 통해 실제와 구분하기 힘든 가짜 영상이나 음성을 생성하는 것으로, 이로 인해 사회적인 이슈가 대두되고 있습니다.
딥페이크 란?
딥페이크 deepfake는 딥러닝 + 가짜 결합어 입니다.
인공지능 기술로 얼굴 합성하는 것을 의미한다. 사진 뿐 아니라, 동영상까지 합성하는데, 이를 ai 인공지능이 딥러닝 통해 학습하여 신경을 관찰하여, 다른 사진 한 장으로 충분히 합성이 가능하며 딥페이크 어플 및 인터넷에 소스가 퍼지며 악용되고 있는 사례가 많습니다
딥페이크는 일상적인 영상 편집 기술과는 다르게 매우 정교하고 현실적인 결과물을 만들어내는데요 이러한 기술은 뉴스, 엔터테인먼트 산업, 그리고 사적인 목적으로도 사용될 수 있습니다. 그러나 이 기술은 앞서 말했듯이 부정적인 용도로도 활용될 수 있기 때문에 사회적으로 큰 문제가 될 수 있습니다.
지난 해 버락 오바마 전 대통령이 하지 않은 말임에도 불구하고 영상에 버락 오바마 전 대통령의 얼굴과 목소리를 합성한 가짜뉴스가 인터넷에 떠돌기도 했죠. 그런데 이 영상의 경우 딥페이크 영상의 위험성을 알리기 위해 조던 필(Jordan Peele) 감독이 Buzzfeed라는 온라인 매체와 공동으로 제작한 영상이라고 합니다.
그런데 가짜뉴스보다 더 무서운 것이 불법 영상물이죠. 딥페이크 기술을 이용한 음란물이 만들어지고 있는데요. 네덜란드의 사이버 보안 연구 회사인 ‘딥트레이스’의 보고서에 따르면 딥페이크 영상의 96% 정도가 불법 음란 동영상이고, 그중 약 25%가 한국 여자 연예인을 합성해서 만든 영상이라는 조사가 나오면서 우리에게 더 큰 충격을 안겨줬죠.
딥페이크 성인용 콘텐츠를 중점적으로 게시하는 사이트 중 가장 큰 4개 사이트의 총조회수는 1억 3,400만 회나 된다고 해요.
이 문제가 더욱 심각한 것은 딥페이크 알고리즘이 온라인상에 공개되어 있고, 애플리케이션도 만들어져서 누구나 쉽게 딥페이크 영상을 제작할 수 있다는 점이기도 해요. 내가 알지 못하는 사이에 나를 합성한 영상이 제작되어 무분별한 피해자가 만들어질 수 있다는 거죠.
딥페이크 긍정적인 사례
딥러닝의 안면 인식 기술을 활용하면 특정인의 신원을 확인할 수 있어 범죄자 색출, 테러범 차단 등에 사용될 수 있습니다.
<질병예방>
CT, MRI의 자료 분석을 통해 암의 징후를 미리 찾아서 조기에 진단하여 예방할 수 있습니다. 점점 신체 부위를 확장하여 조만간 더 많은 성공사례도 나올 것 같습니다.
<영상제작 및 교육>
다시는 보지 못하는 사람들의 생전 모습을 담아 재현도 가능합니다. 이처럼 역사 교육 분야에서 사용될 수 있으며 영어 원어민의 발음과 표현을 딥페이크를 사용하여 학습자가 보다 더욱 자연스러운 발음과 억양을 배울 수 있습니다.
딥페이크 처벌은?
명예훼손 : 딥페이크를 이용하여 다른 사람의 얼굴이나 목소리를 조작하거나 지식재산을 침해하는 경우, 명예훼손으로 법적 처벌을 받을 수 있습니다.
사기 : 딥페이크를 이용하여 가짜 영상이나 가짜 정보를 제작하여 돈을 갈취하는 등 명백한 사기 행위를 하는 경우, 사기罪로 처벌을 받을 수 있습니다.
초상권 침해 : 다른 사람의 얼굴과 이름을 불법적으로 사용하거나 유포하여 초상권을 침해하는 경우, 초상권 침해罪로 처벌을 받을 수 있습니다.
정보통신망법 등에 의한 처벌 : 딥페이크는 인터넷 환경에서 유포될 가능성이 높기 때문에, 정보통신망법 등에서 제공하는 법적 처벌을 받을 수 있습니다.