[그것이 알고싶다 1251회] 가짜와의 전쟁 딥페이크 - 보고 듣고 의심하라 딥러닝

[그것이 알고싶다 1251회] 가짜와의 전쟁 딥페이크 - 보고 듣고 의심하라 딥러닝

2월 27일 토요일 밤 11시 10분 부터 방송되는 그것이 알고싶다 1251회에서는 인공지능의 발전으로 나타난 '딥페이크' 기술의 현재와 딥페이크 기술을 악용한 범죄 분석 및 예방책과 딥페이크가 온전히 사람을 위한 기술이 되게 하기 위해 우리가 준비해야 할 것들에 대해 다뤄질 예정입니다.

내가 아닌 가짜 '나'의 등장

어느날 sns 메시지를 통해 낯선 사람에게서 자신의 성관계 동영상을 받았다는 A씨. 분명 직접 촬영한 영상도 아니었고, 실제 있었던 일도 아니었는데 영상 속의 인물은 A씨 자신과 굉장히 닮아있었다고 합니다.

기억에도 전혀 없고 있을수도 없는 일인데 영상에서 보이는 '나'는 진짜 나를 보는것 처럼 표정과 움직임까지도 자연스러웠다고 합니다. 그런데 영상을 다시 자세히 보니 본인의 얼굴 사진과 다른 사람의 몸을 합성해서 만든 가짜 동영상이라는 것을 알아챕니다.

황당하게도 세상에 얼굴이 알려진 연예인이나 공인도 아닌 그냥 평범한 사람으로 지내온 사람도 자신이 모르는 사이에 성 착취 동영상의 주인공이 될 수 있다는 사실이 놀라웠는데요. 이런 동영상 메시지를 받은 것은 A씨 뿐만이 아니었다는 것이었습니다.

인공지능의 한 분야인 딥러닝(Deep learning)을 활용해서 사람의 얼굴이나 특정 부위를 합성한 가짜 동영상을 만들어내는 기술 딥페이크. 세계적인 인기를 얻고 있는 k-pop 연예인들의 얼굴을 이용한 딥페이크 영상물이 마늗ㄹ어지고 있는데요. 대부분 성착취 동영상의 형태로 악용되고 있어 사회적으로도 큰 이슈가 되고 있습니다.

그것이 알고싶다 제작진들이 만난 제보자들 역시 딥페이크 기술 때문에 자신들의 사진을 이용당한 피해자였는데요. 유명 연예인을 뛰어 넘어 일반인에게까지 오는 딥페이크 범죄의 피해는 어느정도인걸까요?

IT산업은 물론 엔테테인먼트 산업에까지 다양하게 사용되고 있는 인공지능 기술 중 하나인 딥페이크는 이미 사망한 사람의 얼굴을 재현해 가족들을 위로하기도 하고, 과거의 추억을 소환해 새로운 감동을 만들어내기도 하며, 신원보호가 필요한 사람들을 위한 안전장치도 될 수 있는 등 긍정적인 측면이 많은 기술이기도 합니다. 그리고 앞으로는 더 딥페이크 기술이 발전해서 실제와 거의 차이가 없는 정교한 동영상 제작도 가능할 것으로 예상되는데요.

그것이 알고싶다 제작진들은 딥페이크 기술을 이용한 범죄 실험을 진행했습니다. 대상은 부모와 자녀의 딥페이크 영상을 받아 본 부모님들의 반응은 어땠을까요? 그리고 만약 나라면 그 영상을 보고 어떤 행동을 보였을까요. 한편 그것이 알고싶다 제작진은 딥페이크 기술로 만들어진 성 착취 동영상과 같은 불법 영상을 제작하고 판매하는 사람들을 추적해서 만나봤다고 합니다.

쉽게 말해 '나'를 유명한 영화의 주인공이 되게 만들수도 있고 반대로 불법 성 착취 동영상의 중니공이 되게 만들기도 할 수 있는 양념의 검 딥페이크 기술. 전문가들은 인공지능 기술인 딥페이크가 성착취동영상 제작의 사례처럼 범죄에 악용될경우 이제는 보이는 것을 보이는대로 믿을 수 없는 치명적인 사회적인 위험을 발생시킬 수 있다고 경고하고 있습니다.

#그것이알고싶다 #그것이알고싶다1251회 #그것이알고싶다딥러닝 #그것이알고싶다딥페이크 #그것이알고싶다인공지능 #그것이알고싶다2월27일방송 #그것이알고싶다가짜와의전쟁딥페이크 #그것이알고싶다딥페이크범죄