특수 효과 기술은 지난 수십 년 동안 CGI가 초보적으로 조잡하고 원시적 인 것에서 현실과 거의 구별 할 수없는 것으로 이동하면서 진정한 붐을 보였습니다. 이제 실제 이미지의 생성이 점점 보편화됨에 따라 정치 전문가와 형사 사법 전문가 모두 '가짜 뉴스'에 대한 지속적인 국제 토론을 더욱 복잡하게 만들 수있는 이른바 '딥 페이크'기술에 대한 패닉을 예상하고 있습니다. 그러나 정확히 무엇이 '깊은 가짜'이며이 기술이 미래에 얼마나 많은 위협을가할까요?
딥 페이크 (때때로 '딥 페이크'로 양식화 됨) 기술은 기존 이미지와 비디오를 사용하여 인공 지능에 의해 생성 된 합성 및 / 또는 중첩 이미지 및 / 또는 비디오를 말합니다. 이 기술은 기계 학습을 사용하여 이론적으로 실생활에서 실제로 발생하지 않은 행동을하는 사람의 설득력있는 영상을 만들 수 있습니다.
전문 소프트웨어 엔지니어이자 시각 효과 아티스트 인 Owen Williams가 간단한 설명을했습니다.
``이는 자동화 된 소프트웨어 시스템을 사용하여 비디오에서 사람의 얼굴을 과거 기술로 가능했던 것보다 훨씬 더 자동적이고 설득력있는 다른 얼굴로 대체하는 방법입니다. Oxygen.com .
제시카 스타는 어떻게 자살 했습니까?
Williams는 'Jurassic Park'및 'Blade Runner : The Final Cut'과 같은 주류 인기 영화에서 딥 페이크의 전조가 될 수있는 방식으로 특정 장면에 컴퓨터 소프트웨어를 사용했다고 언급했습니다. 스턴트를 수행해야하는 캐릭터가 있고 그들의 얼굴이 보이기를 원한다고 가정 해 봅시다. 고전적인 해결 방법은 뒷면에서만 볼 수 있거나 머리카락이 얼굴에있어 이중인지 알 수 없다는 것입니다. 그러나 영화 제작자가 컴퓨터를 사용하여 배우의 얼굴을 스턴트 더블 위에 올려 놓은 역사가 꽤 있습니다. '
``과거에는 매우 수동적 인 프로세스였습니다. 이제 딥 페이크 기술을 사용하여 컴퓨터에 두 가지를 제공합니다. 먼저 교체 할 비디오와 교체 할 얼굴의 여러 입력을 입력합니다. 당신은 다른 얼굴 표정과 다른 각도에서 사람의 충분한 이미지를 얻어야합니다. 다른 상황에서이 사람의 얼굴이 어떻게 생겼는지에 대한 라이브러리를 만들고 컴퓨터가 비디오를 살펴 봅니다. 정확히 일치 할 필요도 없습니다. 라이브러리에있는 것을 필요에 맞게 스 퀴시하고 변형 할 수 있습니다. 수십 명의 아티스트가 정말 복잡한 효과를 시도하고 실행하는 데 수백 시간이 걸렸던 것은 버튼을 누르기 만하면됩니다. '
사람들이 걱정하는이 기술의 한 측면은 대부분의 사람들, 특히 유명인과 정치인의 온라인 사진 수를 고려할 때이 프로세스를 실행하기 위해 기꺼이 얼굴을 제출할 필요가 없다는 것입니다.
'[동의없이] 라이브러리를 만들 수있는 충분한 각도의 유명인 사진이 충분합니다.'라고 Williams가 말했습니다. '그렇게하려면 일정량의 작업이 필요하지만, 약간 인기있는 인물에게는 그 물건이 존재할 것입니다. 내 감각은 이것이 일반인에게 가능한 한 가능성이 적다는 것입니다. '
2017 년 말 Reddit 포럼에 첫 번째 딥 페이크 동영상이 나타났습니다. 다양성에 따라 . 한 사용자가 자신의 컴퓨터를 사용하여 실제 생활에서 실제로 일어난 적이없는 성행위에 참여한 다양한 유명인의 매우 사실적인 포르노 동영상을 제작했다고 주장했습니다. 사용자는 자신의 컴퓨터에 수천 장의 별 사진을 제공했다고 주장했으며, 여기에서 AI는 묘사 된 얼굴 표정과 움직임을 얻을 수있었습니다. 딥 페이크 크리에이터가 사용하고 Reddit에서 공유 한 앱은 결국 100,000 회 이상 다운로드되었습니다. (Reddit은 결국 '자발적 포르노'에 대한 정책을 위반 했다며 이러한 종류의 콘텐츠를 금지 할 것입니다. The Verge에 따르면 .)
이 매체가 현재 달성 할 수있는 사실주의는 Williams에 의해 의심됩니다.
``실제로이 깊은 가짜 중 하나를 본 적이 있다면 ... 거기에는 어느 정도 이상한 점이 있습니다. '그들은 다듬어지지 않았습니다. 하지만 할리우드는 값 비싼 아티스트에게 돈을 지불하는 것보다 자동화하는 데 관심이 있기 때문에 더 좋아질 것입니다. '
브리트니 스피어스 아이들은 몇 살입니까?
마찬가지로 Williams는 깊은 가짜 포르노에 대한 공황 , 복수 포르노 나 유출 된 누드 이미지와 같은 것들의 본질에 대한 문화적 태도의 변화는 이러한 종류의 미디어를 만드는 사람들이 성인 엔터테인먼트 업계에서도 비난을 받고 칭찬받지 못할 가능성이 있음을 의미합니다.
``그것은 결코 주류가되지 않을 것입니다. '이후' Fappening '레딧에서 일어난 일, 사람들은 대화를 바꾸고'이건 스캔들이 아니라 성범죄 다 '라고 말할 수있었습니다. 그래서 저는 이것이 사람들이 생각하는 것만 큼 스캔들이 될 것 같지는 않습니다. 사람들은 또한 딥 페이크가 만들어진 원본 포르노를 상당히 쉽게 찾을 수 있습니다. 즉, 폭로하기가 상당히 쉽습니다. '
그러나 가짜 유명인 포르노를 만드는 데 사용될 수 있기 때문에 우려를 일으키는 것은 아닙니다. 사람들은 또한 정치적 파급 효과에 대해 걱정하고 있습니다.
정치 전문가들은 2018 년에 딥 페이크의 확산에 대해 글을 쓰기 시작했습니다. 가디언 기사 그해 11 월부터 도널드 트럼프 대통령이 벨기에 국가에 파리 기후 협정 탈퇴를 장려하는 모습을 담은 동영상이 바이러스에 퍼져 나가는 것을 주목했습니다. 이는 2016 년 미국 대통령 선거에 러시아의 개입에 대한 지속적인 조사 덕분에 이미 시작된 대화 인 대량 허위 정보 캠페인에 다양한 정부가이 기술을 사용할 가능성에 대한 더 큰 논의를 촉진했습니다.
딥 페이크에 대한 패닉은 심지어 블룸버그 미디어 그룹의 편집위원회에이 문제에 대한 강렬한 논평을 작성하도록 영감을주었습니다.
'영상 증거는 형사-정의 시스템의 기둥이되었습니다. 영화가 누군가의 말이나 행동에 대한 믿을만한 기록처럼 보이기 때문입니다. 딥 페이크는 그러한 증거를 의심하게 만들 수 있습니다. ' 그들은 썼다 '그러면 가능한 경우 이러한 위조를 식별하고 호출하는 것이 가장 중요한 과제입니다.'
Williams는 딥 페이크의 본질이 비디오 증거와 관련하여 '현실'에 대한 우리의 개념을 위협한다고 동의했지만,이 법적 수렁이 우리의 현대 디지털 환경에 고유 한 것이 아니라는 점을 지적했습니다.
'사람들이 비디오가 진실과 같다는 생각을한다는 것은 이런 생각으로 귀결됩니다. 우리는 Rodney King부터 이것을 알고있었습니다. 또는 생각 에릭 가너 : 사람들은 [그를 살해 한 경찰관]이 어떤 영상으로 예측 되더라도 무죄하다고 생각했습니다. 나에게 [깊은 가짜에 대한 많은 두려움]은 다소 근거가없는 것처럼 보입니다. '
Williams는 다음과 같이 문제에 대한 여론을 왜곡하기 위해 비디오가 대담하게 조작 된 방식을 보여주는 딥 페이크 기술과 관련되지 않은 몇 가지 다른 사건을 나열했습니다. James O'Keefe의 논란이 많은 ACORN 게시 중단 그리고 최근에 관련된 스캔들 백악관 직원을 공격하는 CNN 기자 짐 아코 스타를 묘사 한 의사 영상 .
Williams의 궁극적 인 결론은 깊은 가짜를 둘러싼 히스테리가 다소 과장되어 있다는 것입니다.
다음 나쁜 여자 클럽은 언제입니까
'내가 보는 것은 두 가지 방식으로 작동 할 것입니다. 비디오가 나오고 그것이 진짜라면 사람들은 그것이 가짜라고 주장 할 것입니다. 동영상이 나오고 가짜라면 사람들은 그것이 진짜라고 주장 할 것입니다. 각 사례는 비디오 [자체]에 할당 된 일정량의 진실을 가정합니다. 이 모든 것이 어떤 방향으로 들어갈 지 알기는 어렵습니다. 오줌 테이프 예를 들어, 실제로 어떤 일이 일어날 지 정확히 알고 있습니다. 사람들의 절반은 '이건 황소 야, 이건 배우 야!'라고 말할 것입니다. 절반은 '저기 있습니다! 진짜야! ' 그래서 아무것도 변하지 않을 것입니다. 그것은 신기술에서 일어나는 경향이 있습니다. 사람들이 생각하는 것만 큼 상황은 변하지 않습니다. '
[사진 : SAUL LOEB / AFP / Getty Images]
