인공 지능은 널리 퍼져 있으며 현재로서는 그것이 우리 주변의 모든 것을 형성하고 있다고 해도 과언이 아닙니다. Google, Meta, OpenAI와 같은 주요 기술 브랜드는 AI 기반 도구 및 보조자의 한계를 넓혀 끝없는 사용 사례와 가능성의 문을 열고 있습니다. 이제 소규모 기업을 위한 AI 도구를 사용하여 수익을 창출하고, 이상한 AI 기반 장치를 만들고, 심지어 무해한 재미를 위해 딥페이크 비디오나 사진을 생성할 수도 있습니다.
몇 년 전만 해도 AI 이미지 도구는 단순한 호기심에 불과해 설득력 있는 딥페이크를 생성하는 데 어려움을 겪었습니다. 오늘날 AI는 조작 도구를 사용하여 탐지가 거의 불가능한 고품질의 복잡한 딥페이크를 생성할 수 있는 수준까지 발전했습니다. 이 기술에는 몇 가지 긍정적인 측면이 있지만 불행히도 악의적인 의도를 가진 사람들의 손에 들어가는 경우도 있습니다. 잘못된 정보를 유포하고, 언론인을 침묵시키고, 유명 연예인을 모욕하고, 기술에 익숙하지 않은 사람들을 사기 위해 딥페이크를 활용할 수 있는 범죄자를 생각해 보십시오. 더 나쁜 것은 AI가 조작하고 조작한 증거가 법정에 들어갈 정도로 사람들이 딥페이크를 남용하고 있다는 것입니다.
이러한 위험을 알고 실제 이미지와 AI 생성 이미지를 구별하는 방법을 아는 것이 매우 중요합니다. 이미지가 AI로 생성된 것인지 실제인지 확인하는 가장 좋은 방법 중 하나는 이 작업을 위해 의도적으로 구축된 웹 기반 도구를 사용하는 것입니다. 여기에는 Attestiv Video Platform, Sensity AI, Reality Defender 및 Deepware Scanner와 같은 딥페이크 탐지 도구가 포함됩니다.
딥페이크를 탐지하는 데 도움이 되는 도구가 있습니다.
이러한 도구는 기계 학습 알고리즘을 사용하여 비디오, 이미지 및 오디오를 분석하여 조명 불일치, 색 바램 및 픽셀 불일치와 같은 미묘한 불일치를 찾습니다. Veo, Imagen, Lyria 및 Gemini와 같은 Google AI 서비스에서 생성된 콘텐츠에 삽입된 워터마크의 존재를 감지하는 SynthID 감지기와 같은 도구를 사용할 수도 있습니다.
이러한 도구는 놀랍게 들리지만 꽤 큰 단점도 있습니다. 실제로는 딥페이크인데도 거짓 긍정을 생성하거나 이미지가 진짜라고 말할 수도 있습니다. 이는 주로 비디오 품질, 표정 누락, 훈련 데이터 문제 등의 요인 때문입니다. AI 이미지 생성기의 지속적인 발전과 온라인의 방대한 양의 합성 콘텐츠도 딥페이크 감지기의 실제 성능에 영향을 미칠 수 있습니다.
딥페이크 도구 탐지기로 성공할 수도 있고 실패할 수도 있다는 점을 고려하면 의심스러운 경우 Google 도구를 사용하면 조사하는 데 도움이 될 수 있습니다. Google 검색을 사용하여 동영상이나 이미지의 출처를 추적하거나 Google 사실확인 탐색기를 사용하여 온라인에서 이미지의 신뢰성을 확인할 수 있습니다. 또는 Bing Visual Search를 사용해 볼 수도 있습니다. 이미지를 반전하여 원본 소스를 추적하고, 유사한 이미지를 찾고, 제품을 일치시키고, 기타 관련 정보에 액세스할 수 있는 좋은 오래된 역검색 도구입니다.
딥페이크 단서를 조심하세요
매년 더 나은 탐지 도구가 출시됨에 따라 딥페이크 생성 도구를 사용하는 회사들은 탐지를 회피하는 딥페이크를 생성하는 보다 진보된 방법을 찾고 있습니다. 이것을 알면, 다음에 영상이나 이미지를 볼 때, 그것이 AI가 만든 것이 아닐까 걱정된다면, 우리가 의식적으로 생각하지 않고 평소에 하는 작은 신체 움직임을 찾아보고 싶을 것입니다. 비디오의 경우 깜박임에 작은 불일치가 나타날 수 있습니다. 건강한 성인은 평균적으로 분당 15~20회 정도 눈을 깜박인다고 합니다. 따라서 비디오를 시청할 때 비디오가 너무 많이 깜박이는 것을 발견하면 아마도 딥페이크일 가능성이 높습니다.
비디오 또는 오디오 파일이 제너레이티브 AI에 의해 생성되었는지 확인하는 또 다른 방법은 말과 입술 움직임의 불일치, 시각적 불일치, 왜곡된 치아와 같은 안면 기형과 같은 숨길 수 없는 징후를 찾는 것입니다. 또한, 영상 통화가 의심되는 경우 발신자에게 복잡한 손짓을 하거나 고개를 돌리도록 요청하여 가짜인지 여부를 판단할 수 있습니다. 최고의 AI 이미지 생성기 앱도 이런 종류의 세세한 부분을 처리할 수 없으며 딥페이크인 경우 얼굴이 휘어지고 귀가 늘어나며 안경과 주얼리가 불안정해질 수 있습니다.
