Наскоро Reddit прави новини отново с подизпълнител, в който хората използват инструмент за машинно обучение, наречен "Deep Fake", който автоматично замества лицето на един човек с друг във видеоклип. Очевидно, тъй като това е интернет, хората го използват за две неща: фалшив порно знаменитост и вмъкване на Никълъс Кейдж в произволни филми.
Докато сменянето на лицето на някого с фотография винаги е било сравнително лесно, сменянето на лицето на някого с видео, което отнемаше време и беше трудно. До този момент това е направено главно от студията VFX за големи холивудски филми, където лицето на актьора се сменя на два пъти. Но сега, с Deep Fake, всеки с компютър може да го направи бързо и автоматично.
Преди да продължите, трябва да знаете как изглежда Deep Fake. Разгледайте видеоклипа SFW, по-долу, който е съставен от различни суапове за знаменитости, включващи предимно Ник Кейдж.
Софтуерът Deep Fake работи чрез машинно обучение. Първо е обучен с целево лице. Изкривените изображения на целта се изпълняват от алгоритъма и той научава как да ги коригира, за да приличат на непромененото лице на целевата линия. Когато алгоритъмът се храни с изображения на друг човек, той приема, че са изкривени изображения на целта и се опитва да ги коригира. За да получите видео, софтуерът Deep Fake работи на всеки кадър поотделно.
Причината, поради която "Deep Fakes" до голяма степен засяга само участниците, е, че има много кадри от тях, достъпни от различни ъгли, което прави обучението по-ефективно (Nicolas Cage има 91 действащи кредита на IMDB). Въпреки това, предвид размера на снимките и видеоклиповете, които се публикуват онлайн и че наистина имате нужда от около 500 изображения за трениране на алгоритъма, няма причина обикновените хора да не могат да бъдат насочени, макар и вероятно с малко по-малко успех.
Точно сега, Deep Fakes са доста лесно да се забележи, но ще стане по-трудно, тъй като технологията става по-добре. Ето някои от подаръците.
Странни обличащи лица. В много Deep Fakes лицата просто изглеждат странни. Функциите не се подреждат перфектно и всичко изглежда малко като восъчно като на снимката по-долу. Ако всичко останало изглежда нормално, но лицето изглежда странно, това вероятно е дълбоко фалшива.
Трептенето, Обща характеристика на лошите видеоклипове с дълбоки фалшиви изображения е лицето, което се появява в трептене, а оригиналните функции от време на време се появяват. Това обикновено е по-очевидно по краищата на лицето или когато нещо минава пред него. Ако се случи странно трептене, гледате дълбока фалшификация.
Различни тела. Дълбоките фалшификати са само суап за лице. Повечето хора се опитват да получат добър мач, но това не винаги е възможно. Ако човекът изглежда забележимо по-тежък, по-лек, по-висок, по-къс или има татуировки, които не са в реалния живот (или няма татуировки, които имат в реалния живот), има шанс, че е фалшив. Можете да видите един наистина очевиден пример по-долу, където лицето на Патрик Стюарт е заменено с J.K. Симънс в сцена от филма Whiplash. Симънс е значително по-малък от Стюарт, така че просто изглежда странно.
Кратки клипове. Точно сега, дори когато софтуерът Deep Fake работи перфектно и създава почти неразличимо преобразуване на лицето, то може да го направи само за кратко време. Преди много време един от проблемите по-горе ще започне да се случва. Ето защо повечето клипове за Deep Fake, които хората споделят, са само няколко секунди, а останалата част от кадъра е неизползваема. Ако ви покаже много кратък клип на знаменитост, който прави нещо и няма основателна причина, че е толкова кратък, това е улика, че това е дълбоко фалшива.
Няма звук или лошо синхронизиране на устните. Софтуерът Deep Fake настройва само функциите на лицето; тя не магически прави един човек звучи като друг. Ако няма звук с щипката и няма причина да не звучат, това е още една представа, че гледате дълбока фалшификация. По същия начин, дори и да има звук, ако говорените думи не съвпадат правилно с движещите се устни (или устните изглеждат странни, докато човек говори като в клипа по-долу), може да имате дълбока фалшификация.
Невероятни клипове, Този вид се разбира, но ако ви покажем наистина невероятен клип, има голяма вероятност да не вярвате. Никълъс Кейдж никога не е участвал в "Марвел" като Локи. Това би било страхотно.
Съмнителни източници. Както при фалшивите снимки, откъдето се предполага, че видеото идва, често е голяма представа за автентичността му. Ако "Ню Йорк Таймс" разказва за него, е много по-вероятно да е вярно, че нещо, което откривате в случайния ъгъл на Reddit.
Засега Deep Fakes са по-скоро ужасяващо любопитство, отколкото голям проблем. Резултатите са лесни за разбиране и докато не е възможно да се оправдае какво се прави, никой все още не се опитва да премине от Deep Fakes като истински клипове.
Тъй като технологията става по-добра, обаче, те вероятно ще бъдат много по-голям проблем. Например, убеждаването на фалшивите кадри на Ким Чен Юнг, обявяващи война срещу САЩ, може да предизвика голяма паника.
