„На Давоския форум ни демонстрираха как, например, на кмета взимат интервюта и с неговия глас, с неговите думи задават. И на Обама, и на Путин му бяха направили. Но това само ме прави по-силен. Колкото пъти ми го направят, толкова пъти ги бием“.
Това каза преди няколко дни премиерът Бойко Борисов по повод записа, който в петък изтече в публичното пространство. В него се чува мъжки глас, приличащ на този на премиера, който провежда телефонен разговор. Онова, което изрича, е злепоставящо - той използва вулгарни думи по адрес на председателката на парламента и предварително знае, че прокурата ще повдигне обвинение на заместник-министър.
Сякаш за да докаже, че става въпрос за подправено съдържание, на профила си във Фейсбук премиерът публикува и клип с монтаж от множество негови интервюта върху песента на „Ъпсурт“ „3 в 1“.
На пресконференцията в сряда премиерът частично препотвърди тезата си, че записът е "менте".
Междувременно в множество публикации на близки до властта медии се появи версията, че записът, за който се предполага, че е на Борисов, е плод на т.нар. дийп фейк (deep fake).
Какво е дийп фейк и как се прави?
В последните няколко години светът на няколко пъти беше изумен от различни записи, в които например Марк Зукърбърг се хвали, че „контролира данните на милиарди хора“, а Барак Обама нарича Доналд Тръмп „пълно лайно“.
Тези и други подобни записи повдигнаха въпроса около дийп фейк, а редица специалисти го определиха като „манипулирането на снимки в 21 в.“. Само преди няколко седмици пък огромна популярност, особено в България и Русия, набра видео с бизнесмена Илън Мъск, който изпълнява руската песен „Земля в иллюминаторе“, посветена на космонавтите. Излезе, че Мъск "пее" това след изстрелването на ракетата на Space X, която достигна до Международната космическа станция.
За да се създаде подобен материал най-често се прибягва до употребата на изкуствен интелект, с който се комбинират кадри от реални събития и към тях се добавя друго съдържание.
Това, което повишава качеството на фалшификата, е например налагането на снимки на един и същи човек от различни перспективи. Така се генерира по-високо качество на видеото с лицето на говорещия.
„Най-елементарната“ форма за създаване на подобни видеа е размяната на лицата. За него са необходими няколко хиляди лицеви кадъра на човека, чието лице ще бъде поставено, които се качват в специализирания софтуер. В него на няколко етапа изкуственият интелект открива всички прилики между човека от оригиналното видео и кадрите на другия човек, а впоследствие съчетава двата файла.
Съществуват и други начини, но за създаването на подобно видео е необходимо повече от обикновен компютър. Софтуерите работят по-бързо с висококачествени компютърни конфигурации с мощни видео карти.
Разбира се, за да произведе човек сам дийп фейк, е нужна и сериозна практика, която обаче може да бъде заменена с услуги, които се предлагат със свободен достъп.
Въпреки че най-популярните случаи с дийп фейк видеа са свързани с политици, всъщност най-разпространени са порно клиповете, в които е фалшифицирано участието на популярни личности.
Именно подобен случай, свързан с профил в платформата Редит, разпространил порно клип с известни актриси през 2017 г., се смята за началото на ерата дийп фейк.
Този вид технологии се използват и за създаване на несъществуващи снимки, които е все по-трудно да бъдат различавани. По този начин със съдействието на социалните мрежи могат да бъдат създавани съвсем нови идентичности.
Няколко случая
В последните години най-нашумелите случаи в САЩ бяха свързани с „Майси Кинсли“, представяща се за репортер от Блумбърг и „Кейти Джоунс“, твърдяща, че работи за Центъра за стратегически и международни проучвания. Първият профил беше разобличен след опит да се сдобие с лични данни, а вторият беше свързан с потенциална чуждестранна операция за шпионаж. И в двата случая се оказа, че това са несъществуващи хора, чиито снимки са изцяло създадени с дийп фейк софтуер.
Както отбеляза премиерът Борисов преди дни, дийп фейк може да бъде направен и със звук. Най-популярни са два начина. Единият е използването на т.нар. „модели на гласове“ (voice skins), чрез които гласът на говорещия се трансформира като гласа на този, който е набелязан за имитация. Тази технология се използва най-често за гейминг индустрията.
Друг от популярните варианти е „клонирането“ на гласа, като тогава той се променя спрямо звученето на избраната личност, но се запазват детайлите за начина, по който се говори.
Записи на говор от определен човек пък могат да бъдат използвани и за генериране на изцяло ново аудио съдържание, на база на „наученото“ от определен алгоритъм. Все още няма категорично мнение колко дълги трябва да бъдат тези записи, като според експерти те могат да варират между 30 мин. и няколко часа.
Един от най-популярните случаи с дийп фейк аудио беше преди година, когато директор в германска енергийна компания получава обаждане от своя шеф, с което му се нарежда да прехвърли 220 000 евро по сметката на унгарска фирма доставчик. В свой материал от Уол стрийт джърнъл цитират по случая експерти, които твърдят, че това е първият подобен случай, в който престъпници в Европа са разчитали изцяло на изкуствен интелект за измамата си.
През 2019 г. пък БиБиСи съобщи, че дийп фейк аудио е било използвано във Великобритания за кражбата на милиони паунди, позовавайки се на данни от фирма, занимаваща се с киберсигурност.
Как се разпознава дийп фейк?
Разпознаването на дийп фейк зависи до голяма степен от качеството му. При видеата, които са направени с по-ниско качество, се забелязват разминавания на звука с отварянето на устните, трептения и размазвания около линиите на лицето.
Най-често дори висококачествените материали се разпознават при внимателно вглеждане в детайлите - например в цвета на косата и промяната ѝ при движение. Или в отблясъците на светлината, отразявана от различни предмети.
Част от големите информационни гиганти като Майкрософт, Гугъл и Амазон предприеха редица действия в борбата срещу дийп фейк и спонсорираха проекти, които да се борят с неговото разпознаване и премахване.
През януари от най-голямата социална мрежа дори забраниха дийп фейк видеата в опит да въведат прозрачност, а действията им бяха част от подготовката за президентските избори през 2020 г. Фейсбук и създателят и неин изпълнителен директор Марк Зукърбърг получиха редица обвинения от частни и държавни институции, че са спомогнали в разпространяването на фалшива информация, повлияла на важни гласувания като изборите в САЩ през 2016 г. и референдумът за Брекзит.
По отношение на звука разпознаването също не е малко предизвикателство. Все пак при живите разговори измамниците е възможно да бъдат хванати, ако потенциалната жертва се усъмни и започне да им задава въпроси. По този начин технологията, генерираща звука, може да се затрудни и да допусне грешки. Възможно е и повторно обаждане до същия номер, чрез което да се провери кой и как вдига телефона.
Според експертите при записите нещата са значително по-сложни, тъй като често качеството е много високо и е много трудно за човешкото ухо да различи глас от дийп фейк. Затова са необходими специализирани софтуери, които вече се използват от финансови институции, правоохранителни органи и други.
В сряда българската прокуратура обяви, че започва проверка на записа с гласа, за който се смята, че е на Борисов. С наличната експертиза, както и с помощта на службите, държавното обвинение би трябвало да има капацитета да определи дали в случая става въпрос за дийп фейк съдържание.
Какво може да се постигне с този вид измама?
С все по-голямото утвърждаване на технологиите и скоростта на разпространение на информацията ефектите от дийп фейк материали е възможно да стават все по-сериозни. Част от опасенията на експертите са свързани с финансовите и политически последствия, които един добре направен фалшификат би могъл да има в днешния свят.
Като пример те дават реален случай на истинско видео, в което вече споменатият Илън Мъск пуши марихуана при гостуването си в подкаста на Джо Роугън. Това доведе до огромни загуби на Тесла на стоковата борса, а според експертите, с напредването на технологиите възможността за манипулиране на подобни видеа ще стане безкрайна.
Ако приемем, че случаят със записа на Борисов е пример за дийп фейк, то може да бъде приета тезата на премиера и някои медии, че неговата цел е да се дестабилизира държавата.
Що се отнася до медиите и доверието в информацията, експертите твърдят, че заедно с фалшивите новини и създаването на постистинна реалност крайната цел на редица злонамерени играчи, е да се създаде общество, в което липсва доверие. Това от своя страна пък дава възможност на всеки да отрича истинността на определено съдържание, което се появява в публичното пространство, както към момента изглежда случаят с българския премиер.
Според професора по право в университета в Нюкасъл Лилиан Едуърдс, цитиран от Гардиан, проблемът с фалшифицирането на реалността се състои повече в това, че „истинската реалност може да бъде отричана“.