Штучний інтелект відкрив можливість створювати “deepfake” – надзвичайно реалістичні, але сфабриковані медіа. Відео, де бездоганно замінюють обличчя людини, або клоновані голоси, які неможливо відрізнити від справжніх, – deepfake відкриває нову еру, де побачене (або почуте) не завжди є правдою. Ця технологія пропонує захопливі можливості для інновацій у різних галузях, але водночас несе серйозні ризики.

У цій статті ми розглянемо, що таке AI deepfake, як він працює, а також ключові можливості та загрози, які він несе у сучасному світі.

Що таке Deepfake?

Deepfake – це синтетичний медіаконтент (відео, аудіо, зображення або навіть текст), створений або змінений штучним інтелектом так, щоб переконливо імітувати реальний контент. Сам термін походить від поєднання “глибинного навчання” (просунуті алгоритми ШІ) та “фейку” і набув популярності близько 2017 року на форумі Reddit, де користувачі ділилися відео зі зміненими обличчями знаменитостей.

Сучасні deepfake часто використовують технології генеративних змагальних мереж (GAN) – дві нейронні мережі, які навчаються одна проти одної, створюючи дедалі реалістичніші підробки. За останнє десятиліття розвиток ШІ значно спростив і здешевив створення deepfake: тепер кожен, хто має доступ до інтернету, може користуватися генераторами синтетичного медіа.

Перші deepfake здобули сумнівну славу через зловмисне використання (наприклад, вставляння облич знаменитостей у фейкові відео), що сформувало негативний імідж технології. Проте не весь синтетичний контент, створений ШІ, є шкідливим. Як і будь-який інструмент, deepfake – це засіб, а його вплив (позитивний чи негативний) залежить від того, як його використовують.

Як зазначає Всесвітній економічний форум, незважаючи на численні негативні приклади, “такий синтетичний контент також може приносити користь”. У наступних розділах ми розглянемо найпомітніші позитивні застосування AI deepfake, а також серйозні ризики та зловживання, пов’язані з цією технологією.

Можливості та позитивні застосування AI Deepfake

Незважаючи на суперечливу репутацію, deepfake (часто нейтрально називані “синтетичним медіа”) пропонують кілька позитивних застосувань у творчості, освіті та гуманітарній сфері:

• Розваги та медіа: Кінематографісти використовують технології deepfake для створення вражаючих візуальних ефектів і навіть омолодження акторів на екрані. Наприклад, у останньому фільмі про Індіану Джонса молодший Гаррісон Форд був цифрово відтворений за допомогою ШІ, навченого на архівних кадрах за десятиліття. Ця технологія може оживити історичних постатей або покійних акторів для нових ролей і покращити дубляж, точно відтворюючи рухи губ.
  Загалом, deepfake дозволяє створювати більш захопливий і реалістичний контент у кіно, телебаченні та іграх.

• Освіта та тренінги: Технологія deepfake робить навчання більш інтерактивним і захопливим. Викладачі можуть створювати освітні симуляції або історичні реконструкції з реалістичними образами відомих особистостей, оживляючи уроки історії чи науки.
  Реалістичні рольові сценарії, створені ШІ (наприклад, імітація медичної надзвичайної ситуації або ситуації в кабіні літака), допомагають готувати фахівців у медицині, авіації, військовій справі та інших сферах. Такі симуляції забезпечують безпечне і контрольоване навчання для реальних ситуацій.

• Доступність та комунікація: ШІ-синтезовані медіа долають мовні та комунікаційні бар’єри. Deepfake-перекладачі можуть дублювати відео кількома мовами, зберігаючи голос і манери мовця – наприклад, артистка FKA Twigs створила deepfake себе, яка говорить мовами, яких вона не знає. Це має потенціал рятувати життя: служби екстреної допомоги використовували голосовий переклад ШІ для швидшої обробки дзвінків 911, скоротивши час перекладу до 70% у критичних ситуаціях.
  Так само розробляються аватари жестової мови на основі deepfake, які перекладають мову в жести для глухих, створюючи настільки реалістичні відео, що алгоритми на початкових етапах не могли відрізнити їх від живих перекладачів. Ще одним важливим застосуванням є клонування голосу для тих, хто втратив здатність говорити – наприклад, конгресвумен США з нейродегенеративним захворюванням нещодавно використала AI-клон свого голосу, щоб звернутися до законодавців після втрати мови, що дозволило їй “говорити своїм тоном” незважаючи на хворобу.
  Ці приклади демонструють, як deepfake покращує доступність і зберігає голоси та комунікацію людей.

• Охорона здоров’я та терапія: У медицині синтетичні медіа допомагають як у дослідженнях, так і в підтримці пацієнтів. Медичні зображення, створені ШІ, можуть доповнювати навчальні дані для діагностичних алгоритмів – одне дослідження показало, що система ШІ для виявлення пухлин, навчена переважно на MRI-зображеннях, створених GAN, працювала так само ефективно, як і система, навчена на реальних сканах. Це означає, що deepfake може покращити медичний ШІ, створюючи велику кількість навчальних даних без ризику для конфіденційності пацієнтів.
  У терапевтичних цілях контрольовані deepfake можуть заспокоювати пацієнтів. Наприклад, доглядальники експериментували зі створенням відео, де близькі пацієнта з Альцгеймером з’являються у вигляді молодшої версії себе (з періоду, який пацієнт найкраще пам’ятає), що знижує плутанину та тривогу. У кампаніях громадського здоров’я технології deepfake допомогли донести потужні меседжі: у одній антималярійній кампанії відеозвернення футбольної зірки Девіда Бекхема було змінено ШІ так, що “він” говорив дев’ятьма мовами, допомагаючи охопити півмільярда людей у світі. Це демонструє, як синтетичні медіа можуть посилювати важливі повідомлення для різноманітної аудиторії.

• Конфіденційність та анонімність: Парадоксально, але та сама технологія заміни облич, що може створювати фейкові новини, також може захищати конфіденційність. Активістів, інформаторів або вразливих осіб можна знімати з заміненими обличчями на реалістичні AI-генеровані, приховуючи їхню особистість без очевидного розмивання.
  Відомим прикладом є документальний фільм “Welcome to Chechnya” (2020), який використовував AI-генеровані накладки облич, щоб приховати ідентичність ЛГБТ-активістів, що тікали від переслідувань, зберігаючи при цьому їхні вирази обличчя та емоції. Таким чином глядачі могли відчути людяність героїв, хоча показані обличчя були не справжніми.
  Дослідники розвивають цю ідею у інструменти для повсякденної конфіденційності – наприклад, експериментальні “системи анонімізації” можуть автоматично замінювати обличчя людини на фото, які публікуються у соцмережах, на синтетичний двійник, якщо особа не дала згоди на ідентифікацію. Аналогічно, технологія “голосової маски” може змінювати голос мовця в реальному часі (наприклад, в онлайн-іграх або віртуальних зустрічах), щоб уникнути упереджень або переслідувань, зберігаючи при цьому оригінальні емоції та наміри.
  Ці застосування свідчать, що deepfake може допомогти людям контролювати свою цифрову ідентичність і безпеку.

Заміна обличчя за допомогою deepfake може використовуватися для анонімізації осіб. Наприклад, у фільмі Welcome to Chechnya захищали активістів, що перебували під загрозою, накладаючи на їхні обличчя обличчя волонтерів-акторів за допомогою ШІ, приховуючи їхню ідентичність, але зберігаючи природні вирази. Це демонструє, як синтетичні медіа можуть захищати конфіденційність у чутливих ситуаціях.

Підсумовуючи, deepfake – це двосічний меч. З одного боку, “синтетичний контент не є за своєю суттю ні позитивним, ні негативним – його вплив залежить від користувача та його намірів”. Наведені приклади підкреслюють можливості використання технології deepfake для творчості, комунікації та суспільного добра.

Проте зворотний бік цього потужного інструменту – величезний потенціал шкоди при зловмисному використанні. Останні роки принесли багато попереджувальних історій про обман і зловживання з deepfake, які ми розглянемо далі.

Ризики та зловживання Deepfake

Поширення простих у створенні deepfake викликало серйозні побоювання та загрози. Зокрема, опитування 2023 року показало, що 60% американців були “дуже стурбовані” deepfake – це їхній головний страх, пов’язаний зі штучним інтелектом. Основні ризики, пов’язані з технологією deepfake, включають:

• Дезінформація та політична маніпуляція: Deepfake можуть використовуватися як зброя для масштабного поширення дезінформації. Підроблені відео або аудіо публічних осіб можуть показувати їх у ситуаціях, яких ніколи не було, вводячи громадськість в оману. Такі фальшивки можуть підірвати довіру до інституцій, впливати на громадську думку або навіть провокувати заворушення.

  Наприклад, під час війни Росії проти України поширилося deepfake-відео, де президент Володимир Зеленський нібито здається в полон; хоча його швидко спростували через очевидні недоліки (наприклад, непропорційно велика голова та дивний голос), це показало потенціал ворогів використовувати AI-фейки у пропаганді.
  Подібним чином у 2023 році фейкове зображення “вибуху” біля Пентагону стало вірусним і спричинило короткочасне падіння фондового ринку, поки влада не уточнила, що це AI-генерація.

  З розвитком deepfake зростає занепокоєння, що вони можуть створювати надзвичайно переконливі фейкові новини, руйнуючи здатність громадськості відрізняти реальність від вигадки. Це не лише поширює брехню, а й створює ефект “дивіденду брехуна” – люди можуть почати сумніватися навіть у справжніх відео чи доказах, стверджуючи, що це deepfake. Загалом це призводить до ерозії правди та подальшої втрати довіри до медіа і демократичного дискурсу.

• Незаконна порнографія та домагання: Одним із найпоширеніших і найшкідливіших зловживань deepfake є створення фейкових порнографічних матеріалів. Використовуючи кілька фотографій, зловмисники (часто через анонімні форуми або додатки) можуть створювати реалістичні порнографічні відео з особами – зазвичай жінками – без їхньої згоди. Це серйозне порушення приватності та сексуальні домагання.

  Дослідження показали, що переважна більшість deepfake-відео в інтернеті (близько 90–95%) – це порнографія без згоди, майже всі з жінками-жертвами. Такі фейкові відео можуть завдати особистої шкоди, спричиняючи приниження, травму, шкоду репутації та навіть погрози шантажем. Відомі акторки, журналістки та приватні особи знаходили свої обличчя на дорослому контенті.

  Правоохоронці та законодавці дедалі більше занепокоєні цією проблемою; наприклад, у США кілька штатів і федеральний уряд запропонували або ухвалили закони, що криміналізують deepfake-порнографію та надають жертвам юридичний захист. Шкода від deepfake-порнографії підкреслює, як ця технологія може використовуватися для порушення приватності, цілеспрямованих атак (часто з антижіночим ухилом) і поширення наклепницьких фейкових зображень з мінімальними витратами для зловмисника.

• Шахрайство та імітація особи: Deepfake стали небезпечним інструментом для кіберзлочинців. Клони голосу на основі ШІ та навіть live-відео deepfake використовуються для імітації довірених осіб з метою шахрайства. ФБР попереджає, що злочинці використовують клони голосу/відео на базі ШІ, щоб видавати себе за членів сім’ї, колег або керівників, обманюючи жертв і змушуючи їх переказувати гроші або розкривати конфіденційну інформацію.

  Ці шахрайства, часто високотехнологічна варіація “шахрайства з імітацією”, вже спричинили значні збитки. У одному випадку злочинці використали ШІ, щоб імітувати голос генерального директора і переконали співробітника переказати їм 220 000 євро (приблизно 240 000 доларів). В іншому випадку злочинці за допомогою deepfake підробили відеоприсутність фінансового директора компанії на Zoom-дзвінку, щоб санкціонувати переказ 25 мільйонів доларів на шахрайські рахунки.

  Такі соціально-інженерні атаки на основі deepfake зростають – звіти показують різке збільшення шахрайств із deepfake у світі за останні кілька років. Поєднання дуже правдоподібних фейкових голосів/відео та швидкості цифрової комунікації може застати жертв зненацька. Особливо вразливі бізнеси через “шахрайства з CEO” або підроблених керівників, які дають накази.

  Якщо працівники не навчені скептично ставитися до аудіовізуального контенту, вони можуть виконати deepfake-наказ, який здається легітимним. Наслідком можуть бути крадіжки коштів, витоки даних або інші дорогі збитки. Ця загроза змусила експертів із безпеки закликати до посилення практик верифікації особистості (наприклад, використання безпечних каналів для підтвердження запитів) та технічних інструментів для аутентифікації аудіо і відео у чутливих операціях.

• Підрив довіри та юридичні виклики: Поява deepfake розмиває межу між реальністю та вигадкою, викликаючи широкі соціальні та етичні проблеми. Зі зростанням переконливості фейкового контенту люди можуть почати сумніватися в автентичних доказах – це небезпечний сценарій для правосуддя та суспільної довіри.

  Наприклад, справжнє відео правопорушення може бути відкинуте як “deepfake” самим порушником, ускладнюючи журналістику та судові процеси. Ерозія довіри до цифрових медіа важко піддається кількісній оцінці, але має руйнівні наслідки з часом.

  Deepfake також породжують складні юридичні питання: хто володіє правами на AI-створений образ людини? Як застосовуються закони про наклеп чи дифамацію до фейкового відео, що шкодить репутації? Існують також питання згоди та етики – використання обличчя або голосу людини у deepfake без дозволу зазвичай вважається порушенням її прав, хоча законодавство ще не повністю адаптувалося до цієї реальності.

  Деякі юрисдикції вже вимагають чіткої маркування змінених медіа, особливо якщо їх використовують у політичній рекламі чи виборах. Крім того, платформи соціальних мереж перебувають під тиском для виявлення та видалення шкідливих deepfake (подібно до боротьби з іншими формами дезінформації чи маніпульованого контенту).

  З технологічної точки зору виявлення deepfake – це “гонка озброєнь”. Дослідники створюють системи ШІ для виявлення тонких ознак підробки (наприклад, аномалії в кровообігу обличчя чи патернах миготіння). Однак із покращенням виявлення вдосконалюються й методи обходу – що призводить до постійної боротьби між захистом і зловмисниками.

  Усі ці виклики чітко показують, що суспільство має навчитися автентично перевіряти медіа в епоху ШІ та притягувати творців deepfake до відповідальності за зловживання.

Навігація в еру Deepfake: пошук балансу

AI deepfake став класичною дилемою технологічного прогресу: величезні можливості переплітаються з небезпеками. З одного боку, ми маємо безпрецедентні творчі та корисні застосування – від збереження голосів і перекладу мов до нових форм оповідання та захисту приватності.

З іншого боку, зловмисне використання deepfake загрожує приватності, безпеці та суспільній довірі. Надалі важливо максимізувати переваги, мінімізуючи шкоду.

Зусилля ведуться на багатьох фронтах. Технологічні компанії та дослідники інвестують у інструменти виявлення та системи автентифікації (наприклад, цифрові водяні знаки або стандарти перевірки контенту), щоб допомогти людям відрізняти справжнє від підробленого. Законодавці у світі також розглядають законодавство для обмеження найгірших зловживань deepfake – наприклад, заборону фейкової порнографії, дезінформації на виборах або вимогу розкриття фактів AI-модифікації медіа.

Однак лише регулювання недостатньо, враховуючи швидкість розвитку технології та її транснаціональний характер. Освіта та підвищення обізнаності не менш важливі: програми цифрової грамотності можуть навчити громадськість критично оцінювати медіа та розпізнавати ознаки deepfake, так само як люди навчилися виявляти шахрайські листи чи фішинг.

Якщо користувачі знають, що “ідеальні” або сенсаційні кадри можуть бути сфабриковані, вони зможуть враховувати це перед тим, як реагувати чи поширювати.

>>> Натисніть, щоб дізнатися більше:

Роль штучного інтелекту в цифрову епоху

Проблеми штучного інтелекту та безпеки даних

Зрештою, феномен deepfake залишиться з нами – “джин вилетів із пляшки, і назад його не повернути”. Замість паніки чи тотальних заборон експерти пропонують збалансований підхід: заохочувати відповідальні інновації у сфері синтетичних медіа, одночасно розробляючи надійні запобіжники проти зловживань.

Це означає підтримку позитивних застосувань (у розвагах, освіті, доступності тощо) відповідно до етичних норм, а також інвестиції у заходи безпеки, правові рамки та норми для покарання зловмисного використання. Працюючи спільно – технологи, регулятори, компанії та громадяни – ми можемо створити майбутнє, де AI deepfake буде “звичним, знайомим і надійним”. У такому майбутньому ми використовуємо творчість і зручність, які пропонують deepfake, залишаючись пильними та стійкими до нових форм обману, які вони відкривають.

Можливості захоплюють, а ризики реальні – усвідомлення обох є першим кроком до формування медіаландшафту на основі ШІ, що служить на благо всього суспільства.