Ризики використання штучного інтелекту

Штучний інтелект (ШІ) сьогодні вплетений у все — від помічників у смартфонах і стрічок у соцмережах до охорони здоров’я та транспорту. Ці технології приносять безпрецедентні переваги, але також супроводжуються значними ризиками та викликами.

У цій статті разом із INVIAI розглянемо ризики використання ШІ у всіх сферах і типах ШІ — від чатботів і алгоритмів до роботів — на основі даних офіційних та міжнародних джерел.

Упередженість і дискримінація в системах ШІ

Одним із головних ризиків ШІ є закріплення упереджень і несправедливої дискримінації. Моделі ШІ навчаються на даних, які можуть відображати історичні упередження чи нерівність; внаслідок цього система ШІ може по-різному ставитися до людей за расою, статтю чи іншими ознаками, що підтримує несправедливість.

Несправний універсальний ШІ може завдавати шкоди через упереджені рішення щодо захищених характеристик, таких як раса, стать, культура, вік і інвалідність.

— Міжнародний звіт з безпеки ШІ

Світові організації, як ЮНЕСКО, застерігають, що без заходів справедливості ШІ ризикує "відтворювати реальні упередження та дискримінацію, розпалювати розколи і загрожувати фундаментальним правам і свободам людини". Забезпечення навчання систем ШІ на різноманітних, репрезентативних даних і аудит на предмет упередженості є необхідним для запобігання автоматизованій дискримінації.

Упередженість і дискримінація в системах ШІ

Небезпеки дезінформації та дипфейків

Здатність ШІ генерувати надреалістичний текст, зображення та відео викликає побоювання щодо потоку дезінформації. Генеративний ШІ може створювати переконливі фейкові новини, підроблені зображення або дипфейк-відео, які важко відрізнити від реальності.

Насправді дезінформація, підживлена ШІ, є однією з "найбільших викликів для демократичного процесу" — особливо з огляду на мільярди виборців на майбутніх виборах. Синтетичні медіа, як дипфейк-відео та клоновані голоси ШІ, можуть використовуватися для поширення пропаганди, імітації публічних осіб або шахрайства.

Офіційні особи попереджають, що зловмисники можуть використовувати ШІ для масштабних кампаній дезінформації, що полегшує заповнення соцмереж фейковим контентом і посів хаосу. Ризик полягає у цинічному інформаційному середовищі, де громадяни не можуть довіряти тому, що бачать чи чують, що підриває громадський дискурс і демократію.

Небезпеки дезінформації та дипфейків у ШІ

Загрози приватності та масового спостереження

Широке використання ШІ викликає серйозні питання приватності. Системи ШІ часто потребують величезних обсягів персональних даних — від облич і голосів до звичок покупок і місцезнаходження — для ефективної роботи. Без надійних захистів ці дані можуть бути зловживані або експлуатовані.

Наприклад, розпізнавання облич і прогнозні алгоритми можуть забезпечити повсюдне спостереження, відстежуючи кожен рух людини або оцінюючи її поведінку без згоди.

Приватність — це право, що є суттєвим для захисту людської гідності, автономії та свободи волі, яке має поважатися протягом усього життєвого циклу системи ШІ.

— Агентства з захисту даних

Якщо розвиток ШІ випереджатиме регулювання приватності, люди можуть втратити контроль над власною інформацією. Суспільство має забезпечити надійне управління даними, механізми згоди та методи захисту приватності, щоб технології ШІ не стали інструментами неконтрольованого спостереження.

Загрози приватності та масового спостереження

Відмови безпеки та ненавмисна шкода

Хоча ШІ може автоматизувати рішення та фізичні завдання з надлюдською ефективністю, він також може відмовляти непередбачуваними способами, що призводить до реальної шкоди. Ми довіряємо ШІ все більше відповідальних завдань — керування автомобілями, діагностика пацієнтів, управління енергосистемами — але ці системи не є безпомилковими.

Збої, помилкові навчальні дані або непередбачені ситуації можуть спричинити небезпечні помилки. ШІ автопілота може неправильно розпізнати пішохода, або медичний ШІ може рекомендувати неправильне лікування з потенційно смертельними наслідками.

Небажані шкоди (ризики безпеки), а також вразливості до атак (ризики безпеки) слід уникати та усувати протягом усього життєвого циклу систем ШІ, щоб забезпечити безпеку людей, довкілля та екосистем.

— Міжнародні настанови з ШІ

Інакше кажучи, системи ШІ мають проходити ретельне тестування, моніторинг і бути оснащені захистами від збоїв, щоб мінімізувати ймовірність помилок. Надмірна довіра до автоматизованих рішень також небезпечна — якщо люди сліпо довірятимуть ШІ, вони можуть не втрутитися вчасно, коли щось піде не так.

Тому забезпечення людського контролю є надзвичайно важливим. У сферах із високими ставками (медицина, транспорт) остаточні рішення мають залишатися за людиною. Підтримка безпеки та надійності ШІ — це постійний виклик, що вимагає ретельного проєктування та культури відповідальності серед розробників.

Відмови безпеки та ненавмисна шкода в ШІ

Втрата робочих місць та економічні потрясіння

Трансформаційний вплив ШІ на економіку — це двосічний меч. З одного боку, ШІ може підвищувати продуктивність і створювати нові галузі; з іншого — він несе ризик заміщення мільйонів працівників через автоматизацію.

Багато робочих місць — особливо ті, що пов’язані з рутинними, повторюваними завданнями або легко аналізованими даними — вразливі до заміщення алгоритмами та роботами на базі ШІ.

Хоча економіка може створювати нові ролі (можливо, навіть більше, ніж втрачається), перехід буде болючим для багатьох. Нові роботи часто вимагають інших, більш складних навичок або концентруються в певних технологічних центрах, тому багато звільнених працівників можуть мати труднощі з пошуком нового місця.

Цей розрив між навичками працівників і вимогами нових ролей на основі ШІ може призвести до зростання безробіття та нерівності, якщо його не вирішити. Політики та дослідники попереджають про "порушення ринку праці та нерівність економічної влади" на системному рівні через швидкий розвиток ШІ.

Без проактивних заходів (перепідготовка, освіта в галузі ШІ, соціальні гарантії) ШІ може посилити соціально-економічні розриви, створюючи економіку, де власники технологій отримують більшість вигод.

Підготовка робочої сили до впливу ШІ є критичною для забезпечення широкого розподілу переваг автоматизації та запобігання соціальним потрясінням через масову втрату робочих місць.

Втрата робочих місць та економічні потрясіння в ШІ

Кримінальне використання, шахрайство та загрози безпеці

ШІ — потужний інструмент, який може бути використаний як для благородних, так і для злочинних цілей. Кіберзлочинці та інші зловмисники вже експлуатують ШІ для посилення своїх атак.

Наприклад, ШІ може генерувати дуже персоналізовані фішингові листи або голосові повідомлення (клонувавши голос), щоб обманом змусити людей розкрити конфіденційну інформацію або переказати гроші. Також його використовують для автоматизації злому, знаходячи вразливості в програмному забезпеченні, або для створення шкідливого ПЗ, що адаптується, щоб уникнути виявлення.

Зловмисники можуть використовувати ШІ для масштабних операцій з дезінформації, впливу, шахрайства та афер.

— Звіт, замовлений урядом Великої Британії

Центр безпеки ШІ визначає злочинне використання ШІ як ключову проблему, зазначаючи сценарії, коли злочинці застосовують ШІ для масштабного шахрайства та кібернападів.

Швидкість, масштаб і складність, які надає ШІ, можуть перевантажити традиційні засоби захисту — уявіть тисячі шахрайських дзвінків або дипфейк-відео, спрямованих на безпеку компанії за один день.

Зі зростанням доступності інструментів ШІ бар’єр для здійснення таких злочинів знижується, що може призвести до сплеску злочинності з використанням ШІ.

Це вимагає нових підходів до кібербезпеки та правоохоронної діяльності, наприклад, систем ШІ, які можуть виявляти дипфейки або аномальну поведінку, а також оновлених правових рамок для притягнення винних до відповідальності. По суті, потрібно передбачати, що будь-які можливості, які ШІ надає добросовісним користувачам, можуть бути використані і злочинцями — і готуватися відповідно.

Кримінальне використання, шахрайство та загрози безпеці в ШІ

Мілітаризація та автономна зброя

Можливо, найстрашніший ризик ШІ виникає у контексті війни та національної безпеки. ШІ швидко інтегрується у військові системи, піднімаючи перспективу автономної зброї ("вбивчі роботи") та прийняття рішень ШІ у бойових діях.

Ці технології можуть реагувати швидше за людину, але позбавлення людського контролю над застосуванням смертоносної сили пов’язане з великими небезпеками. Існує ризик, що зброя під контролем ШІ може вибрати неправильну ціль або ескалювати конфлікти непередбачуваними способами.

Якщо країни почнуть змагатися у оснащенні арсеналів розумною зброєю, це може спровокувати дестабілізуючу гонку озброєнь. Крім того, ШІ може використовуватися у кібервійні для автономних атак на критичну інфраструктуру або поширення пропаганди, розмиваючи межу між миром і конфліктом.

Розвиток ШІ у військовій сфері, якщо він зосереджений у руках небагатьох, може нав’язуватися людям без їхньої згоди, підриваючи глобальну безпеку та етику.

— Організація Об’єднаних Націй

Автономна зброя також ставить правові та моральні дилеми — хто нестиме відповідальність, якщо дрон ШІ помилково вб’є цивільних? Як такі системи відповідають міжнародному гуманітарному праву?

Ці невирішені питання призвели до закликів заборонити або суворо регулювати певні види зброї на основі ШІ. Забезпечення людського контролю над будь-яким ШІ, що приймає рішення про життя і смерть, вважається надзвичайно важливим. Без нього ризик — не лише трагічні помилки на полі бою, а й ерозія людської відповідальності у війні.

Мілітаризація та автономна зброя в ШІ

Відсутність прозорості та підзвітності

Більшість сучасних систем ШІ працюють як "чорні скриньки" — їхня внутрішня логіка часто непрозора навіть для розробників. Відсутність прозорості створює ризик, що рішення ШІ не можна пояснити або оскаржити, що є серйозною проблемою у сферах правосуддя, фінансів чи охорони здоров’я, де пояснюваність може бути юридичною або етичною вимогою.

Якщо ШІ відмовляє у кредиті, ставить діагноз або вирішує, хто вийде на умовно-дострокове звільнення, ми природно хочемо знати чому. Для деяких моделей ШІ (особливо складних нейронних мереж) надати чітке пояснення складно.

Відсутність прозорості може також унеможливити ефективне оскарження рішень, прийнятих на основі результатів систем ШІ, і таким чином порушувати право на справедливий суд і ефективний захист.

— ЮНЕСКО

Інакше кажучи, якщо ні користувачі, ні регулятори не можуть зрозуміти, як ШІ приймає рішення, стає майже неможливо притягнути когось до відповідальності за помилки чи упередження.

Щоб протидіяти цьому, експерти виступають за пояснюваний ШІ, ретельний аудит і регуляторні вимоги, щоб рішення ШІ можна було відстежити до людської влади.

Світові етичні настанови наполягають, що має "завжди бути можливо приписати етичну та юридичну відповідальність" за поведінку систем ШІ конкретній особі чи організації. Люди мають залишатися остаточно відповідальними, а ШІ повинен допомагати, а не замінювати людський суд у чутливих питаннях. Інакше ми ризикуємо створити світ, де важливі рішення приймають незрозумілі машини — рецепт для несправедливості.

Відсутність прозорості та підзвітності у використанні ШІ на робочому місці

Концентрація влади та нерівність

Революція ШІ відбувається нерівномірно по світу — невелика кількість корпорацій і країн домінує у розвитку передового ШІ, що несе власні ризики.

Передові моделі ШІ потребують величезних обсягів даних, талантів і обчислювальних ресурсів, які наразі мають лише технологічні гіганти (та добре фінансовані уряди).

Це призвело до висококонцентрованого, єдиного, глобально інтегрованого ланцюга постачання, що сприяє кільком компаніям і країнам.

— Світовий економічний форум

Така концентрація влади у сфері ШІ може призвести до монополістичного контролю над технологіями, обмежуючи конкуренцію та вибір споживачів. Це також підвищує ризик того, що пріоритети цих небагатьох компаній чи країн формуватимуть ШІ без урахування широких суспільних інтересів.

Ця нерівність може посилити глобальні розриви: багаті країни та компанії випереджають, використовуючи ШІ, тоді як бідніші спільноти не мають доступу до новітніх інструментів і страждають від втрати робочих місць без отримання вигод від ШІ.

Крім того, концентрована індустрія ШІ може стримувати інновації (якщо новачки не можуть конкурувати з ресурсами лідерів) і створювати ризики безпеки (якщо критична інфраструктура ШІ контролюється небагатьма, це стає єдиною точкою відмови або маніпуляції).

Вирішення цього ризику вимагає міжнародної співпраці та, можливо, нових регуляцій для демократизації розвитку ШІ — наприклад, підтримки відкритих досліджень, забезпечення справедливого доступу до даних і обчислень, а також розробки політик (як-от запропонований ЄС Акт про ШІ) для запобігання зловживанням з боку "вхідних воротарів" ШІ. Більш інклюзивний ландшафт ШІ допоможе забезпечити глобальний розподіл переваг, а не розширення розриву між технологічними "маю" і "не маю".

Концентрація влади та нерівність

Вплив ШІ на довкілля

Часто упускається з виду у дискусіях про ризики ШІ його екологічний слід. Розробка ШІ, особливо навчання великих моделей машинного навчання, споживає величезну кількість електроенергії та обчислювальних ресурсів.

Центри обробки даних, заповнені тисячами енергоємних серверів, необхідні для обробки потоків даних, на яких навчаються системи ШІ. Це означає, що ШІ опосередковано сприяє викидам вуглецю та зміні клімату.

Зі зростанням інвестицій у ШІ очікується стрімке зростання викидів від роботи моделей — звіт прогнозує, що провідні системи ШІ можуть разом викидати понад 100 мільйонів тонн CO₂ на рік, що створює значне навантаження на енергетичну інфраструктуру.

Для порівняння, центри обробки даних для ШІ збільшують споживання електроенергії "у чотири рази швидше за загальне зростання споживання електроенергії".

Окрім викидів вуглецю, ШІ також споживає воду для охолодження і продукує електронні відходи через швидке оновлення апаратного забезпечення. Якщо це залишити без контролю, вплив ШІ на довкілля може підірвати глобальні зусилля зі сталого розвитку.

Цей ризик вимагає зробити ШІ енергоефективнішим і використовувати чистіші джерела енергії. Дослідники розробляють "зелений" ШІ для зниження споживання енергії, а деякі компанії взяли на себе зобов’язання компенсувати вуглецевий слід ШІ. Проте це залишається нагальною проблемою, і швидкий розвиток ШІ може мати значну екологічну ціну. Балансування технологічного прогресу з екологічною відповідальністю — ще один виклик для суспільства при інтеграції ШІ.

Вплив ШІ на довкілля

Екзистенційні та довгострокові ризики

Окрім безпосередніх ризиків, деякі експерти попереджають про більш спекулятивні, довгострокові ризики від ШІ — зокрема можливість появи передового ШІ, який вийде з-під контролю людини. Хоча сучасні системи ШІ вузькоспеціалізовані, дослідники активно працюють над створенням загального ШІ, який потенційно може перевершити людину у багатьох сферах.

Це породжує складні питання: якщо ШІ стане значно розумнішим або автономнішим, чи може він діяти так, що загрожуватиме існуванню людства? Хоч це звучить як наукова фантастика, відомі фігури у технологічній спільноті висловлюють занепокоєння щодо сценаріїв "шкідливого ШІ", і уряди серйозно ставляться до цих дискусій.

Експерти мають різні погляди щодо ризику втрати контролю над ШІ, що може призвести до катастрофічних наслідків.

— Міжнародний звіт з безпеки ШІ

Науковий консенсус неоднорідний — одні вважають, що суперінтелектуальний ШІ далеко в майбутньому або його можна тримати в узді людськими цінностями, інші бачать невеликий, але реальний шанс катастрофічних наслідків.

По суті, визнається, що екзистенційний ризик від ШІ, хоч і малоймовірний, не можна повністю виключати. Такий сценарій може включати ШІ, який, якщо його неправильно запрограмувати, вирішить робити щось шкідливе у великому масштабі через відсутність здорового глузду або моральних обмежень.

Хоча жоден сучасний ШІ не має такої агентності, швидкість розвитку ШІ є високою і непередбачуваною, що само по собі є фактором ризику.

Підготовка до довгострокових ризиків означає інвестування у дослідження узгодження цілей ШІ, укладення міжнародних угод щодо досліджень ШІ з високими ставками (подібно до договорів про ядерну чи біологічну зброю) і підтримку людського контролю зі зростанням можливостей ШІ.

Майбутнє ШІ обіцяє великі можливості, але також невизначеність — і розсудливість вимагає враховувати навіть низькоправдоподібні, але високовпливові ризики у довгостроковому плануванні.

Екзистенційні та довгострокові ризики в ШІ

Відповідальне управління майбутнім ШІ

ШІ часто порівнюють із потужним двигуном, який може рухати людство вперед — але без гальм і керма цей двигун може зійти з курсу. Як ми бачили, ризики використання ШІ багатогранні: від негайних проблем, як упереджені алгоритми, фейкові новини, порушення приватності та втрати робочих місць, до ширших суспільних викликів, як загрози безпеці, "чорні скриньки" рішень, монополії великих технологій, навантаження на довкілля і навіть віддалена перспектива втрати контролю над суперінтелектом.

Уряди, міжнародні організації, лідери індустрії та дослідники все більше співпрацюють для вирішення цих проблем — наприклад, через такі рамки:

• Рамки управління ризиками ШІ NIST США (для підвищення довіри до ШІ)
• Глобальні рекомендації з етики ШІ ЮНЕСКО
• Закон про ШІ Європейського Союзу

Такі зусилля мають на меті максимізувати переваги ШІ, мінімізуючи його недоліки, забезпечуючи, щоб ШІ служив людству, а не навпаки.