Риски использования ИИ

Искусственный интеллект (ИИ) сейчас пронизывает всё — от помощников в смартфонах и лент в социальных сетях до здравоохранения и транспорта. Эти технологии приносят беспрецедентные выгоды, но также сопряжены с серьезными рисками и вызовами.

В этой статье давайте вместе с INVIAI рассмотрим риски использования ИИ во всех сферах и типах ИИ — от чат-ботов и алгоритмов до роботов — на основе данных официальных и международных источников.

Предвзятость и дискриминация в системах ИИ

Одним из главных рисков ИИ является укоренение предвзятости и несправедливой дискриминации. Модели ИИ обучаются на данных, которые могут отражать исторические предубеждения или неравенства; в результате система ИИ может по-разному относиться к людям на основе расы, пола или других характеристик, что поддерживает несправедливость.

Неправильно работающий универсальный ИИ может причинять вред через предвзятые решения по защищённым признакам, таким как раса, пол, культура, возраст и инвалидность.

— Международный отчет по безопасности ИИ

Международные организации, такие как ЮНЕСКО, предупреждают, что без мер по обеспечению справедливости ИИ рискует «воспроизводить реальные предубеждения и дискриминацию, разжигать разделения и угрожать фундаментальным правам и свободам человека». Обеспечение обучения ИИ на разнообразных, репрезентативных данных и проведение аудита на предвзятость крайне важно для предотвращения автоматизированной дискриминации.

Предвзятость и дискриминация в системах ИИ

Опасности дезинформации и дипфейков

Способность ИИ создавать гиперреалистичные тексты, изображения и видео вызвала опасения по поводу потока дезинформации. Генеративный ИИ может создавать убедительные фейковые новости, поддельные изображения или дипфейк-видео, которые трудно отличить от реальности.

На самом деле дезинформация и дезинформация, подпитываемые ИИ, представляют собой одну из «самых больших угроз для демократического процесса» — особенно с учётом миллиардов людей, которые собираются голосовать на предстоящих выборах. Синтетические медиа, такие как дипфейк-видео и клонированные голоса ИИ, могут использоваться для распространения пропаганды, имитации публичных фигур или мошенничества.

Чиновники предупреждают, что злоумышленники могут использовать ИИ для масштабных кампаний дезинформации, облегчая засорение социальных сетей фейковым контентом и посевая хаос. Риск заключается в циничной информационной среде, где граждане не могут доверять тому, что видят или слышат, что подрывает общественный дискурс и демократию.

Опасности дезинформации и дипфейков в ИИ

Угрозы приватности и массового наблюдения

Широкое использование ИИ вызывает серьёзные проблемы с приватностью. Системы ИИ часто требуют огромного объёма персональных данных — от наших лиц и голосов до привычек покупок и местоположения — для эффективной работы. Без надёжных мер защиты эти данные могут быть использованы неправомерно или злоупотреблены.

Например, распознавание лиц и прогнозирующие алгоритмы могут обеспечить повсеместное наблюдение, отслеживая каждое движение человека или оценивая его поведение без согласия.

Приватность — это право, необходимое для защиты человеческого достоинства, автономии и свободы воли, которое должно уважаться на протяжении всего жизненного цикла системы ИИ.

— Агентства по защите данных

Если развитие ИИ опередит регулирование приватности, люди могут потерять контроль над своей информацией. Общество должно обеспечить надёжное управление данными, механизмы согласия и методы защиты приватности, чтобы технологии ИИ не превратились в инструменты бесконтрольного наблюдения.

Угрозы приватности и массового наблюдения

Отказы в безопасности и непреднамеренный вред

Хотя ИИ может автоматизировать решения и физические задачи с сверхчеловеческой эффективностью, он также может сбоить непредсказуемым образом, приводя к реальному вреду. Мы доверяем ИИ всё больше ответственных функций — например, управление автомобилями, диагностика пациентов или управление энергосетями — но эти системы не безупречны.

Сбои, ошибочные обучающие данные или непредвиденные ситуации могут привести к опасным ошибкам. ИИ в автономном автомобиле может неправильно распознать пешехода, а медицинский ИИ — рекомендовать неправильное лечение с потенциально смертельными последствиями.

Нежелательный вред (риски безопасности), а также уязвимости к атакам (риски безопасности) должны предотвращаться и устраняться на протяжении всего жизненного цикла систем ИИ для обеспечения безопасности человека, окружающей среды и экосистем.

— Международные рекомендации по ИИ

Другими словами, системы ИИ должны проходить строгие тесты, мониторинг и иметь защитные механизмы для минимизации сбоев. Чрезмерное доверие к ИИ также опасно — если люди слепо доверяют автоматическим решениям, они могут не вмешаться вовремя при ошибках.

Обеспечение человеческого контроля поэтому критично. В ответственных сферах (например, здравоохранение или транспорт) окончательные решения должны оставаться за человеком. Поддержание безопасности и надежности ИИ — постоянная задача, требующая тщательного проектирования и культуры ответственности у разработчиков.

Отказы в безопасности и непреднамеренный вред в ИИ

Замещение рабочих мест и экономические потрясения

Трансформационное влияние ИИ на экономику — палка о двух концах. С одной стороны, ИИ может повысить производительность и создать новые отрасли; с другой — существует риск замещения миллионов работников из-за автоматизации.

Многие профессии — особенно связанные с рутинными, повторяющимися задачами или легко анализируемыми данными — уязвимы к замещению алгоритмами и роботами ИИ.

Хотя экономика может создавать новые рабочие места (возможно, даже больше, чем теряется), переход будет болезненным для многих. Новые роли часто требуют других, более продвинутых навыков или сосредоточены в определённых технологических центрах, что затруднит трудоустройство для многих уволенных работников.

Это несоответствие между навыками работников и требованиями новых ролей, связанных с ИИ может привести к росту безработицы и неравенства, если не принять меры. Политики и исследователи предупреждают о рисках «нарушения рынка труда и неравенства экономической власти» в масштабах всей системы.

Без проактивных мер (переподготовки, образования в области ИИ и социальных гарантий) ИИ может усилить социально-экономические разрывы, создавая экономику, где выгоды получают преимущественно владельцы технологий.

Подготовка рабочей силы к влиянию ИИ критична для того, чтобы выгоды автоматизации были распределены широко и чтобы избежать социальных потрясений из-за массовой потери рабочих мест.

Замещение рабочих мест и экономические потрясения в ИИ

Преступное использование, мошенничество и угрозы безопасности

ИИ — мощный инструмент, который может использоваться как во благо, так и во зло. Киберпреступники и другие злоумышленники уже применяют ИИ для усиления своих атак.

Например, ИИ может создавать высоко персонализированные фишинговые письма или голосовые сообщения (клонируя чей-то голос), чтобы обманом заставить людей раскрыть конфиденциальную информацию или перевести деньги. Также ИИ используется для автоматизации взломов, находя уязвимости в программном обеспечении в больших масштабах, или для создания вредоносного ПО, которое адаптируется, чтобы избежать обнаружения.

Злоумышленники могут использовать ИИ для масштабных операций по дезинформации, мошенничеству и обману.

— Отчет, заказанный правительством Великобритании

Центр безопасности ИИ выделяет злонамеренное использование ИИ как ключевую проблему, отмечая сценарии, когда преступники используют ИИ для масштабного мошенничества и кибератак.

Скорость, масштаб и сложность, которые предоставляет ИИ, могут перегрузить традиционные системы защиты — представьте тысячи звонков-мошенничеств или дипфейк-видео, направленных на безопасность компании за один день.

По мере того как инструменты ИИ становятся более доступными, барьер для совершения таких преступлений снижается, что может привести к росту преступности с использованием ИИ.

Это требует новых подходов к кибербезопасности и правоохранительным органам, таких как системы ИИ для обнаружения дипфейков и аномального поведения и обновлённые правовые рамки для привлечения виновных к ответственности. По сути, мы должны ожидать, что любые возможности ИИ, доступные благодетелям, могут быть использованы и преступниками — и готовиться к этому.

Преступное использование, мошенничество и угрозы безопасности в ИИ

Милитаризация и автономное оружие

Возможно, самый пугающий риск ИИ проявляется в контексте войны и национальной безопасности. ИИ быстро интегрируется в военные системы, вызывая перспективу автономного оружия («роботов-убийц») и принятия боевых решений с помощью ИИ.

Эти технологии могут реагировать быстрее любого человека, но лишение человека контроля над применением смертоносной силы чревато опасностями. Существует риск, что оружие под управлением ИИ может выбрать неправильную цель или эскалировать конфликты непредсказуемым образом.

Если страны начнут гонку вооружений с интеллектуальным оружием, это может спровоцировать дестабилизирующую гонку вооружений. Кроме того, ИИ может использоваться в кибервойне для автономных атак на критическую инфраструктуру или распространения пропаганды, размывая грани между миром и конфликтом.

Разработка ИИ в военных целях, если она сосредоточена в руках немногих, может навязываться людям без их согласия, подрывая глобальную безопасность и этику.

— Организация Объединённых Наций

Автономные системы оружия также вызывают правовые и моральные дилеммы — кто несёт ответственность, если дрон с ИИ ошибочно убивает гражданских? Как такие системы соответствуют международному гуманитарному праву?

Эти вопросы остаются без ответа, что приводит к призывам к запрету или строгому регулированию некоторых видов оружия с ИИ. Обеспечение человеческого контроля над ИИ, способным принимать решения о жизни и смерти, считается первостепенным. Без этого риск не только в трагических ошибках на поле боя, но и в утрате человеческой ответственности за войну.

Милитаризация и автономное оружие в ИИ

Отсутствие прозрачности и подотчётности

Большинство современных продвинутых систем ИИ работают как «чёрные ящики» — их внутренняя логика часто непонятна даже создателям. Это отсутствие прозрачности создаёт риск, что решения ИИ нельзя объяснить или оспорить, что является серьёзной проблемой в таких областях, как юриспруденция, финансы или здравоохранение, где объяснимость может быть юридическим или этическим требованием.

Если ИИ отказывает в кредите, ставит диагноз или решает, кто выйдет на свободу по условно-досрочному освобождению, естественно, хочется знать почему. Для некоторых моделей ИИ (особенно сложных нейросетей) дать чёткое объяснение сложно.

Отсутствие прозрачности может подорвать возможность эффективно оспаривать решения, основанные на результатах систем ИИ, и тем самым нарушить право на справедливое судебное разбирательство и эффективное средство правовой защиты.

— ЮНЕСКО

Другими словами, если ни пользователи, ни регуляторы не могут понять, как ИИ принимает решения, становится практически невозможно привлечь кого-либо к ответственности за ошибки или предвзятость.

Для борьбы с этим эксперты выступают за объяснимый ИИ, строгий аудит и нормативные требования, чтобы решения ИИ можно было проследить до человеческой ответственности.

Мировые этические нормы настаивают, что должно «всегда быть возможно приписать этическую и юридическую ответственность» за поведение систем ИИ конкретному человеку или организации. Люди должны оставаться в конечном итоге ответственными, а ИИ должен помогать, а не заменять человеческое суждение в чувствительных вопросах. Иначе мы рискуем создать мир, где важные решения принимают непостижимые машины — рецепт несправедливости.

Отсутствие прозрачности и подотчётности при использовании ИИ на рабочем месте

Концентрация власти и неравенство

Революция ИИ происходит неравномерно по всему миру — небольшое число корпораций и стран доминируют в разработке продвинутого ИИ, что несёт свои риски.

Передовые модели ИИ требуют огромных данных, талантов и вычислительных ресурсов, которыми в настоящее время обладают только технологические гиганты (и хорошо финансируемые правительства).

Это привело к высококонцентрированной, единой, глобально интегрированной цепочке поставок, которая благоприятствует немногим компаниям и странам.

— Всемирный экономический форум

Такая концентрация власти в области ИИ может привести к монополистическому контролю над технологиями, ограничивая конкуренцию и выбор потребителей. Это также повышает риск того, что приоритеты немногих компаний или стран будут формировать ИИ без учёта общественных интересов.

Этот дисбаланс может усугубить глобальное неравенство: богатые страны и компании опережают, используя ИИ, тогда как бедные сообщества лишены доступа к современным инструментам и страдают от потери рабочих мест без получения преимуществ ИИ.

Кроме того, концентрированная индустрия ИИ может подавлять инновации (если новички не могут конкурировать с ресурсами лидеров) и создавать риски безопасности (если критическая инфраструктура ИИ контролируется немногими, это становится единой точкой отказа или манипуляции).

Для решения этой проблемы необходимы международное сотрудничество и, возможно, новые регуляции для демократизации разработки ИИ — например, поддержка открытых исследований, обеспечение справедливого доступа к данным и вычислительным ресурсам, а также разработка политик (как предложенный в ЕС Закон об ИИ) для предотвращения злоупотреблений со стороны «стражей ИИ». Более инклюзивный ландшафт ИИ поможет обеспечить, чтобы выгоды от ИИ распределялись глобально, а не усиливали разрыв между технологическими лидерами и отстающими.

Концентрация власти и неравенство

Влияние ИИ на окружающую среду

Часто упускается из виду экологический след ИИ. Разработка ИИ, особенно обучение больших моделей машинного обучения, потребляет огромные объёмы электроэнергии и вычислительных ресурсов.

Центры обработки данных, заполненные тысячами энергоёмких серверов, необходимы для обработки потоков данных, на которых обучаются системы ИИ. Это означает, что ИИ косвенно способствует выбросам углерода и изменению климата.

По мере роста инвестиций в ИИ выбросы от работы моделей ИИ ожидается, что будут стремительно расти — в докладе прогнозируется, что ведущие системы ИИ могут вместе выбрасывать более 100 миллионов тонн CO₂ в год, что создаёт значительную нагрузку на энергетическую инфраструктуру.

Для сравнения, центры обработки данных, поддерживающие ИИ, увеличивают потребление электроэнергии «в четыре раза быстрее, чем общий рост потребления электроэнергии».

Помимо выбросов углерода, ИИ также потребляет воду для охлаждения и производит электронные отходы из-за быстрого обновления оборудования. Если не контролировать, экологическое воздействие ИИ может подорвать глобальные усилия по устойчивому развитию.

Этот риск требует повышения энергоэффективности ИИ и использования более чистых источников энергии. Исследователи разрабатывают «зелёные» методы ИИ для снижения энергопотребления, а некоторые компании взяли на себя обязательства компенсировать углеродный след ИИ. Тем не менее, это остаётся актуальной проблемой, и гонка за ИИ может иметь серьёзную экологическую цену. Балансирование технологического прогресса и экологической ответственности — ещё одна задача, которую обществу предстоит решить при интеграции ИИ повсеместно.

Влияние ИИ на окружающую среду

Экзистенциальные и долгосрочные риски

Помимо непосредственных рисков, некоторые эксперты предупреждают о более спекулятивных, долгосрочных рисках ИИ — включая возможность создания продвинутого ИИ, выходящего из-под контроля человека. Хотя современные системы ИИ узкоспециализированы, исследователи активно работают над созданием универсального ИИ, который потенциально может превзойти человека во многих областях.

Это порождает сложные вопросы: если ИИ станет значительно умнее или автономнее, может ли он действовать так, что угрожает существованию человечества? Хотя это звучит как научная фантастика, известные представители технологического сообщества выражают обеспокоенность по поводу сценариев с «бунтарским ИИ», и правительства серьёзно обсуждают эту тему.

Эксперты имеют разные взгляды на риск потери контроля человечеством над ИИ, что может привести к катастрофическим последствиям.

— Международный отчет по безопасности ИИ

Научный консенсус неоднороден — одни считают, что суперразумный ИИ появится через десятилетия или его можно будет согласовать с человеческими ценностями, другие видят небольшой, но не нулевой шанс катастрофы.

По сути, признаётся, что экзистенциальный риск от ИИ, хоть и маловероятный, не может быть полностью исключён. Такой исход может включать ИИ, который, если его неправильно запрограммировать, решит нанести вред в больших масштабах из-за отсутствия здравого смысла или моральных ограничений.

Хотя сегодня ни один ИИ не обладает такой степенью автономии, темпы развития ИИ быстры и непредсказуемы, что само по себе является фактором риска.

Подготовка к долгосрочным рискам означает инвестиции в исследования по согласованию ИИ, установление международных соглашений по исследованиям с высоким риском и поддержание человеческого контроля по мере роста возможностей ИИ.

Будущее ИИ обещает огромные возможности, но также и неопределённость — и благоразумие требует учитывать даже маловероятные, но серьёзные риски в долгосрочном планировании.

Экзистенциальные и долгосрочные риски в ИИ

Ответственное управление будущим ИИ

ИИ часто сравнивают с мощным двигателем, который может продвинуть человечество вперёд — но без тормозов и руля этот двигатель может свернуть с курса. Как мы видели, риски использования ИИ многообразны: от непосредственных проблем, таких как предвзятые алгоритмы, фейковые новости, вторжение в приватность и потрясения на рынке труда, до более широких социальных вызовов, таких как угрозы безопасности, «чёрные ящики» решений, монополии больших технологий, экологическая нагрузка и даже отдалённая перспектива потери контроля над сверхразумным ИИ.

Правительства, международные организации, лидеры отрасли и исследователи всё активнее сотрудничают для решения этих проблем — например, через такие рамки, как:

• Рамочная программа управления рисками ИИ NIST США (для повышения доверия к ИИ)
• Глобальная рекомендация ЮНЕСКО по этике ИИ
• Закон об ИИ Европейского Союза

Эти усилия направлены на максимизацию преимуществ ИИ при минимизации его недостатков, обеспечивая, чтобы ИИ служил человечеству, а не наоборот.