Коалиция двадцати технологических компаний подписано В пятницу было подписано соглашение о предотвращении дипфейков с использованием искусственного интеллекта на решающих выборах 2024 года, которые пройдут в более чем 40 странах. OpenAI, Google, Meta, Amazon, Adobe и X входят в число компаний, присоединившихся к пакту о предотвращении и борьбе с контентом, созданным ИИ, который может повлиять на избирателей. Однако расплывчатые формулировки соглашения и отсутствие обязательного исполнения вызывают вопросы о том, заходит ли оно достаточно далеко.

Соглашение по борьбе с дипфейками

В список компаний, подписавших «Техническое соглашение по борьбе с мошенническим использованием ИИ на выборах 2024 года», входят компании, которые создают и распространяют модели ИИ, а также социальные платформы, где наиболее вероятно появление дипфейков. Подписавшими сторонами являются Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap Inc., Stability AI, TikTok, Trend Micro, Truepic и X (ранее Twitter). ).

Группа описывает соглашение как «набор обязательств по развертыванию технологий, которые противодействуют вредоносному контенту, создаваемому искусственным интеллектом и предназначенному для введения избирателей в заблуждение». Подписавшиеся стороны согласились принять следующие восемь обязательств:

  • Разработка и внедрение технологий для снижения рисков, связанных с вводящим в заблуждение контентом выборов с использованием искусственного интеллекта, включая инструменты с открытым исходным кодом, где это необходимо.
  • Оценка моделей в рамках настоящего соглашения, чтобы понять риски, которые они могут представлять, связанные с вводящим в заблуждение контентом выборов с использованием ИИ.
  • Пытаемся обнаружить распространение этого контента на своих платформах.
  • Мы пытаемся соответствующим образом реагировать на этот контент, обнаруженный на их платформах.
  • Повышение устойчивости отрасли к вводящему в заблуждение предвыборному контенту с использованием ИИ
  • Обеспечение прозрачности для общественности того, как компания справляется с этим.
  • Мы продолжаем работать с разнообразной группой глобальных организаций гражданского общества и ученых.
  • Поддерживать усилия по повышению осведомленности общественности, медиаграмотности и устойчивости всего общества.

Соглашение будет распространяться на аудио, видео и изображения, генерируемые искусственным интеллектом. Он нацелен на контент, который «обманно фальсифицирует или изменяет внешний вид, голос или действия политических кандидатов, представителей избирательных комиссий и других ключевых заинтересованных сторон на демократических выборах или предоставляет избирателям ложную информацию о том, когда, где и как голосовать». »

Подписавшие стороны заявляют, что будут работать вместе над созданием и обменом инструментами для обнаружения и борьбы с распространением дипфейков в Интернете. Кроме того, они планируют проводить образовательные кампании и «обеспечивать прозрачность» для пользователей.

Генеральный директор OpenAI Сэм Альтман жестикулирует во время сессии Всемирного экономического форума (ВЭФ) в Давосе 18 января 2024 года. (Фото Фабриса КОФРИНИ / AFP) (Фото FABRICE COFFRINI / AFP через Getty Images)
Генеральный директор OpenAI Сэм Альтман (СТОФФЕН КОФРИНИ через Getty Images)

OpenAI против дипфейков

OpenAI, одна из сторон, подписавших соглашение, заявила в прошлом месяце, что планирует подавлять дезинформацию, связанную с выборами, во всем мире. Изображения, созданные с помощью инструмента DALL-E 3 компании, будут закодированы с помощью классификатора, который обеспечивает цифровой водяной знак, чтобы уточнить их происхождение как изображений, созданных искусственным интеллектом. Производитель ChatGPT заявил, что также будет работать с журналистами, исследователями и платформами для получения отзывов о классификации происхождения. Он также планирует запретить чат-ботам выдавать себя за кандидатов.

«Мы стремимся защитить честность выборов, проводя политику, которая предотвращает злоупотребления и повышает прозрачность контента, создаваемого ИИ», — написала в совместном пресс-релизе группы Анна Маканджу, вице-президент по глобальным вопросам OpenAI. «Мы рассчитываем на сотрудничество с отраслевыми партнерами, лидерами гражданского общества и правительствами по всему миру, чтобы помочь защитить выборы от вводящего в заблуждение использования ИИ».

Примечательно, что в списке отсутствует Midjourney, компания-генератор изображений с искусственным интеллектом (одноименная), которая в настоящее время производит одни из наиболее убедительных фейковых фотографий. Однако ранее в этом месяце компания заявила, что рассмотрит возможность полного запрета политических поколений во время предвыборной кампании. В прошлом году Midjourney был использован для создания вирусного фейкового изображения Папы Бенедикта, неожиданно идущего по улице в пышном белом пиджаке. Один из ближайших конкурентов Midjourney, Stability AI (создатель Stable Diffusion с открытым исходным кодом), все же принял участие. Engadget обратился к Midjourney за комментариями по поводу его отсутствия, и мы обновим эту статью, если получим ответ.

В «большой пятерке» Кремниевой долины не хватает только Apple. Однако это можно объяснить тем, что производитель iPhone еще не выпустил ни одного продукта с генеративным искусственным интеллектом и не имеет платформы социальных сетей, где можно было бы распространять дипфейки. Тем не менее, мы обратились в отдел по связям с общественностью Apple за разъяснениями, но на момент публикации не получили ответа.

Хотя общие принципы, согласованные двадцатью компаниями, кажутся многообещающим началом, еще неизвестно, будет ли достаточно свободного набора соглашений без обязательного исполнения для борьбы с кошмарным сценарием, в котором злоумышленники в мире используют генеративный ИИ для влияния на общественность. мнения и агрессивно избирают антидемократических кандидатов – в США и других странах.

«Эта формулировка не так сильна, как можно было бы ожидать», — сказала Рэйчел Ори, старший помощник директора избирательного проекта в Центре двухпартийной политики. «Я думаю, что мы должны отдать должное там, где это необходимо, и признать, что корпорации заинтересованы в том, чтобы их инструменты не использовались для подрыва свободных и справедливых выборов. Тем не менее, это добровольно, и мы будем следить за тем, выполнят ли они это».

Дипфейки на выборах США уже сегодня

Дипфейки, созданные ИИ, уже использовались на президентских выборах в США. Еще в апреле 2023 года Национальный республиканский комитет (СРН) запустил рекламу, используя созданные искусственным интеллектом изображения президента Джо Байдена и вице-президента Камалы Харрис. За кампанией Рона ДеСантиса, который с тех пор отказался от участия в праймериз Республиканской партии, в июне 2023 года последовали сгенерированные искусственным интеллектом изображения соперника и вероятного кандидата Дональда Трампа. Оба содержали следы того, что изображения были созданы искусственным интеллектом.

БОСТОН, СОЕДИНЕННЫЕ ШТАТЫ – 2 ДЕКАБРЯ: Президент Джо Байден принимает участие в мероприятии по телефонному банкингу Международного братства электриков (IBEW) 2 декабря 2022 года в Бостоне, штат Массачусетс, в ознаменование кампании по переизбранию сенатора преподобного Рафаэля Уорнока (демократ). ГА).  (Фото Натана Познера/агентства Анадолу через Getty Images)В январе избирателей в Нью-Гэмпшире встретил звонок от робота, созданного искусственным интеллектом имитирующего голос президента Байдена, с призывом не голосовать. (Анадолу через Getty Images)

В январе созданная искусственным интеллектом дипфейк голосования президента Байдена была использована двумя техасскими компаниями, чтобы с помощью роботов обзвонить избирателей Нью-Гэмпшира и убедить их не голосовать на предварительных выборах в штате 23 января. По словам генерального прокурора штата, ролик, созданный с помощью инструмента клонирования голосов ElevenLabs, был просмотрен до 25 000 избирателей штата Нью-Хэмпшир. ElevenLabs является одной из сторон, подписавших пакт.

Федеральная комиссия по связи (FCC) приняла оперативные меры, чтобы предотвратить дальнейшее неправомерное использование технологии клонирования голоса в фальшивых предвыборных звонках. Ранее в этом месяце оно единогласно проголосовало за запрет звонков от роботов, генерируемых искусственным интеллектом. Конгресс США (казалось, вечно зашедший в тупик) не принял ни одного закона об искусственном интеллекте. В декабре Европейский Союз (ЕС) согласовал всеобъемлющий законопроект о развитии ИИ, который может повлиять на нормативные усилия других стран.

«Поскольку общество осознает преимущества ИИ, мы несем ответственность за то, чтобы эти инструменты не использовались в качестве оружия на выборах», — написал в пресс-релизе Брэд Смит, вице-председатель и президент Microsoft. «ИИ не создавал фальсификаций на выборах, но мы должны гарантировать, что фальсификация не может процветать».

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

error: Content is protected !!