Группа из 20 технологических компаний объявила в пятницу, что они согласились работать вместе, чтобы предотвратить вмешательство вводящего в заблуждение контента искусственного интеллекта в выборы по всему миру в этом году.

Быстрый рост генеративного искусственного интеллекта (ИИ), способного за секунды создавать текст, изображения и видео в ответ на подсказки, усилил опасения, что новая технология может быть использована для влияния на важные выборы в этом году, когда более половины жителей мира население готово идти на выборы.

В число сторон, подписавших технологическое соглашение, о котором было объявлено на Мюнхенской конференции по безопасности, входят компании, создающие генеративные модели искусственного интеллекта, используемые для создания контента, в том числе OpenAI, Microsoft и Adobe. В число других подписантов входят платформы социальных сетей, которые столкнутся с проблемой предотвращения попадания вредоносного контента на свои сайты, такие как Meta Platforms, TikTok и X, ранее известный как Twitter.

Соглашение включает в себя обязательства по сотрудничеству в разработке инструментов для обнаружения вводящих в заблуждение изображений, видео и аудио, созданных искусственным интеллектом, а также по созданию кампаний по повышению осведомленности общественности для информирования избирателей о вводящем в заблуждение контенте и принятию мер против этого контента в их сервисах.

По словам компаний, технология идентификации контента, созданного ИИ, или подтверждения его происхождения может включать в себя водяные знаки или встраивание метаданных.

В соглашении не указаны сроки выполнения обязательств или то, как каждая компания будет их выполнять.

«Я думаю, что ценность этого (соглашения) заключается в том, сколько компаний его подпишут», — сказал Ник Клегг, президент глобального бизнеса Meta Platforms.

«Это нормально, если отдельные платформы разработают новые политики обнаружения, происхождения, маркировки, нанесения водяных знаков и т. д., но если не будет более широкого обязательства делать это совместимым и общим способом, мы окажемся в мешанине. разные обязательства», — сказал Клегг.

ЧИТАТЬ   «У Эрдогана нет такого административного ресурса, чтобы исправить результаты выборов»

Генеративный ИИ уже используется, чтобы влиять на политику и даже убеждать людей не голосовать.

В январе избирателям Нью-Гэмпшира был транслирован звонок от президента США Джо Байдена с использованием фальшивого звука, в котором он призывал их оставаться дома во время первичных президентских выборов в штате.

Несмотря на популярность инструментов генерации текста, таких как ChatGPT от OpenAI, технологические компании сосредоточатся на предотвращении вредного воздействия фотографий, видео и аудио с помощью ИИ, отчасти потому, что люди склонны более скептически относиться к тексту, говорит Дана Рао, глава Adobe доверия», — сказал в интервью.

«Между аудио, видео и изображениями существует эмоциональная связь», — сказал он. «Ваш мозг запрограммирован верить таким средствам массовой информации».

© Томсон Рейтер, 2024


(Эта история не редактировалась сотрудниками NDTV и создана автоматически на основе синдицированного канала.)

Партнерские ссылки могут создаваться автоматически — подробности см. в нашем этическом заявлении.

Source

От admin