• По данным NYT, некоторые сотрудники Google забили тревогу по поводу разработки искусственного интеллекта в компании.
  • Двое рабочих пытались помешать компании выпустить своего чат-бота с искусственным интеллектом Bard, сообщает издание.
  • Пара опасалась, что чат-бот будет генерировать опасные или ложные заявления, добавил он.

Как сообщает The New York Times, некоторые сотрудники Google забили тревогу по поводу разработки искусственного интеллекта в компании.

В соответствии с Отчет о времени, два сотрудника Google, отвечающие за проверку продуктов с искусственным интеллектом, пытались помешать компании выпустить своего чат-бота с искусственным интеллектом Bard. Согласно отчету, пара опасалась, что чат-бот генерирует опасные или ложные заявления.

В марте два рецензента, работающие под руководством Дженнаи, директора группы ответственных инноваций Google, рекомендовали заблокировать публикацию Барда в оценке рисков, сообщили изданию два человека, знакомых с процессом. Он добавил, что сотрудники считают, что, несмотря на меры безопасности, чат-бот не готов.

Однако The New York Times сообщила, что люди, с которыми он разговаривал, сказали им, что Дженнаи отредактировал документ, чтобы удалить рекомендацию и преуменьшить риски чат-бота.

Дженнаи сказала The Times, что она «исправила неточные предположения и фактически добавила больше рисков и вреда, которые необходимо учитывать». Она сказала, что рецензенты не должны принимать решение о возбуждении уголовного дела. Google сообщил The Times, что выпустил Bard в качестве ограниченного эксперимента из-за этих дебатов.

Представители Google не сразу ответили на запрос Insider о комментариях. Insider не смог связаться с Gennai по электронной почте. Она не сразу ответила на запрос о комментарии через сообщение LinkedIn.

ЧИТАТЬ   Частный сектор Великобритании отмечает сильный рост в марте... | Новости Форекс...

В последние месяцы технологический мир стремился внедрить продукты для генеративного ИИ. Гонка, по-видимому, была вызвана выпуском и вирусной популярностью ChatGPT от OpenAI, но скорость разработки вызывает тревогу в других местах.

В марте несколько тяжеловесов ИИ подписали открытое письмо призывая к шестимесячной паузе в развитии продвинутого ИИ. В письме говорится, что компании, занимающиеся искусственным интеллектом, вовлечены в «неконтролируемую гонку», и упоминаются серьезные риски для общества, связанные с передовыми технологиями.

Джон Бёрден, один из подписавших письмо и научный сотрудник Центра изучения экзистенциальных рисков, ранее сообщил Insider, что темпы развития ИИ ускорились беспрецедентными темпами.

«Вещи, которые пять лет назад казалось нереальным ожидать в следующем десятилетии, произошли», — сказал он. «В более широком масштабе мы просто не готовы к тому влиянию, которое может оказать эта технология, учитывая, что мы на самом деле не знаем, как эти модели делают то, что они делают».

Source

От admin