- По словам Сундара Пичаи, разработка ИИ требует участия социологов, специалистов по этике и философов.
- Генеральный директор Google сказал CBS, что системы искусственного интеллекта должны быть «приведены в соответствие с человеческими ценностями, включая мораль».
- Опасения по поводу этики ИИ включают его способность галлюцинировать и потенциально распространять дезинформацию.
Социологи, специалисты по этике и философы должны участвовать в разработке ИИ, заявил генеральный директор Google Сундар Пичаи. CBS “60 минут”.
По мере того, как генеративный ИИ набирает обороты и компании спешат интегрировать его в свою деятельность, растет озабоченность по поводу этичности технологии. В сети циркулируют дипфейковые изображения, такие как показывая арест бывшего президента Дональда Трампаи некоторые тестировщики обнаружили, что чат-боты ИИ давали советы, связанные с преступной деятельностью, например, советы по убийству людей.
ИИ печально известен тем, что иногда галлюцинирует — выдумывает информацию и постоянно настаивает на том, что она верна, — создавая опасения, что он может распространять ложную информацию. Он также может развить предубеждение а в некоторых случаях спорил с пользователями. Некоторые мошенники также использовали программное обеспечение для клонирования голоса ИИ, чтобы попытаться выдать себя за родителей.
«Как вы разрабатываете системы искусственного интеллекта, соответствующие человеческим ценностям, включая мораль?» — сказал Пичаи. «Вот почему я думаю, что в разработке этого должны участвовать не только инженеры, но и социологи, специалисты по этике, философы и т. д.».
«Я думаю, что мы должны быть очень вдумчивыми», — продолжил Пичаи. «И я думаю, что это все вещи, которые общество должно понять, когда мы движемся вперед. Это не может решать одна компания».
Генеративный ИИ используется людьми в личной, профессиональной и академической жизни, начиная с писать сообщения в приложении для знакомств и подать заявку на работу по написанию кода и эссе. Сторонники говорят, что в дополнение к экономии времени на повседневных и рутинных задачах, сопоставлении и обобщении исследований и краткой передаче информации, ИИ может также преобразовать здравоохранение и образование.
Но, несмотря на положительные примеры использования, опасения по поводу этой технологии растут.
«Я думаю, что если я взгляну на 10-летнюю перспективу, мне станет ясно, что у нас будет очень способная форма интеллекта, которая может делать удивительные вещи, и мы как общество должны адаптироваться к этому», — сказал Пичаи. 60 минут». “
Генеральный директор Tesla Илон Маск и соучредитель Apple Майк Возняк входят в число технологических лидеров, инженеров-программистов и профессоров, которые подписали открытое письмо, призывающее к шестимесячной паузе в разработке ИИ, чтобы исследователи могли оценить потенциальные риски технологии.
Хотя сам Пичаи не указан в качестве подписантаон назвал письмо, которое поддержали десятки сотрудников Google, «началом разговора».
Некоторые специалисты в области космоса даже предупредили, что ИИ может представлять экзистенциальную угрозу для человечества. Один из инвесторов в области ИИ заявил на прошлой неделе, что, если его не остановить, он потенциально может «привести к устареванию или уничтожению человечества».
Хотя большая часть шума до сих пор была основана на ChatGPT OpenAI, Google также разрабатывает Bard, своего собственного чат-бота с искусственным интеллектом. В конце прошлого месяца Пичаи сообщил подкасту The New York Times «Hard Fork», что Google тестирует интеграцию Bard с другими своими продуктами, такими как Gmail, но не хочет торопиться с выпуском программного обеспечения.
