OpenAI, стартап, стоящий за популярным чат-ботом с искусственным интеллектом ChatGPT, заявил в четверг, что выделит 10 равных грантов из фонда в 1 миллион долларов (около 8 300 крор рупий) на технологические эксперименты, чтобы определить, как следует управлять программным обеспечением ИИ для устранения предвзятости и других проблем. факторы.
Гранты в размере 100 000 долларов (примерно 82 лакха) будут предоставлены получателям, которые представят убедительные основы для ответа на такие вопросы, как, должен ли ИИ критиковать общественных деятелей и кого он должен считать «средним человеком». сообщение в блоге, анонсирующее фонд.
Критики говорят, что системам искусственного интеллекта, таким как ChatGPT, присуща предвзятость из-за входных данных, используемых для формирования их взглядов. Пользователи обнаружили примеры расистских или сексистских выходных данных программного обеспечения ИИ. Растут опасения, что ИИ, работающий вместе с поисковыми системами, такими как Google от Alphabet и Bing от Microsoft, выдает убедительно неверную информацию.
OpenAI, поддержанный 10 миллиардами долларов (почти 81 950 крор рупий) от Microsoft, возглавил призыв к регулированию ИИ. Однако недавно он пригрозил выйти из Европейского Союза из-за предложенных правил.
«Текущий законопроект ЕС об искусственном интеллекте будет чрезмерно регулироваться, но мы слышали, что он будет отозван», — заявил Reuters исполнительный директор OpenAI Сэм Альтман. «Они до сих пор говорят об этом».
Гранты стартапа не финансировали бы столько исследований в области ИИ. Заработная плата инженеров по искусственному интеллекту и других специалистов в индустрии высоких технологий легко превышает 100 000 долларов (около 82 лакхов рупий) и может превышать 300 000 долларов (около 2,4 крор рупий).
Системы искусственного интеллекта «должны приносить пользу всему человечеству и быть максимально инклюзивными», — говорится в сообщении в блоге OpenAI. «Мы запускаем эту программу грантов, чтобы сделать первый шаг в этом направлении».
Стартап из Сан-Франциско заявил, что результаты финансирования могут сформировать его собственное видение управления ИИ, хотя и заявил, что никакие рекомендации не будут «обязательными».
Альтман был подставным лицом, призывающим к регулированию ИИ, одновременно выпуская новые обновления для ChatGPT и генератора изображений DALL-E. В этом месяце он выступил перед подкомитетом Сената США, заявив, что «если эта технология пойдет не так, она может пойти не так».
Microsoft также недавно утвердила всестороннее регулирование ИИ, несмотря на то, что обещает внедрить эту технологию в свои продукты, конкурируя с OpenAI, Google и стартапами, чтобы донести ИИ до потребителей и бизнеса.
Почти каждая отрасль заинтересована в потенциале ИИ для повышения эффективности и снижения затрат на рабочую силу и опасается, что ИИ может распространять дезинформацию или фактические неточности, которые инсайдеры отрасли называют «галлюцинациями».
ИИ уже стоит за несколькими широко распространенными пародиями. Недавнее поддельное вирусное изображение взрыва возле Пентагона ненадолго повлияло на фондовый рынок.
Несмотря на призывы к более строгому регулированию, Конгресс не смог принять новый закон, существенно ограничивающий крупные технологии.
© Томсон Рейтер, 2023 г.
