Илья Суцкевер, соучредитель OpenAI и бывший главный научный сотрудник, запускает новую компанию в области искусственного интеллекта, ориентированную на безопасность. В пост в средуСуцкевер представил Safe Superintelligence Inc. (SSI), стартап с «одной целью и одним продуктом»: создать безопасную и мощную систему искусственного интеллекта.

ТО объявление описывает SSI как стартап, который «подходит к безопасности и возможностям одновременно», позволяя компании быстро совершенствовать свою систему искусственного интеллекта, уделяя при этом приоритетное внимание безопасности. Он также осуждает внешнее давление, с которым часто сталкиваются команды ИИ в таких компаниях, как OpenAI, Google и Microsoft, заявляя, что «особая направленность» компании позволяет ей избегать «отвлечений, связанных с накладными расходами на управление или циклами разработки продукта».

«Наша бизнес-модель означает, что безопасность, защищенность и прогресс защищены от краткосрочного коммерческого давления», — говорится в объявлении. «Таким образом, мы сможем двигаться вперед со спокойной душой». Помимо Суцкевера, соучредителями SSI являются Дэниел Гросс, бывший руководитель отдела искусственного интеллекта Apple, и Дэниел Леви, который ранее работал членом технической команды в OpenAI.

Хотя OpenAI продолжает сотрудничество с Apple и Microsoft, мы, вероятно, не увидим, чтобы SSI делала это в ближайшее время. В течение интервью с БлумбергСуцкевер говорит, что первым продуктом SSI будет безопасный суперинтеллект, и что до тех пор компания «не будет делать ничего другого».

Source

От admin