Samsung запретила использование генеративных инструментов искусственного интеллекта, таких как ChatGPT, в своих внутренних сетях и на принадлежащих компании устройствах из-за опасений, что загрузка конфиденциальной информации на эти платформы представляет угрозу безопасности. Новости Блумберга отчеты. Это правило было сообщено сотрудникам в служебной записке, в которой оно описывается как временное ограничение, пока Samsung работает над «созданием безопасной среды» для безопасного использования генеративных инструментов искусственного интеллекта.
Вероятно, самым большим фактором риска является чат-бот OpenAI ChatGPT, который стал чрезвычайно популярным не только как развлекательная игрушка, но и как серьезный помощник в работе. Пользователи могут использовать систему для обобщения отчетов или составления ответов на электронные письма, но это может означать ввод конфиденциальной информации, к которой у OpenAI также может быть доступ.
«Мы временно ограничиваем использование генеративного ИИ»
Риски конфиденциальности при использовании ChatGPT различаются в зависимости от того, как пользователь получает доступ к службе. Если компания ChatGPT API, то разговоры с чат-ботом не видны команде поддержки OpenAI и не используются для обучения моделей компании. Однако это не относится к тексту, введенному в общем веб-интерфейсе с настройками по умолчанию.
В FAQ, компания заявляет, что просматривает разговоры пользователей с ChatGPT, чтобы улучшить свои системы и убедиться, что они соответствуют ее политикам и требованиям безопасности. Он советует пользователям «не делиться конфиденциальной информацией в своих чатах» и отмечает, что все чаты также можно использовать для обучения будущих версий ChatGPT. Недавно компания представила функцию, аналогичную «режиму инкогнито» браузера. Рейтер Примечаниякоторый не сохраняет истории чатов и не позволяет использовать их для обучения.
Samsung, очевидно, беспокоится о том, что сотрудники играют с этим инструментом и не понимают, что это потенциальная угроза безопасности.
«Штаб-квартира пересматривает меры безопасности, чтобы создать безопасную среду для безопасного использования генеративного ИИ для повышения производительности и эффективности сотрудников», — говорится во внутреннем меморандуме компании. Блумберг. «Однако, пока эти меры не будут готовы, мы временно ограничиваем использование генеративного ИИ». В дополнение к ограничению использования генеративного ИИ на корпоративных компьютерах, телефонах и планшетах Samsung также просит сотрудников не загружать конфиденциальную деловую информацию через свои личные машины.
«Мы просим вас строго соблюдать наши правила безопасности, и невыполнение этого требования может привести к нарушению или компрометации информации о компании, что приведет к дисциплинарным мерам вплоть до увольнения», — говорится в служебной записке от Samsung. Южнокорейский технологический гигант подтвердил подлинность меморандума Блумберг. Представитель не сразу отреагировал на Крайзапрос на комментарий.
Запрет был введен после того, как Samsung обнаружила, что некоторые из ее сотрудников «слили внутренний исходный код, загрузив его в ChatGPT». Блумберг. Есть опасения, что загрузка конфиденциальной информации о компании на внешние серверы, управляемые поставщиками ИИ, может привести к ее публичному раскрытию и ограничению возможности Samsung удалить ее постфактум. Новость о политике Samsung появилась чуть более чем через месяц после того, как ChatGPT обнаружил ошибку, которая временно раскрывала некоторые истории чатов и, возможно, платежную информацию другим пользователям сервиса.
Политика Samsung означает, что она присоединяется к множеству других компаний и учреждений в наложении ограничений на использование генеративных инструментов искусственного интеллекта, хотя точные причины этих ограничений различаются. JPMorgan ограничил их использование по причинам соответствия, Си-Эн-Эн отчетыв то время как другие банки, такие как Bank of America, Citigroup, Deutsche Bank, Goldman Sachs и Wells Fargo, также имеют либо запрещает или ограничивает использование этих инструментов. Школы Нью-Йорка запретили ChatGPT из-за опасений мошенничества и дезинформации, а соображения защиты данных и безопасности детей были названы причинами временного запрета ChatGPT в Италии.
Сообщается, что Samsung ожидала, что ее сотрудники в конечном итоге будут использовать инструменты искусственного интеллекта, но, похоже, ждет разработки внутренних решений. Блумберг отмечает, что работает над инструментами для помощи в переводе, синтезе документов и разработке программного обеспечения.
Не все ограничения генеративного ИИ применяются к устройствам, продаваемым потребителям, таким как ноутбуки или телефоны.
