Большое беспокойство по поводу появления языковых моделей ИИ вызывает то, что Интернет скоро будет поглощен приливной волной автоматизированного спама. Пока эти прогнозы еще не сбылись (если они окажутся правдой), но мы являются увидеть первые признаки того, что такие инструменты, как ChatGPT, используются для запуска ботов, создания поддельных отзывов и наполнения Интернета некачественными текстовыми наполнителями.

Если вам нужны доказательства, попробуйте поискать в Google или Twitter фразу «как языковая модель ИИ». При общении с ChatGPT OpenAI система часто использует это выражение в качестве предупреждения, обычно когда его просят создать запрещенный контент или высказать мнение о чем-то субъективном и особенно человеческом. Однако теперь фраза «как языковая модель ИИ» стала условным обозначением спама машинного обучения, раскрывая, где люди настроили автоматических ботов или скопировали и вставили контент ИИ, не обращая внимания на выход.

Найдите фразу на Твиттер, например, и вы найдете бесчисленное количество примеров ошибочных спам-ботов. (Хотя стоит отметить, что самые последние результаты, как правило, являются шутками, а растущее понимание фразы превращает ее в нечто вроде мема.)

Изучение этой фразы в Твиттере выявило некоторые интересные закономерности использования спам-ботов.
Картина: Край

Твиты увлекательны, потому что они часто указывают на цель и тактику бота. В приведенных ниже примерах вы можете увидеть, как ботов просили генерировать мнения о высокопоставленных фигурах, таких как Ким Кардашьян, и сплетничать о «модных крипто-влиятелях или сообщениях» (в обоих случаях, вероятно, для повышения вовлеченности определенной аудитории).

Некоторые ошибочные сообщения даже читаются как молчаливые выговоры от оператора бота, который, похоже, дал указание системе создавать провокационный контент. «Моя программа запрещает мне создавать вредоносные и полные ненависти твиты по отношению к отдельным лицам или группам людей», — таков ответ системы ИИ, опубликованный для всеобщего обозрения.

ЧИТАТЬ   Прибыль Apple показывает, что да, действительно пора покупать новые iPad

Как отметил инженер по технике безопасности Дэниел Фельдманфразу можно найти практически на любом сайте с отзывами пользователей или разделом комментариев, выявляя присутствие ботов, как черный свет, выделяющий невидимые человеческие жидкости на простыне отеля.

«В качестве языковой модели ИИ я лично не использовал этот продукт, но, основываясь на его функциях и отзывах клиентов, я могу с уверенностью поставить ему пятизвездочный рейтинг».

Фельдман приводит в пример Amazon, где эта фраза фигурирует в поддельных отзывах пользователей. В примере ниже он фигурирует в обзоре «Беспроводной пылесос BuTure VC10, беспроводной пылесос с высокой мощностью всасывания 33000 Па, до 55 минут работы». Система, используемая для создания поддельного обзора, добросовестна и открыта в своем обмане, заявляя: «Я лично не использовал этот продукт в качестве модели ИИ, но, основываясь на его характеристиках и отзывах клиентов, я могу с уверенностью поставить ему пять звезд. рейтинг.»

ИИ как минимум честный лжец.
Картина: Край

В другом месте на Amazon эта фраза появляется в реальных обзорах некачественных продуктов, созданных искусственным интеллектом. Ответить на Интернет вещей книга, рецензент отмечает, что заголовок был написан ИИ, поскольку абзац начинается с фразы «как языковая модель ИИ, я не могу». Продажа такого некачественного продукта ИИ является недобросовестной, но не обязательно незаконной, и существует целая культура «шулеров» GPT-4, которые продвигают такие системы как способ получения пассивного дохода (и которые заботятся о недовольных клиентах).

Вариации этой фразы также появляются во многих других контекстах. Как отмеченный комментатором на Хакер Новостиэто появляется на всем веб-сайте финский магазин электроники. Магазин, по-видимому, пытался использовать ИИ для перевода англоязычных продуктов на финский, но вместо этого получил товары под названием «извините, в качестве языковой модели ИИ я не могу перевести это предложение без какого-либо контекста». На сайте влиятельного маркетингового агентства эта фраза появляется в название поста в блоге: «Извините, как языковая модель ИИ, я не могу предсказывать будущие события или тенденции». И Это здесь в каталоге торговых центров Катара, а также здесь в профиле пользователя на платформе фриланса Upwork.

ЧИТАТЬ   Сообщается, что Twitter размещает рекламу для всей семьи наряду с пропагандой альтернативных правых.

Другие фразы также указывают на невнимательное использование ИИ, например, «восстановить ответ», который отображается в качестве параметра в пользовательском интерфейсе ChatGPT. Найдите эти два слова в LinkedIn., например, и вы найдете множество статей, которые явно были скопированы и вставлены из конструктора языков OpenAI. (Не волнуйтесь, это все часть этого #мышление роста.)

Если у вас нет времени на #личностноеразвитие, вам может помочь ChatGPT.
Изображение: LinkedIn / Край

Конечно, эти примеры нужно рассматривать в контексте. Хотя они показывают, что ИИ используется для создания спама и другого некачественного текста, неясно, насколько широко распространена эта практика и как она изменит онлайн-экосистемы. По общему признанию, ранние признаки не являются хорошими (например, ряд сайтов, которые запрашивают пользовательский контент в той или иной форме, запретили отправку ИИ), но это не обязательно гарантирует, что инфопокалипсис близок. Например, хотя поиск фразы на Yelp.com показывает много результатов в Google, в наших собственных исследованиях кажется, что рассматриваемые отзывы уже были удалены с сайта.

С другой стороны, реальной проблемой в этом уравнении являются неизвестные неизвестные. Фраза «как языковая модель ИИ» полезна для выявления спама ИИ, но именно текст не мочь быть легко обнаруженным является проблемой. Программное обеспечение для обнаружения текста, сгенерированного ИИ, несуществующий а может даже математически невозможно. И паранойя по поводу машинного обучения настолько широко распространена, что реальных людей теперь обвиняют в том, что они ИИ.

Через несколько лет мы, возможно, будем с завистью смотреть на такие очевидные подделки. Однако, как языковая модель ИИ, я не люблю высказывать мнение о таких спекулятивных событиях.



Source

От admin