Искусственный интеллект находится в сетка правительства обеспокоены тем, как эти данные могут быть использованы для мошенничества, дезинформации и другой вредоносной деятельности в Интернете; Сейчас в Великобритании регулирующий орган готовится изучить, как ИИ используется для борьбы с некоторыми из этих явлений, особенно в отношении контента, вредного для детей.

Офкомрегулятор, ответственный за соблюдение правил Великобритании Закон о безопасности в Интернетеобъявила о планах начать консультации о том, как искусственный интеллект и другие автоматизированные инструменты используются сегодня и могут использоваться в будущем для активного обнаружения и удаления незаконного контента в Интернете, в частности для защиты детей от вредного контента и выявления сексуального насилия над детьми. материал, который ранее было трудно обнаружить.

Эти инструменты станут частью более широкого набора предложений, которые Ofcom внедряет, уделяя особое внимание безопасности детей в Интернете. Консультации по общим предложениям начнутся в ближайшие недели, а консультации по ИИ состоятся позднее в этом году, сообщил Ofcom.

Марк Бантинг, директор группы онлайн-безопасности Ofcom, говорит, что его интерес к ИИ начинается с изучения того, как он используется в качестве инструмента проверки сегодня.

«Некоторые сервисы уже используют эти инструменты для выявления и защиты детей от такого контента», — сказал он в интервью TechCrunch. «Но информации о точности и эффективности этих инструментов не так много. Мы хотим изучить способы, с помощью которых мы можем гарантировать, что отрасль ценит [that] при их использовании обеспечивать управление рисками для свободы выражения мнений и конфиденциальности.

Вероятным результатом будет то, что Ofcom будет рекомендовать, как и какие платформы следует оценивать, что потенциально может привести не только к тому, что платформы примут более сложные инструменты, но и потенциально к штрафам, если они не смогут обеспечить улучшения, либо путем блокировки контента, либо создания более эффективных способов удерживайте молодых пользователей. чтобы увидеть это.

ЧИТАТЬ   Эстонский стартап по обеспечению качества на основе искусственного интеллекта Klaus приобретен Zendesk | TechCrunch

«Как и в случае со многими правилами онлайн-безопасности, предприятия должны убедиться, что они принимают соответствующие меры и используют соответствующие инструменты для защиты пользователей», — сказал он.

Будут как критики, так и сторонники этих мер. Исследователи ИИ открывают все более сложные способы использования ИИ для обнаружить, например, дипфейки, а также для проверки пользователей онлайн. Однако существует так много скептики которые отмечают, что обнаружение ИИ далеко не безошибочно.

Ofcom объявил о консультации по инструментам искусственного интеллекта одновременно с публикацией своего последнего исследования о том, как дети взаимодействуют с Интернетом в Великобритании, которое показало, что в целом здесь подключено больше маленьких детей, чем когда-либо прежде, настолько, что Ofcom теперь отходит в сторону. активность во все более младших возрастных группах.

Согласно опросу родителей в США, почти четверть, или 24 процента, всех детей в возрасте от 5 до 7 лет имеют собственный смартфон, а если учесть планшеты, эта цифра возрастает до 76 процентов. Эта же возрастная группа также значительно чаще использует медиа на этих устройствах: 65% совершают голосовые и видеозвонки (по сравнению с 59% всего год назад), а половина детей (по сравнению с 39% в год) смотрят потоковое мультимедиа. .

Возрастные ограничения для некоторых популярных приложений социальных сетей становятся все ниже и ниже, но какими бы ни были ограничения, в Великобритании они, похоже, все равно не соблюдаются. По данным Ofcom, около 38% детей в возрасте от 5 до 7 лет пользуются социальными сетями. Самым популярным приложением среди них является WhatsApp от Meta (37%). И, возможно, это первый случай, когда флагманское приложение Meta с изображениями оказалось менее популярным, чем вирусная сенсация ByteDance: TikTok, как выяснилось, используют 30% детей в возрасте от 5 до 7 лет, а Instagram — «всего» 22%. Discord завершает список, но он значительно менее популярен — всего 4%.

ЧИТАТЬ   Индийский суд отклонил иск Twitter против правительства, оспаривающего распоряжения о блокировке

Около трети, или 32 процентов, детей этого возраста выходят в Интернет самостоятельно, а 30 процентов родителей заявили, что они согласны с тем, что их несовершеннолетние дети имеют профили в социальных сетях. YouTube Kids остается самой популярной сетью среди молодых пользователей — 48%.

Этими играми, неизменно любимыми среди детей, в настоящее время пользуется 41% детей в возрасте от 5 до 7 лет, при этом 15% детей в этой возрастной группе играют в стрелялки.

Хотя 76% опрошенных родителей заявили, что говорили со своими маленькими детьми о безопасности в Интернете, между тем, что видит ребенок, и тем, что он может сообщить, стоят вопросительные знаки, отмечает Ofcom. При поиске детей старшего возраста в возрасте от 8 до 17 лет Ofcom напрямую спрашивал их. Исследование показало, что 32% детей заявили, что видели в Интернете тревожный контент, но только 20% их родителей заявили, что сообщали о чем-либо.

Даже с учетом некоторых несоответствий в отчетах, «исследования показывают несоответствие между воздействием детей старшего возраста на потенциально вредный онлайн-контент и тем, что они делятся со своими родителями о своем онлайн-опыте», пишет l 'Ofcom. И тревожный контент — это лишь одна из проблем: дипфейки — это тоже проблема. По данным Ofcom, среди детей в возрасте от 16 до 17 лет 25% заявили, что не уверены, смогут ли они отличить фейки от настоящих в Интернете.

Source

От admin