Вт
Добро пожаловать на TechCrunch Exchange, еженедельный информационный бюллетень о стартапах и рынках. Он вдохновлен ежедневной колонкой TechCrunch+, от которой и получил свое название. Хотите, чтобы оно приходило вам на почту каждую субботу? Зарегистрируйтесь здесь.

Способность технологии изобретать себя заново у колеса есть свои недостатки: оно может означать игнорирование вопиющих истин, которые другие уже усвоили. Но хорошая новость заключается в том, что новые основатели иногда решают все самостоятельно быстрее, чем их предшественники. — Анна

ИИ, доверие и безопасность

Этот год олимпийский, високосный. . . а также ТО год выборов. Но прежде чем обвинять меня в Американский дефолтЯ имею в виду не только продолжение противостояния Байдена и Трампа: более 60 стран организовать национальные выборыне говоря уже о Европейском парламенте.

Направление, в котором каждый из этих голосов может повлиять на технологические компании; Например, разные стороны, как правило, имеют разные взгляды на регулирование ИИ. Но даже до того, как выборы состоятся, технологии также будут играть роль в обеспечении их честности.

Честность выборов, вероятно, не была в уме Марка Цукерберга, когда он основал Facebook, и, возможно, даже когда он купил WhatsApp. Но 20 и 10 лет спустя, соответственно, доверие и безопасность теперь являются ответственностью, от которой Meta и другие технологические гиганты не могут уйти, нравится им это или нет. Это означает работу по предотвращению дезинформации, мошенничества, разжигания ненависти, CSAM (материалов о сексуальном насилии над детьми), членовредительства и многого другого.

Однако ИИ, вероятно, усложнит эту задачу, и не только из-за дипфейков или расширения прав и возможностей злоумышленников. Говорит Лотан Левковиц, генеральный партнер компании Гроув Венчурс:

Все эти платформы доверия и безопасности имеют это база данных совместного использования хеша, чтобы я мог загрузить туда то, что плохо, поделиться этим со всеми своими сообществами, и все вместе покончат с этим; но сегодня я могу научить модель избегать этого. Таким образом, даже самая классическая работа по обеспечению доверия и безопасности благодаря генерации ИИ становится все более и более сложной, поскольку алгоритм может помочь обойти все эти вещи.

От размышлений на передний план

Хотя онлайн-форумы уже кое-что узнали о модерации контента, на момент его рождения у Facebook не было руководства по социальным сетям, которому он мог бы следовать, поэтому вполне понятно, что ему потребуется некоторое время, чтобы оказаться на высоте. Но из внутренних документов «Меты» удручающе узнать, что еще в 2017 году внутри страны все еще существовало нежелание принимать меры, которые могли бы лучше защитить детей.

ЧИТАТЬ   Сборная Казахстана потерпела первое поражение на чемпионате мира по хоккею

Цукерберг был одним из пяти руководителей социальных сетей, которые недавно появились на слушаниях в Сенате США по вопросу безопасности детей в Интернете. Дача показаний была не первой для Meta, но тот факт, что Discord был включен, также стоит отметить; хотя он вышел за пределы своих игровых корней, это напоминание о том, что угрозы доверию и безопасности могут возникнуть во многих местах в Интернете. Это означает, что, например, приложение для социальных игр также может подвергнуть своих пользователей риску фишинга или груминга.

Будут ли новые компании присваивать деньги быстрее, чем FAANG? Это не гарантировано: основатели часто действуют, исходя из первых принципов, и это и хорошо, и плохо; ТО Кривая обучения модерации контента верно. Но OpenAI намного моложе Meta, поэтому отрадно слышать, что она формирует новую команду для изучения безопасности детей, хотя это может быть результатом тщательного изучения, под которым она находится.

Однако некоторые стартапы не ждут признаков трудностей, чтобы действовать. Поставщик решений доверия и безопасности на базе искусственного интеллекта, входящий в портфель Grove Ventures. Активный забор видит больше входящих запросов, сказал мне генеральный директор Ноам Шварц.

«Я видел, как к нашей команде обращалось множество людей из компаний, которые только что созданы или даже уже запущены. Они думают о безопасности своей продукции еще на этапе проектирования. [and] путем принятия концепции, называемой безопасностью по замыслу. Они встраивают меры безопасности в свои продукты точно так же, как сегодня вы думаете о безопасности и конфиденциальности, когда разрабатываете свои функции.

ActiveFence — не единственный стартап в этой сфере, который Проводной описывается как «доверие и безопасность как услуга». Но это одна из крупнейших компаний, особенно после того, как в сентябре она приобрела Spectrum Labs. Поэтому приятно слышать, что в число его клиентов входят не только громкие имена, боящиеся пиар-кризисов и политического контроля, но и небольшие команды, которые только начинают. Технологии также обладают способностью учиться на прошлых ошибках.

ЧИТАТЬ   BitRiver: Россия занимает второе место в мире по добыче криптовалют



Source

От admin