Чтобы дать ученым, занимающимся искусственным интеллектом, и другим людям заслуженное – и запоздалое – время в центре внимания, TechCrunch запускает серию интервью, посвященных замечательным женщинам, которые внесли свой вклад в революцию в области искусственного интеллекта. В течение года мы будем публиковать несколько статей, поскольку бум искусственного интеллекта продолжается, освещая ключевые работы, которые часто остаются без внимания. Больше профилей читайте здесь.

Сандра Вахтер — профессор и старший научный сотрудник в области этики данных, искусственного интеллекта, робототехники, алгоритмов и регулирования в Оксфордском институте Интернета. Она также является бывшим научным сотрудником Института Алана Тьюринга, национального института науки о данных и искусственного интеллекта Великобритании.

В Институте Тьюринга Уотчер оценил этические и юридические аспекты науки о данных, выделив случаи, когда непрозрачные алгоритмы становились расистскими и сексистскими. Она также исследовала способы проверки ИИ для борьбы с дезинформацией и обеспечения справедливости.

Вопросы и ответы

Короче говоря, как вы начали заниматься ИИ? Что привлекло вас в этой сфере?

Я не могу вспомнить время в своей жизни, когда бы я не думал, что инновации и технологии обладают невероятным потенциалом для улучшения жизни людей. Однако я также знаю, что технологии могут иметь разрушительные последствия для жизни людей. Вот почему я всегда был полон решимости – не в последнюю очередь из-за моего сильного чувства справедливости – найти способ гарантировать эту золотую середину. Содействие инновациям и защита прав человека.

Я всегда считал, что закон играет очень важную роль. Закон может стать общей основой, которая защищает людей и одновременно способствует инновациям. Право как дисциплина было для меня очень естественным. Мне нравятся вызовы, мне нравится понимать, как работает система, видеть, как я могу в нее играть, находить недостатки и затем их устранять.

ИИ — невероятно преобразующая сила. Он реализуется в сферах финансов, занятости, уголовного правосудия, иммиграции, здравоохранения и искусства. Это может быть хорошо или плохо. И хорошо это или плохо – вопрос замысла и политики. Меня это, естественно, привлекло, потому что я верил, что закон может внести значительный вклад в обеспечение того, чтобы инновации приносили пользу как можно большему числу людей.

Какой работой вы больше всего гордитесь (в области ИИ)?

Я думаю, что работа, которой я сейчас больше всего горжусь, — это статья, написанная в соавторстве с Брентом Миттельштадтом (философом), Крисом Расселом (ученым-компьютерщиком) и мной как юристом.

ЧИТАТЬ   Развивайте свой бизнес без ущерба для качества - The European Business Review

Наша последняя работа о предвзятости и справедливости»,Несправедливость честного машинного обучения», выявил вредное воздействие практического применения многочисленных мер «коллективной справедливости». Точнее, справедливость достигается за счет «выравнивания», то есть за счет ухудшения положения всех, а не за счет помощи обездоленным группам. Такой подход весьма проблематичен в контексте антидискриминационных законов ЕС и Великобритании, а также вызывает беспокойство с этической точки зрения. В кусок в Wired мы обсуждали, как гонка вниз может быть вредной на практике – например, в здравоохранении обеспечение групповой справедливости может означать пропуск большего количества случаев рака, чем это строго необходимо, в то же время делая систему менее точной.

Для нас это было ужасно, и это важно знать людям, работающим в сфере технологий, политики и вообще каждому человеку. Фактически, мы сотрудничали с регулирующими органами Великобритании и Европы и поделились с ними своими тревожными выводами. Я искренне надеюсь, что это даст политикам рычаги для реализации новой политики, которая не позволит ИИ причинить такой серьезный вред.

Как мы можем решить проблемы технологического сектора, в котором доминируют мужчины, и, как следствие, сектора искусственного интеллекта, в котором доминируют мужчины?

Что интересно, я никогда не думал о технологиях как о чем-то, что «принадлежит» мужчинам. Только когда я пошел в школу, общество сказало мне, что в технологиях нет места для таких людей, как я. Я до сих пор помню, когда мне было 10 лет, школьная программа требовала, чтобы девочки занимались вязанием и шитьем, а мальчики строили скворечники. Еще я хотела построить скворечник и попросила перевести меня в класс мальчиков, но учителя сказали мне, что «девочки так не делают». Я даже пошла к директору школы, чтобы попытаться отменить это решение, но, к сожалению, мне тогда это не удалось.

Очень сложно бороться со стереотипом, что ты не должен быть частью этого сообщества. Мне бы хотелось сказать, что подобных вещей больше не происходит, но, к сожалению, это неправда.

Однако мне невероятно повезло работать с такими союзниками, как Брент Миттельштадт и Крис Рассел. Мне выпала честь воспользоваться услугами таких невероятных наставников, как мой доктор философии. У меня и моего руководителя есть растущая сеть единомышленников всех полов, которые делают все возможное, чтобы наметить путь вперед для улучшения ситуации для всех, кто интересуется технологиями.

ЧИТАТЬ   Путин анонсировал национальный проект «Экономика данных» с бюджетом в 700 миллиардов долларов

Какой совет вы бы дали женщинам, желающим заняться сферой искусственного интеллекта?

Прежде всего постарайтесь найти единомышленников и союзников. Очень важно найти своих людей и поддерживать друг друга. Моя самая эффектная работа всегда заключалась в общении с непредубежденными людьми разного происхождения и дисциплин для решения общих проблем, с которыми мы сталкиваемся. Принятая мудрость сама по себе не может решить новые проблемы, поэтому женщины и другие группы, которые исторически сталкивались с препятствиями в доступе к искусственному интеллекту и другим областям технологий, имеют инструменты для настоящих инноваций и предложения чего-то нового.

Каковы наиболее актуальные проблемы, с которыми сталкивается ИИ по мере его развития?

Я думаю, что существует широкий спектр вопросов, которые требуют серьезного юридического и политического рассмотрения. Назовем лишь некоторые из них: ИИ страдает от предвзятых данных, которые приводят к дискриминационным и несправедливым результатам. ИИ по своей сути непрозрачен и труден для понимания, но его задача — решать, кто получит кредит, кто устроится на работу, кто попадет в тюрьму и кому будет разрешено поступить в колледж.

Генеративный искусственный интеллект имеет схожие проблемы, но он также способствует дезинформации, пронизан галлюцинациями, нарушает защиту данных и права интеллектуальной собственности, ставит под угрозу рабочие места людей и вносит больший вклад в изменение климата, чем авиационная отрасль.

У нас нет времени терять зря; мы, должно быть, рассмотрели эти вопросы вчера.

О каких проблемах следует знать пользователям ИИ?

Я думаю, что существует тенденция верить в определенную версию, например: «ИИ здесь и здесь, чтобы остаться, принять участие или остаться позади». Я думаю, важно подумать о том, кто продвигает этот дискурс и кто от него выигрывает. Важно помнить, в чем заключается настоящая сила. Власть принадлежит не тем, кто занимается инновациями, а тем, кто покупает и внедряет ИИ.

Поэтому потребители и предприятия должны спросить себя: «Действительно ли мне помогает эта технология и каким образом?» Электрические зубные щетки теперь включают «ИИ». Кто это для ? Кому это нужно? Что здесь улучшено?

Другими словами, спросите себя, что сломано и что нужно исправить, и действительно ли ИИ может это исправить.

Такой тип мышления изменит рыночную власть, и, будем надеяться, инновации будут двигаться в направлении, ориентированном на полезность для общества, а не на простую прибыль.

ЧИТАТЬ   Мохамед аль-Хаммади вошел в десятку «100 самых влиятельных арабов 2023 года» в отчете Gulf Business

Каков наилучший способ ответственной разработки ИИ?

Принять законы, требующие ответственного ИИ. Здесь также преобладает весьма бесполезное и ложное мнение: регулирование душит инновации. Это неправда. Регулирование душит вредный инновации. Хорошие законы способствуют и питают этические инновации; именно поэтому у нас есть безопасные автомобили, самолеты, поезда и мосты. Общество не проиграет, если регулирование будет препятствовать
создание ИИ, нарушающего права человека.

Правила дорожного движения и безопасности для автомобилей «душат инновации» и «ограничивают автономность». Эти законы запрещают людям управлять автомобилем без прав, не позволяют автомобилям, не оборудованным ремнями безопасности и подушками безопасности, поступать на рынок, а также наказывают людей, которые водят машину с нарушением скоростного режима. Представьте себе, как бы выглядели показатели безопасности в автомобильной промышленности, если бы у нас не было законов, регулирующих транспортные средства и их водителей. В настоящее время ИИ находится в аналогичном переломном моменте, а лоббирование и политическое давление тяжелой промышленности означают, что остается неясным, по какому пути он пойдет.

Как инвесторы могут лучше продвигать ответственный ИИ?

Несколько лет назад я написал статью под названием «Как справедливый ИИ может сделать нас богаче». Я глубоко убежден, что ИИ, который уважает права человека, является беспристрастным, объяснимым и устойчивым, не только является правильным с юридической, этической и моральной точки зрения, но также может быть экономически эффективным.

Я очень надеюсь, что инвесторы поймут: если они будут поощрять ответственные исследования и инновации, они также получат более качественные продукты. Плохие данные, плохие алгоритмы и неудачный выбор дизайна приводят к снижению качества продукции. Хотя я не могу убедить вас в том, что вам следует поступать этично, потому что это правильно, я надеюсь, вы увидите, что соблюдение этики также более выгодно. Этику следует рассматривать как инвестицию, а не как препятствие, которое необходимо преодолеть.

Source

От admin