Немногие юристы были бы настолько сумасшедшими, чтобы позволить ИИ вести свое дело, но один уже сделал это, и судья Брантли Старр предпринимает шаги, чтобы гарантировать, что фиаско не повторится в будущем. ее зал суда.
Федеральный судья Техаса добавил требование, согласно которому любой поверенный, выступающий в его суде, должен подтвердить, что «никакая часть записи не была создана генеративным искусственным интеллектом», или, если это так, что она была проверена «человеком».
На прошлой неделе адвокат Стивен Шварц разрешил ChatGPT «завершить» свое юридическое исследование недавней федеральной заявки, предоставив ему шесть дел и соответствующий прецедент — все они были полностью потрясены языковой моделью. Он сейчас “очень сожалею” о том, что сделал этои в то время как общенациональное освещение этой ошибки, вероятно, заставило других юристов задуматься о том, чтобы попробовать ее, судья Старр не рискует.
На федеральном сайте Северного округа Техаса Старр, как и другие судьи, может устанавливать определенные правила для своего зала суда. Недавно добавлено (хотя неясно, было ли это ответом на вышеупомянутую заявку) «Обязательная сертификация в отношении генеративного искусственного интеллекта». Евгений Волох сообщил новость в первый раз.
Все адвокаты, предстающие перед Судом, должны подать в дело свидетельство, в котором говорится, что либо ни одна часть документа не была написана с помощью генеративного искусственного интеллекта (например, ChatGPT, Harvey.AI или Google Bard), либо что любой язык, написанный с помощью генеративного искусственного интеллекта, был проверяется на точность с использованием журналистов печатных изданий или традиционных юридических баз данных человеком.
Прилагается форма для подписи адвокатов, в которой отмечается, что «цитаты, цитаты, перефразированные утверждения и юридический анализ» подпадают под этот запрет. Поскольку обобщение — одна из сильных сторон ИИ, а исследование и обобщение прошлых или предыдущих дел — это то, что рекламировалось как потенциально полезное в юридической работе, это может в конечном итоге вступать в игру чаще, чем ожидалось.
Тот, кто написал меморандум по этому делу в кабинете судьи Старра, держит руку на пульсе. Сертификационное требование включает в себя довольно информативное и убедительное объяснение его необходимости (разрывы строк добавлены для удобочитаемости):
Эти платформы невероятно эффективны и имеют множество применений в юриспруденции: формы развода, запросы на раскрытие информации, предполагаемые ошибки в документах, ожидаемые вопросы во время состязательных бумаг. Но юридический брифинг не является одним из них. Вот почему.
Эти платформы в их нынешнем состоянии подвержены галлюцинациям и предубеждениям. О галлюцинациях придумывают всякое, даже цитаты и цитаты. Другой вопрос — надежность или предвзятость. В то время как юристы дают клятву отказаться от своих личных предубеждений, предубеждений и убеждений, чтобы добросовестно соблюдать закон и представлять своих клиентов, генеративный искусственный интеллект является продуктом программирования, разработанного людьми, которым не приходилось давать такую клятву.
Таким образом, эти системы не подчиняются ни одному клиенту, верховенству права, законам и Конституции Соединенных Штатов (или, как отмечалось выше, истине). Без какого-либо чувства долга, чести или справедливости эти программы действуют в соответствии с компьютерным кодом, а не убеждениями, основанными на программировании, а не на принципах. Любая сторона, считающая, что платформа обладает точностью и надежностью, необходимыми для юридического брифинга, может запросить разрешение и объяснить, почему.
Другими словами, будьте готовы оправдаться.
Хотя это всего лишь один судья в суде, было бы неудивительно, если бы другие приняли это правило как свое собственное. Хотя, как говорит суд, это мощная и потенциально полезная технология, ее использование должно быть, по крайней мере, четко указано, а ее точность проверена.
