Беспрецедентный случай произошел в американском суде – адвокат попался на выдумку ChatGPT

Беспрецедентный случай произошел в американском суде. Адвокат мужчины, подавшего в суд на авиакомпанию в обычном иске о телесных повреждениях, использовал ChatGPT для подготовки иска, но бот с искусственным интеллектом представил ему фальшивые дела, которые адвокат затем представил в суд. Судья ознакомившись с документами определил, что дела были фальшивыми.

Как пишут зарубежные СМИ, судья объявил, что суд столкнулся с “беспрецедентным обстоятельством” и рассмотрит вопрос о наложении санкций, поскольку юридическое сообщество столкнулось с одним из первых дел о “выдумках” ИИ, дошедших до суда.

Судебное дело было связано с тем, что базирующаяся в Колумбии авиалиния Avianca пыталась отклонить иск в федеральном суде, в котором мужчина Роберто Мата утверждал, что его “сбила металлическая сервировочная тележка” на борту рейса 2019 года, и он получил телесные повреждения.

При подаче ответа адвокаты Маты сослались как минимум на шесть других дел, чтобы показать прецедент, в том числе Варгезе против China Southern Airlines и Шабун против Egypt Air, но суд пришел к выводу, что этих дел не существовало и это были “фиктивные судебные решения с фиктивными судебными решениями”. Были обнаружены поддельные цитаты, что побудило федерального судью рассмотреть вопрос о санкциях.

Член юридической группы Маты сообщил, что он использовал ChatGPT для проведения юридических исследований для судебных исков, в которых упоминались дела, и что инструмент искусственного интеллекта заверил его, что дела были реальными.

Стивен Шварц — юрист, который использовал ChatGPT и представлял интересы Маты до того, как дело было передано в суд, где у него нет лицензии на ведение практики, — подписал письменные показания, в которых признал , что использовал чат-бота с искусственным интеллектом, но заявил, что не имел намерения обмануть суд и не действовать недобросовестно, утверждая, что он не должен быть наказан.

Позже Шварц сказал в заявлении от 8 июня, что он был “огорчен”, узнав о ложных случаях, и когда он использовал инструмент, он “не понимал, что это не поисковая система, а инструмент генеративной обработки языка”.

Юрист объяснил, что раньше он не использовал ChatGPT для юридических исследований и узнал об этой технологии “от своих детей студенческого возраста”, добавив, что он читал статьи о преимуществах ИИ в профессиональных условиях и о том, как эти инструменты “могут сделать юридические исследования устаревшими”.

Использование ChatGPT было обнаружено после того, как юристы Avianca не смогли найти некоторые судебные документы по делам, на которые ссылалась команда Маты, и подали запрос на получение дополнительной информации о них. Шварц вернулся в ChatGPT, чтобы получить копии документов по делу, все еще полагая, что это была поисковая система, и передал их другому адвокату Маты, Питеру ЛоДука, как объяснили адвокаты Шварца в судебных документах. Изучив предоставленные документы, федеральный судья из Нью-Йорка П. Кевин Кастель определил, что дела были фальшивыми.

Федеральный судья из Нью-Йорка П. Кевин Кастель приказал Шварцу и другому адвокату Маты, Питеру ЛоДуке, явиться на личное слушание в четверг в полдень, чтобы объяснить, почему они не должны подвергаться санкциям за цитирование “несуществующих дел”, но в итоге не принял решения.

Пока суд Южного округа Нью-Йорка не решил, что делать в ответ на использование Шварцем ChatGPT, суд в другом округе страны уже принял меры в ответ на ситуацию. Федеральный судья в Северном округе Техаса в конце мая издал постоянно действующий приказ после того, как ситуация со Шварцем попала в заголовки газет, что любой, кто предстанет перед судом, должен либо подтвердить, что “ни одна часть любого документа не будет составлен с помощью генеративного искусственного интеллекта”, либо пометить часть документа. которая была составлена ИИ для последующей проверки на точность. Он написал, что, хотя эти “платформы невероятно эффективны и имеют множество применений в законе”, в целом эти платформы “склонны к выдумкам и предвзятости” в своем текущем состоянии.

Leave a Reply