Почему использование ChatGPT в исках становится билетом к суровому наказанию

Юридическая фирма Sullivan & Cromwell, известная своей работой с самыми влиятельными клиентами США, включая президента Дональда Трампа, столкнулась с неожиданным врагом — алгоритмами популярного искусственного интеллекта. Использование корпоративной лицензии ChatGPT привело к тому, что официальный документ для суда Манхэттена оказался переполнен фальшивыми нормами права. Этот инцидент заставил судей рассмотреть новые виды наказания для адвокатов, которые не проверяют фантазии нейросетей перед публичным выступлением.

• Специалисты призывают пользователей переходить на методы входа без пароля

Сопредседатель группы по реструктуризации фирмы Эндрю Дитдерих был вынужден извиниться перед федеральным судьей Мартином Гленном. Причиной стало наполнение важного дела фейковыми цитатами, вымышленными искусственным интеллектом. Он глубоко сожалел, что обратился за помощью к нейросети.

Другая компания Boies Schiller Flexner рассмотрела ходатайство, которое подала Sullivan & Cromwell в федеральный суд по делам о банкротстве в Манхэттене. В некоторых фрагментах в заявлении были неправильно процитированы положения Кодекса США о банкротстве и приведены решения по другим делам, которые были либо неточно обобщены, либо неправильно идентифицированы. Юристы заметили, что даже некоторая информация вовсе не относилась к этому делу.

Дитдерих доверял ChatGPT и ему неприятно, что политика по искусственному интеллекту не была соблюдена при подготовке ходатайства. Компания устранила недостатки. Откорректированную версию позже передали в суд.

Эксперты подчеркнули, что ИИ может неправильно цитировать или искажать судебную практику и даже выдумывать несуществующие дела, а это может вызывать серьезные проблемы, но самым опасным остается невнимательность юристов.

Судьи налагают санкции и угрожают передавать дела в коллегию адвокатов штата из-за таких ошибок. Подобный случай произошел с фирмой Cozen O'Connor, которая оставила дела с использованием ИИ. Ошибки были не грубыми, поэтому судьи приняли решение дать на выбор наказание: либо попасть под санкции, либо написать письмо деканам своих юридических факультетов, объясняя, почему произошла такая неприятная ситуация.

Также мы делились, какой информацией не стоит делиться с искусственным интеллектом. Он использует определённые факты о вас для своего обучения. Специалисты назвали 5 категорий, которые под запретом. Речь идет о трудоустройстве, персональных данных, каких-либо долгах, точных данных транзакций и финансовых документах.