Законы от чат-ботов: почему юристы Конгресса переписывают проекты с нуля после «помощи» ИИ

А тем временем юридическая служба вынуждена работать в усиленном режиме, чтобы исправить катастрофическое количество ошибок искусственного интеллекта. Издание Politico со ссылкой на собственные источники в Конгрессе США сообщает, что специалисты, которые проверяют и редактируют все нормативные документы, обнаружили в сгенерированных ИИ текстах многочисленные неправильные термины, ошибочные ссылки на действующие законы и другие неточности.

• OpenAI лишает ChatGPT человеческих черт в общении с детьми

Детали

В настоящее время юристы тратят на проверку таких проектов больше времени, чем на их создание с нуля.

«Искусственный интеллект полезен для многих вещей», — сказал Даниэль Шуман, исполнительный директор некоммерческой организации «Американский институт управления», которая помогает модернизировать государственные технологии. «Но он не способен разрабатывать законодательство, которое вы бы хотели принять». «Сотрудники и внешние группы обращаются к Claude или ChatGPT, чтобы они разработали сам законодательный текст», — сообщает специалист, который консультирует сотрудников офиса по этой технологии и пожелал остаться анонимным.

Если учитывать ошибки, которые генерируют инструменты искусственного интеллекта, OLC тратит

«больше времени на попытки исправить законодательство, разработанное с помощью искусственного интеллекта, чем на его разработку с нуля», — говорит специалист.

Таким образом, появление искусственного интеллекта на Капитолийском холме означает, что стремительно развивающиеся технологии, которые уже угрожают нарушить работу программного обеспечения, войны, Голливуда и множества других отраслей промышленности, вскоре могут непредсказуемым образом формировать законы, которые будут влиять на миллионы американцев.

Специалисты отмечают, что нейросети часто путают фундаментальные понятия. Например, алгоритмы не различают, должна ли определенная сумма быть налоговой льготой, налоговым вычетом, освобождением от налога или грантом. Кроме того, ИИ ошибочно трактует термин "штат", из-за чего в документ могут не попасть Вашингтон, округ Колумбия, или коренные племенные нации.

Однако, как отмечает Politico, кроме прямых ошибок в тексте, специалисты зафиксировали еще одну проблему. Сотрудники Конгресса, которые поручают написание законопроектов чат-ботам, начинают хуже понимать суть самих документов.

При самостоятельной подготовке люди глубоко погружаются в проблематику, тогда как использование алгоритмов лишает их этого этапа аналитической работы. Несмотря на это, именно управление OLC начало разработку собственного специализированного инструмента на основе искусственного интеллекта под названием Comparative Print Suite.

И эта система помогает сотрудникам анализировать, как именно предложенный законопроект изменит действующее законодательство.

Ранее мы сообщали, что проанализировав запросы к искусственному интеллекту, специалисты обнаружили тревожную тенденцию среди пользователей. В частности, массовые загрузки в чат-боты конфиденциальных документов и личных данных.