Суд впервые наказал за использование искусственного интеллекта. Это были юристы

Юридическая фирма Levidow, Levidow & Oberman PC получила штраф в размере $5 000 за использование искусственного интеллекта в судебном разбирательстве. Об этом сообщает Bloomberg.

Это стало первым таким делом в мире, где ИИ стал причиной наказания. Судья П. Кевин Кастель принял решение об оштрафовании фирмы после того, как адвокаты предоставили суду "цитаты и ссылки, созданные с помощью нейросети", которые были недостоверны. Это привело к обвинениям в недобросовестном поведении и попытках ввести суд в заблуждение.

Эти адвокаты продолжали утверждать правдивость предоставленных данных, даже после того, как они разоблачили использование ИИ. Однако оказалось, что эти данные были придуманы ИИ без намерения мошенничества. Модель ИИ, которую использовали адвокаты, остается неизвестной.

Эксперты отмечают необходимость проверки всех данных, генерируемых чат-ботами, особенно в случае сложной информации. Языковые модели, такие как ИИ, имеют тенденцию "галюцинировать" или придумывать информацию при недостаточных данных, чтобы обеспечить более гладкий рассказ или ответ. Кроме того, у чат-ботов есть проблемы с содержанием сложного технического диалога и разделением тематики запросов, что может приводить к ложным или непонятным ответам.