ChatGPT вигадав судові рішення, а адвокат подав їх до суду: як його покарали

У США Верховний суд штату Коннектикут застосував санкції до адвоката та його юридичної фірми за подання до суду документів із вигаданими або неточними судовими посиланнями, які були створені генеративним штучним інтелектом, пише Courant.

Суд назвав це рішення попередженням для всієї юридичної професії щодо необхідності перевіряти точність інформації, створеної за допомогою комп’ютерних технологій.

«Це рішення має слугувати нагадуванням усім представникам юридичної професії про необхідність знати про ризики та обмеження технологій, які вони використовують у юридичній практиці, оскільки вони залишаються особисто відповідальними за те, щоб уся інформація, подана до суду, була правдивою та точною», — зазначив суд.

Йдеться про адвоката Іана Г. Готліба, партнера юридичної фірми у Воллінгфорді.

Суд зобов’язав Готліба пройти шість годин безперервної юридичної освіти у сферах етики та управління офісом. Три з цих годин мають бути присвячені використанню генеративного штучного інтелекту.

Крім того, Готліб та його юридична фірма мають кожен пожертвувати по 1000 доларів на підтримку професійної організації, яка проводить навчання юристів щодо генеративного ШІ.

Зазначається, що вигадані посилання на судові справи виявили у документах Готліба, поданих для того, щоб його справи були сертифіковані як апеляції, що становлять суспільний інтерес. Після задоволення відповідної заяви суд також виявив додаткові неточності, створені комп’ютером, у змістовних апеляційних документах, поданих його фірмою.

Під час слухання, призначеного судом у липні, Готліб заявив, що самостійно проводив юридичне дослідження, готував проєкти документів, а потім перевіряв правильність наведених у них посилань.

За його словами, помилки з’явилися після того, як він скопіював свої проєкти та вставив їх у програму генеративного ШІ ChatGPT. Адвокат пояснив, що використовував її, щоб зробити процес підготовки документів ефективнішим і покращити якість кінцевого тексту.

За словами Готліба, помилки не були виявлені під час перевірки документів.

Водночас суд зазначив, що без відома адвоката ChatGPT додав нові посилання на судові справи або змінив уже наявні. У результаті остаточні документи, подані до суду, стали неточними та такими, що вводять в оману.

Вигадані судові посилання виявили студенти юридичного факультету Єльського університету, яким дозволили вступити у справу та виступити проти позиції клієнта Готліба.

Окремо зазначається, що через подібні ризики прокурори штату та керівники поліції закликали щонайменше тимчасово призупинити активне придбання правоохоронними органами інструментів на основі штучного інтелекту, доки нові технології не будуть протестовані та не будуть встановлені правила їх використання.