Адвоката покарали за використання фальшивих свідчень від ChatGPT

Верховний суд штату Нью-Мексико визнав адвоката Стівена Ааронса винним у неповазі до суду після того, як він подав апеляційний документ із вигаданими свідченнями та іншими помилками, створеними за допомогою ChatGPT. Про це пише ARStechnica.

Як ChatGPT створив фальшиві свідчення?

Суд також передав справу до дисциплінарної комісії для подальшого розгляду. У рішенні зазначено, що адвокат продемонстрував "відсутність каяття та занепокоєння щодо свого клієнта". Ааронсу заборонили виступати перед Верховним судом Нью-Мексико до завершення дисциплінарного розслідування. Крім того, його оштрафували на 5 000 доларів. Кошти мають надійти до Фонду захисту клієнтів Колегії адвокатів Нью-Мексико.

Адвокат понад 40 років працює у сфері кримінального права. Його найняли родичі Оскара Рене Сандовала, якого у лютому 2025 року засудили до довічного ув'язнення за вбивство Ширін Аль-Джибурі – своєї партнерки та матері його дітей.

У серпні 2025 року Ааронc подав апеляційну скаргу, підготовлену за допомогою ChatGPT. Через кілька тижнів прокуратура штату звернулася до суду з проханням вилучити частини цього документа з матеріалів справи. Суд встановив, що в тексті були наведені неправдиві свідчення від імені повністю вигаданих людей. Серед них – офіцери Мішель Амарильйо та Санчес, Маналь Аль-Джибурі й Тереза Маркес.

Також документ містив вигадані або спотворені свідчення інших людей. Наприклад, у ньому йшлося про погрози Денні Стентону та його дружині Лінді, хоча відповідні твердження не відповідали матеріалам судового процесу. Окремо Ааронc неправильно описав одяг і зовнішність підозрюваного, посилаючись на вигадані свідчення.

Адвокат завантажив до ChatGPT матеріали суду

Під час слухання 21 серпня Ааронc пояснив, що спочатку скористався сервісом Rev.com для автоматичного розшифрування аудіозаписів судового процесу. Потім він завантажив транскрипт та інші матеріали до ChatGPT.

За його словами, він використав версію чатбота на основі моделі OpenAI o3. Адвокат очікував, що система створить точний і надійний виклад судових подій.

"Я припускав, що вона згенерує бездоганний підсумок процесу", – заявив він.

Ааронc також сказав, що вважав результати достовірними через широке використання штучного інтелекту в юридичній та медичній сферах. Водночас він визнав, що не перевірив фактичні твердження та юридичні посилання перед підписанням і поданням документа до суду. Він також не повідомив клієнту, що апеляція містить численні фактичні й юридичні помилки.

Адвокат стверджував, що сам транскрипт судового засідання був достатньо точним. На його думку, проблеми виникли вже після завантаження цього матеріалу разом з іншими документами до ChatGPT. Серед них були матеріали справи, перелік питань апеляції та частина доказів.

Однак суд наголосив, що відповідальність за зміст документа несе юрист, який його підписує. Не має значення, чи допомагав йому штучний інтелект, студент юридичного факультету або інший адвокат.

Судді розкритикували пояснення адвоката

Під час слухання судді різко відреагували на заяви Ааронса про те, що він не знав про здатність ШІ вигадувати факти.

Суддя Шеннон Бейкон заявила, що проблема так званих "галюцинацій" штучного інтелекту давно є широко відомою. Вона зазначила, що навіть її 13-річний племінник і 75-річна мачуха знають про ризик отримання неправдивої інформації від чатботів.

"Або ви ховали голову в пісок – і це був свідомий вибір залишатися необізнаним, – або ви пішли на ризик. І жоден із цих варіантів не відповідає кодексу професійної поведінки", – сказала Бейкон.

За її словами, Ааронc порушив щонайменше вісім або дев'ять положень професійного кодексу. Адвокат намагався наголосити, що в його документі не було вигаданих судових справ, а лише неправильні описи реальних прецедентів. Проте Бейкон заявила, що суттєвої різниці між вигаданим посиланням і спотворенням реального рішення немає. В обох випадках юрист порушує обов'язок бути чесним перед судом.

Головна суддя Джулі Варґас також відкинула спроби Ааронса перевести розмову на загальні питання регулювання штучного інтелекту. Вона наголосила, що в центрі справи перебуває конкретний підсудний, який залишається під вартою, а помилки адвоката можуть безпосередньо вплинути на його майбутнє.

"Мене зараз не цікавлять політичні питання. Мене цікавить, що ми маємо зробити з вашим клієнтом і як діяти з огляду на поведінку, яку ви продемонстрували", – заявила Варґас.

Суддя Майкл Віґіл підкреслив, що використання ШІ саме по собі не є проблемою. Неприпустимим є подання неперевіреного тексту до суду.

Він порівняв ситуацію з роботою молодого юриста: якщо адвокат підписує документ, не перевіривши його, відповідальність залишається на ньому незалежно від того, наскільки досвідченим був автор підготовленого матеріалу.

Клієнта не повідомили про використання ChatGPT

Окрему критику суддів викликало те, що Ааронc не розповів клієнту про масштаб проблеми.

Під час слухання адвокат визнав, що не повідомив Сандовалу, який розмовляє іспанською, про використання ChatGPT та неправдиві твердження в апеляції. Родичам клієнта він лише сказав, що з поданим документом виникла проблема.

Коли Бейкон запитала, чи пояснив він родині, що саме сталося, Ааронc відповів: "Я не говорив про ChatGPT. Я просто сказав, що виникла проблема з апеляцією". Суддя заявила, що клієнт має знати повний масштаб ситуації, щоб усвідомлено вирішити, чи хоче він і надалі користуватися послугами цього адвоката.

"Ваш клієнт страждає через це значно більше, ніж ви коли-небудь постраждаєте", – сказала Бейкон.

Суд вилучив усі попередні апеляційні документи з матеріалів справи та доручив офісу державного захисника призначити Сандовалу нового адвоката. Розгляд справи має продовжитися протягом судового терміну 2026–2027 років.

Ааронc заявив, що шкодує про помилку та сподівається, що дисциплінарна комісія врахує її як ненавмисну. Водночас суд наголосив, що незнання можливостей і обмежень ШІ не звільняє професіонала від обов'язку перевіряти кожен документ перед його поданням.