ШІ знищив урожай китайського фермера і визнав помилку

У Китаї стався прикрий інцидент, пов'язаний із використанням аграрного чат-бота, який призвів до загибелі кунжуту на полі фермера. Протягом року фермер консультувався з цим алгоритмом, спочатку ставлячися до нього з пересторогою, але з часом почав довіряти через вдалі підказки.

Коли на полі з'явилися шкідники та бур'яни, фермер звернувся до чат-бота за порадою щодо універсального засобу. ШІ рекомендував змішати два гербіциди: галоксифоп-Р-метил і фомесафен. Однак, після обробки ділянки кунжут повністю зів'яв і загинув протягом доби. Експерти вказують, що фомесафен зазвичай застосовують для сої, а для кунжуту він виявився смертельним через нераціональне поєднання препаратів та невраховану фазу росту рослин.

На запитання фермера про причини катастрофи чат-бот відповів: "Схоже, це була помилка."

Цей випадок ілюструє ризики використання штучного інтелекту в агросекторі та медицині. Експерти зазначають, що мовні моделі не здатні врахувати місцевий клімат, тип ґрунту, вологість і точну сумісність речовин, що може призвести до небезпечних наслідків.

Важливість обережності

Цей інцидент підкреслює важливість обережності при використанні штучного інтелекту в агрономії, оскільки неправильні рекомендації можуть мати катастрофічні наслідки для фермерів. Зростаюче впровадження технологій ШІ у галузі сільського господарства вимагає ретельного аналізу та оцінки, щоб уникнути подібних ситуацій у майбутньому. Важливо, щоб користувачі розуміли обмеження таких систем і не покладалися на них беззастережно.