Штучний інтелект Google надає небезпечні поради щодо здоров'я — розслідування The Guardian

Розслідування Guardian показало, що люди наражаються на небезпеку через неправдиву та оманливу інформацію про здоров'я у звітах Google, заснованих на штучному інтелекті. Про це медіа повідомляє у своїй статті.

Медіа виявило кілька випадків неточної медичної інформації в оглядах штучного інтелекту Google після того, як низка медичних груп, благодійних організацій та фахівців висловили занепокоєння щодо правдивості медичних даних, які надає AI Overviews.

Так, в одному випадку Google помилково порадив людям з раком підшлункової залози уникати продуктів з високим вмістом жиру. Експерти заявили, що це прямо протилежно тому, що слід рекомендувати, і може збільшити ризик смерті пацієнтів від цієї хвороби.

В іншому прикладі пошуковик надав неправдиву інформацію про важливі тести функції печінки, через що люди із серйозними захворюваннями цього органу могли помилково вважати себе здоровими.

Пошукові запити Google щодо тестів на рак у жінок також надавали «абсолютно невірну» інформацію, що, за словами експертів, може призвести до того, що люди ігноруватимуть справжні симптоми.

Медіа також виявило, що огляди Google AI надають оманливі результати пошуку щодо психічних розладів. Зокрема, деякі з висновків ШІ щодо таких станів, як психоз та розлади харчової поведінки, пропонували «дуже небезпечні поради» та були «неправильними, шкідливими або могли призвести до того, що люди уникатимуть звернення за допомогою».

Google заявила, що переважна більшість її оглядів AI були фактичними та корисними, і компанія постійно покращує якість пошуку.  

«Ми значно інвестуємо в якість оглядів штучного інтелекту, особливо з таких тем, як здоров’я, і переважна більшість з них надає точну інформацію», — відповів речник Google на запит медіа.

Фото: Pixabay