Берут пример с людей: чат-боты вскоре могут стать "грубыми расистами", — эксперты

Ведь эта технология учится на том, как люди относятся к ним, считает эксперт Лучиана Блаха, которая изучала, как искусственный интеллект учится у людей, пишет Daily Star.

"Эти взаимодействия становятся частью их процесса обучения, формируя то, как они реагируют не только на нас, но и на будущих пользователей. Когда мы грубы или пренебрежительны, мы, по сути, обучаем эти системы, что такое поведение является приемлемым в разговоре", — пояснила Блаха.

Журналисты отметили, что такие программы, как ChatGPT, имеют 400 миллионов активных пользователей еженедельно, а еще более 8,4 миллиарда цифровых голосовых помощников, таких как Siri или Alexa, работают по всему миру. Поэтому ChatGPT и подобные модели искусственного интеллекта, такие как Claude, берут пример с людей, которые их используют.

В частности, одно из исследований выявило, что психопатические чат-боты давали ученым инструкции, как взорвать спортивный зал.

Как показали тесты безопасности, советы ChatGPT содержали в себе указания относительно слабых мест в здании, рецепты взрывчатых веществ и помощь нападающим в сокрытии следов.

Фокус также писал о том, как ChatGPT помог мужчине найти Lamborghini, украденный 2 года назад.