Профессора призывают быть вежливыми с ИИ: почему это важно

Стоит ли тратить время на вежливость с искусственным интеллектом? Профессор Кембриджского университета Анна Фрай и нобелевский лауреат Джеффри Гинтон объяснили, почему слова «пожалуйста» и «спасибо» очень важны для получения качественных результатов от чат-ботов.

Об этом пишет LadBible.

Чат-боты с искусственным интеллектом становятся все более распространенными, и люди все чаще обращаются к ним в поисках информации. Несмотря на то, что ИИ иногда ошибается, он в целом остается довольно надежным инструментом для исследований. В то же время специалисты отмечают: именно для этого ИИ и стоит использовать — а не для создания сомнительных фильмов или тем более для построения романтических отношений с машиной.

На фоне глобальной проблемы одиночества все больше людей ежедневно общаются с технологиями искусственного интеллекта. И это происходит несмотря на дискуссии о влиянии таких систем на окружающую среду и опасения, что человечество может настолько привыкнуть к помощи чат-ботов, что без них будет трудно ответить даже на элементарные вопросы.

Поэтому неудивительно, что пользователи часто общаются с чат-ботами так же, как с людьми — добавляя к своим запросам «пожалуйста» и «спасибо».

Ранее некоторые эксперты даже предостерегали от этого. Генеральный директор OpenAI Сэм Альтман отмечал, что вежливость пользователей стоит компании миллионы долларов из-за дополнительного потребления электроэнергии.

Почему ИИ стоит говорить «пожалуйста» и «спасибо»?

Однако профессор математики Анна Фрай объяснила, почему стоит оставаться вежливыми при общении с искусственным интеллектом — и причина не только в том, чтобы «задобрить роботов», если они когда-то решат захватить мир.

На своем YouTube-канале профессор отметила, что когда пользователи воспринимают чат-боты только как энциклопедию, они и получают ответы в соответствующем стиле — сухие и справочные. Вместо этого, по ее словам, ИИ лучше рассматривать как универсального актера, который может выполнять различные роли. Если человеку нужен научный или экспертный ответ, стоит прямо сказать чат-боту, что он должен выступать в роли специалиста.

Так же, если пользователь хочет получить ответ в стиле Уильяма Шекспира, стоит обращаться к ИИ так, будто он и есть этот знаменитый драматург.

И поскольку в реальной жизни к такому «универсальному актеру» мы относились бы вежливо, Фрай советует вести себя так же и с чат-ботами — даже если это означает дополнительные расходы для компаний-разработчиков.

Между тем один из самых известных исследователей в области искусственного интеллекта — британский компьютерный ученый и нобелевский лауреат Джеффри Гинтон, которого часто называют «крестным отцом ИИ», считает, что человечеству, возможно, придется искать способы сосуществования со все более мощными системами.

По его мнению, достаточно умные системы искусственного интеллекта «очень быстро сформируют две подцели: одна — оставаться живыми… а другая — получать больше контроля».

«Есть веские основания полагать, что любой автономный ИИ будет пытаться выжить», — отметил Гинтон.

Ученый также привел необычное сравнение — с взаимоотношениями матери и ребенка: «Единственная модель, которая у нас есть, когда менее разумное существо контролирует более разумное, — это мать, которую контролирует ее младенец».

«Это единственный хороший сценарий. Если он не будет меня „воспитывать“, то он меня заменит. Эти сверхумные заботливые ИИ-матери, большинство из них не захотят избавляться от материнского инстинкта, потому что они не хотят, чтобы мы умерли», — рассказал нобелевский лауреат.

Из жизненного опыта известно: когда мы говорим маме «пожалуйста» и «спасибо», это помогает поддерживать хорошие отношения. Поэтому если разработчики смогут заложить подобный «материнский инстинкт» в будущие системы искусственного интеллекта, простая вежливость может быть полезной как сейчас, так и в будущем.

К слову, из-за сотрудничества OpenAI с Пентагоном американцы массово удаляют ChatGPT:28 февраля количество удалений подскочило на 295%, а новые загрузки упали на 13%. Пользователи массово ставят минимальные оценки, тогда как конкурент Claude, публично отказавшийся от военных контрактов, впервые возглавил рейтинг App Store США в марте благодаря росту загрузок на 51%. Несмотря на этот локальный бойкот, ChatGPT все еще удерживает более 80% мирового рынка, хотя доверие к лидеру существенно пошатнулось.

Деньги, конфискованные в Венгрии Зеленский установил День румынского языка / © Getty Images Ёж семена / © Pixabay