Искусственный интеллект предлагает пользователям есть камни: Google начал удалять странные ответы

Социальные сети переполнены примерами нового продукта искусственного интеллекта (ИИ) Google AI Overview, который говорит странные вещи. В частности, пользователям предлагают заклеить пиццу клеем или съесть камни. Как сообщает The Verge, компания Google уже год тестирует новую функцию AI Overviews, которая была запущена в бета-версии в мае 2023 года под названием Search Generative Experience. За год компания обслужила более миллиарда запросов.

"Компания, которая когда-то была известна тем, что была на передовой и поставляла высококачественные вещи, теперь известна низкокачественной продукцией, которая становится мемом", - сказал анонимно один из основателей ИИ.

При этом в Google утверждают, что их продукт AI Overview преимущественно выдает пользователям "высококачественную информацию".

Пресс-секретарь Google Меган Фарнсворт отметила, что компания "принимает оперативные меры" для удаления определенных запросов к AI Overviews, "где это уместно в соответствии с нашей политикой в отношении содержания, и использует эти примеры для разработки более широких усовершенствований наших систем, некоторые из которых уже начали разворачиваться".

В свою очередь эксперт по искусственному интеллекту и почетный профессор нейронауки в Нью-Йоркском университете Гэри Маркус заявил, что многие компании, которые занимаются искусственным интеллектом, "продают мечты" о том, что эта технология поднимется с 80% правильности до 100%.

Маркус отметил, что достичь начальных 80% относительно просто, ведь это связано с аппроксимацией большого количества человеческих данных, однако последние 20% являются чрезвычайно сложной задачей.

"На самом деле вам нужно провести определенные рассуждения, чтобы решить: является ли эта вещь правдоподобной? Является ли этот источник легитимным? Вы должны делать то, что может сделать человек, который проверяет факты, что на самом деле может потребовать искусственного общего интеллекта", - объяснил он.

Курьезы от Google - последние новости

Недавно пользователи ИИ Google AI Overview сообщали, что на вопрос: что делать, чтобы сыр не стекал с приготовленной пиццы, искусственный интеллект отвечает: "Добавьте немного клея. Смешайте примерно 1/8 чашки клея Elmer с соусом. Нетоксичный клей подойдет".

27 мая сообщалось, что в Германии один из жителей заметил, что в Google-картах дорога названа "улицей Гитлера".

"Мы быстро позаботились о том, чтобы название было удалено. Данные для Google Maps поступают из разных источников. К ним относятся компании-агрегаторы данных, общедоступные источники и в некоторых случаях партнеры, такие как местные власти", - подчеркнул представитель компании Google.