В Google появились сотни тысяч разговоров пользователей с чат-ботом Илона Маска Grok

Сотни тысяч чатов пользователей Grok, чат-бота на основе искусственного интеллекта от компании Илона Маска xAI, оказались в открытом доступе в поисковой системе Google. Вероятно, это стало возможным из-за функции "поделиться стенограммой", которая создает уникальную ссылку для передачи разговора. Оказалось, что эти ссылки не только отправлялись целевым получателям, но и становились доступными для индексации в Интернете, сообщает BBC.

Поиск в Google 21 августа показал около 300 тысяч разговоров, ставших публичными. Издание Forbes, которое первым сообщило о проблеме, насчитало более 370 тысяч индексированных стенограмм. Среди них - просьбы пользователей к Grok сгенерировать безопасный пароль, составить план питания, дать советы по здоровью или ответить на другие личные запросы. Некоторые разговоры демонстрировали попытки проверить границы возможностей чат-бота. В одном из примеров, который просмотрела BBC, бот даже предоставил инструкцию создания наркотического препарата класса А. BBC обратилась за комментарием к компании xAI.

Подобные ситуации уже случались и с другими сервисами. Так, OpenAI ранее отменил эксперимент, в рамках которого чаты ChatGPT, распространенные пользователями, появлялись в результатах поиска. Представитель компании подчеркнул, что разговоры по умолчанию являются частными, а распространение возможно только с согласия пользователей. Ранее Meta также подверглась критике после того, как совместные разговоры с ее чат-ботом Meta AI отображались в открытой ленте "открытия" в приложении.

Эксперты предупреждают о серьезных рисках. Люк Роше, доцент Оксфордского интернет-института, назвал ситуацию "длительной катастрофой конфиденциальности". По его словам, утечки таких данных могут содержать имена, местонахождение, детали о психическом здоровье, бизнес или личные отношения, а после попадания в интернет информацию удалить уже невозможно.

Карисса Велиз, доцент философии Института этики искусственного интеллекта Оксфордского университета, добавила, что проблема заключается в отсутствии прозрачности.

"Наши технологии даже не объясняют, что происходит с нашими данными. И это проблема", - заявила Велиз.

Недавно сообщалось, что исследователи Стэнфордского университета разработали нейрокомпьютерный интерфейс, который способен превращать внутреннюю речь человека в текст с точностью до 74%. Технология работает путем считывания нейронной активности в моторной коре мозга, ответственной за формирование речи. Это открывает значительные перспективы для восстановления способности общаться у людей, которые не могут говорить.