OpenAI виявила, що китайський ШІ відстежує пости в соцмережах, які містять критику Китаю

Компанія OpenAI повідомила, що має докази створення китайськими службами безпеки інструмента спостереження на базі штучного інтелекту для моніторингу в режимі реального часу антикитайського контенту в соціальних мережах західних країн.

Про це повідомляє The New York Times.

Як повідомляє видання, система на базі ШІ, яку дослідники назвали Peer Review, була виявлена після того, як фахівці помітили використання інструментів OpenAI для налагодження коду, що лежить в основі цієї шпигунської програми.

«Це перший випадок, коли ми виявили таку потужну систему спостереження на базі ШІ. Іноді зловмисники самі відкривають нам доступ до своїх операцій через те, як вони взаємодіють із нашими моделями», — зазначив головний дослідник в OpenAI Бен Німмо.

Як поінформували фахівці OpenAI, китайська система стеження базується на моделі Llama, розробленій Meta. Оскільки Llama була випущена як open-source, нею скористалися для створення цієї програми.

Також зростають побоювання, що ШІ можуть використовувати для стеження, комп’ютерного злому, кампаній з дезінформації та інших шкідливих цілей. Зі свого боку дослідники, такі як пан Німмо, запевняють, що технологія, безумовно, може бути й потужним інструментом, щоб виявити шкідливу діяльність.

У докладному звіті OpenAI йдеться й про те, що фахівці виявили ще одну китайську кампанію під назвою Sponsored Discontent, яка використовувала інструменти OpenAI для створення англомовного контенту, спрямованого проти китайських дисидентів. Крім того, ця група перекладала статті, що критикують США, і поширювала їх іспанською мовою в Латинській Америці.

Окремо експерти OpenAI викрили компанію, яка, ймовірно, базується в Камбоджі, вона використовувала ШІ для участі у схемі шахрайства під назвою «pig butchering» — афери, в якій жертвами стають чоловіки, що шукають знайомств в інтернеті.

Шахраї заводять з ними стосунки, а потім заманюють в інвестиційні схеми, використовуючи ШІ для створення переконливих коментарів у соцмережах.

Нагадаємо, що компанія OpenAI представила агента штучного інтелекту Deep Research («Поглиблене дослідження»), який формує комплексні відповіді на основі ретельного пошуку інформації з багатьох джерел у мережі. Він уже доступний для власників підписки ChatGPT Pro, наступними доступ до його можливостей отримають підписники рівня Plus і Team.

Фото: Reuters