Серйозна загроза. Новий ШІ від OpenAI визначає адресу за фото

Найновіші моделі штучного інтелекту від OpenAI o3 та o4-mini вміють ще краще визначати місце, де було зроблене завантажене у чат фото, що відкриває нові можливості для зловживань.

Минулого тижня OpenAI випустила свої найновіші моделі штучного інтелекту, o3 та o4-mini. Обидві можуть «міркувати» за допомогою завантажених зображень. Також моделі можуть обрізати, обертати та збільшувати фотографії — навіть розмиті та спотворені — для їх ретельного аналізу. Користувачі швидко зрозуміли, що це може бути зручним інструментом для визначення локації на фото. o3, зокрема, досить добре вміє розпізнавати міста, визначні пам’ятки та навіть ресторани та бари за тонкими візуальними підказками.

Аналогічні можливості були у ChatGPT ще до запуску o3 і o4-mini, але, як пише TechCrunch, нові моделі краще знаходили локації на фото, ніж, приміром, старіша GPT-4o. Наявність такого функціоналу створює потенційні проблеми для конфіденційності. Нічого не заважає зловмисникам, проміром, зробити скриншот Instagram-історії та визначити локацію завдяки чат-боту, щоб переслідувати жертву.

Наразі існує небагато запобіжних заходів для запобігання такого роду застосування ChatGPT. І OpenAI не вбачає в цьому проблеми.

«OpenAI o3 і o4-mini додають візуальні аргументи в ChatGPT, роблячи його більш корисним у таких сферах, як доступність, дослідження або ідентифікація місць під час реагування на надзвичайні ситуації. Ми працювали над тим, щоб навчити наші моделі відхиляти запити на конфіденційну або конфіденційну інформацію, додали засоби захисту, спрямовані на те, щоб заборонити моделі ідентифікувати приватних осіб на зображеннях», — каже представник компанії в коментарі TechCrunch.