Apple вирішила видалити програми, здатні «роздягати» дівчат за допомогою генеративного ШІ

Після появи звітів про проблемне використання штучного інтелекту для створення неприйнятних зображень на телефонах Huawei, корпорація Apple прийняла аналогічні заходи для видалення з AppStore додатків, які використовували генеративну ШІ для створення фальшивих картинок оголених людей.

Подробиці

Ці програми рекламувалися як «генератори мистецтва», здатних роздягнути будь-яку панночку абсолютно безкоштовно. Видалення відповідного ПЗ відбулося після того, як редакція 404 Media виявила та поділилася посиланнями на зазначені додатки та їх рекламу.

Примітно, що ці програми були доступні AppStore з 2022 року. Розробники рекламували свої «дітища» на сайтах для дорослих. Пізніше "творцям" дозволили залишатися в магазині додатків за умови видалення реклами з таких сайтів, проте щонайменше одне з таких програм продовжувало відображати неприйнятний контент аж до початку поточного року (видалення програми з гуглівського PlayStore сталося зовсім недавно).

Цей інцидент порушує питання про реактивну модерацію та можливість використання розробниками всіляких лазівок. Тема спливла на поверхню в самий невідповідний для «яблучників» час – у момент підготовки до форуму WWDC 2024, де очікуються важливі анонси в галузі штучного інтелекту для iOS 18 та Siri.

Інцидент також впливає на зусилля Apple зі створення репутації відповідальної компанії у сфері розробки штучного інтелекту, включаючи етичне ліцензування даних навчання. Запізнене видалення програм NCI може негативно вплинути на цей імідж.