Intel и Georgia Tech возглавят программу борьбы с атаками на искусственный интеллект

Корпорация Intel и Технологический институт штата Джорджия (Georgia Tech) объявили, что возглавят группу, созданную агентством оборонных исследований DARPA для разработки методов защиты от атак и манипуляций, нацеленных на системы искусственного интеллекта.

«Intel и Georgia Tech работают вместе, чтобы улучшить коллективное понимание экосистемой уязвимостей ИИ и машинного обучения, а также её способность смягчать возможные последствия (их эксплуатации), — сказал Джейсон Мартин (Jason Martin), главный инженер Intel Labs.

— Мы сообща занимаемся совершенствованием обнаружения объектов и улучшением устойчивости ИИ и машинного обучения к состязательным (adversarial) атакам».Intel станет главным подрядчиком четырехлетнего совместного проекта с многомиллионным бюджетом, известного как «Гарантирование защищённости искусственного интеллекта от обмана» или GARD, который улучшит устойчивость моделей машинного обучения к атакам путём введения в заблуждение.

Хрестоматийным примером подобной атаки стал эксперимент сотрудников лаборатории Keen Security Lab компании Tencent.

В марте прошлого года они показали, что с помощью наклеек на дороге можно заставить систему управления электромобилем Tesla Model S вывести его на полосу со встречным движением.

Реальные состязательные атаки на обучаемые алгоритмы пока ещё большая редкость, однако быстрое и повсеместное распространение ИИ заставляет всё больше считаться с этим фактором риска.

Миссия GARD заключается в том, чтобы собрать предыдущие и текущие исследования недостатков и эксплойтов, влияющих на системы машинного интеллекта, и создать теоретическую основу, которая поможет обнаруживать уязвимости и определять граничные случаи для повышения устойчивости к ошибкам и атакам.

На первом этапе реализации проекта GARD, Intel и Georgia Tech будут улучшать распознавание объектов на изображениях и видео, используя пространственное, временнóе и семантическое согласование.

Идея состоит в том, чтобы наделить ИИ повышенным «здравомыслием», увеличивая количество внешних факторов, учитываемых моделью при классификации изображения.