YouTube заблокировал популярный канал о шахматах из-за «расизма»

Администрация видеохостинга YouTube заблокировала популярный канал хорватского шахматиста Антонио Радича за «вредоносный и опасный» контент, поскольку искусственный интеллект воспринял фразу «черные против белых», которая на самом деле была о шахматах, как расизм.

Как передает Укринформ, об этом сообщает издание Independent.

Радич, известный под псевдонимом Agadmator, ведет популярный в мире шахматный канал на YouTube из более 1 млн подписчиков. В июне 2020 года его канал на YouTube был заблокирован во время представления шахматного турнира с гройсмейстером Хикару Накамурой. Однако через сутки канал разблокировали.

Радич уверен, что временное блокирование связано с фразой «черные против белых», хотя автор, на самом деле, говорил о шахматах.

Отмечается, что алгоритмы YouTube восприняли беседу шахматистов вредоносной. В то же время администрация YouTube так и не представила объяснений блокировки.

Системой модерации YouTube занимаются как сами работники компании, так и алгоритмы искусственного интеллекта, а это значит, что ИИ может неверно интерпретировать комментарии, если его не научить правильно понимать контекст.

Компьютерные специалисты из Университета Карнеги-Меллона начали расследование сбоя ИИ и смоделировали реакцию программы на видео о шахматах.

Эксперты использовали современный классификатор языка, чтобы просмотреть свыше 680 тыс. комментариев из пяти популярных шахматных YouTube-каналов.

Проверив вручную выборку из 1000 комментариев, которые искусственный интеллект классифицировал как язык вражды, они выявили, что 82% из них были неправильно истолкованы из-за употребления таких слов, как «черный», «белый», «атака» и «угроза» - всё это обычно используется в шахматном языке.

Как сообщал Укринформ, Лондонская компания DeepMind, дочернее предприятие Alphabet, создала систему обучения MuZero - искусственный интеллект научили побеждать в играх даже без знания правил.