Из-за "расизма" YouTube заблокировал популярный канал про шахматы

Администрация YouTube поставила в блок канал Антонио Радича, шахматиста из Хорватии, за "вредный и опасный" контент. Дело в том, что искусственный интеллект расценил фразу "чёрные против белых", как расизм, хотя речь шла о шахматах.

Известный под псевдонимом Agadmator, шахматист Радич ведёт известный на весь мир канал на YouTube, на который подписано более 1 миллиона людей. Летом 2020 года его канал заблокировали во время трансляции шахматного турнира с гроссмейстером Хикару Накамура. Правда, через 24 часа канал был разблокирован.

Антонио Радич уверен, что это произошло из-за фразы "черные против белых", хотя речь шла исключительно о шахматах.

Система модерации YouTube подлежит и самим работникам компании, и алгоритмам искусственного интеллекта (ИИ). Таким образом, искусственный интеллект может неправильно "понять" комментарии, ведь он не научен верно оценивать контекст.

Специалисты по компьютерам из Университета Карнеги-Меллона начали собственное расследование сбоя ИИ и смоделировали реакцию программы на видео о шахматах.

Эксперты использовали современный классификатор языка, чтобы изучить более 680 тысяч комментариев на пяти популярных каналах на YouTube про шахматы. Вручную проверив 1000 комментариев, которые ИИ расценил, как язык врага, эксперты пришли к выводу, что 82 процента из них были неправильно растолкованы. Причиной этому послужило использование следующих слов: черный, белый, атака, угроза. Все эти слова используются в шахматах.

Ранее мы рассказали, что WhatsApp наложит санкции на своих пользователей.