Черные против белых: YouTube случайно забанил шахматный канал из-за «расизма»

Фото: istockphoto.com
Фото: istockphoto.com

Алгоритмы посчитали слова «черный», «белый», «нападение» и «угроза» языком вражды.

Платформа YouTube случайно заблокировала шахматный канал из-за «расизма», потому что там в комментариях активно обсуждалось «противостояние» черных и белых фигур. Об этом пишет Independent.

Компьютерные специалисты из Университета Карнеги-Меллона начали расследовать сбой в работе искусственного интеллекта, который был сбит с толку дискуссиями шахматистов.

Популярный шахматный канал на YouTube с 1 млн подписчиков был заблокирован за «вредный и опасный» контент еще в июне 2020 года. Через 24 часа в ситуации разобрались и разблокировали ресурс. Канал ведет хорватский шахматист Антонио Радич, известный под псевдонимом Agadmator.

Эксперты считают, что система модерации YouTube была недостаточно обучена, чтобы правильно понимать контекст комментариев. Проверив вручную выборку из 1000 комментариев, которые ИИ классифицировал как язык вражды, они обнаружили, что 82% сообщений были классифицированы неправильно из-за использования таких слов, как «черный», «белый», «нападение» и «угроза» — все они обычно используются в шахматном языке.

В 2021 году американское движение Black Lives Matter («Жизни темнокожих имеют значение»), выступающее против расизма и полицейского насилия в отношении афроамериканцев, выдвинули на Нобелевскую премию мира.

$readalso[$i]->imageAlt
РАЗБОР ПОЛЕТОВ

У Саакашвили заявили, что власти Грузии готовят его «ликвидацию»

$readalso[$i]->imageAlt
РАЗБОР ПОЛЕТОВ

В Кремле впервые признали, что не смогут воспрепятствовать вступлению Украины в НАТО, а Госдеп США отнес россиян к «бездомным национальностям»

$readalso[$i]->imageAlt
НОВОСТИ

В Колумбии задержали самого разыскиваемого наркобарона Дайро Усугу

$readalso[$i]->imageAlt
РАЗБОР ПОЛЕТОВ

Доклад разведки США: кто и с кем может воевать из-за изменений климата

$readalso[$i]->imageAlt
НОВОСТИ

На Украину надвигается мощный арктический циклон

$readalso[$i]->imageAlt
РАЗБОР ПОЛЕТОВ

На съемочной площадке, где Алек Болдуин застрелил оператора, уже были инциденты с оружием

$readalso[$i]->imageAlt
РАЗБОР ПОЛЕТОВ

У самки белого носорога больше не будет детей. Таких носорогов осталось всего два в мире

НОВОСТИ

«Не могу передать, как я шокирован»: Алек Болдуин прокомментировал несчастный случай на съемках фильма

РАЗБОР ПОЛЕТОВ

Лев Парнас признан виновным в незаконном финансировании выборов в США

$readalso[$i]->imageAlt
НОВОСТИ

МОЗ согласовало увеличение списка профессий с обязательной вакцинацией

$readalso[$i]->imageAlt
РАЗБОР ПОЛЕТОВ

Новые вопросы в деле Габби Петито: жениха подозревали в преступлении, а теперь нашли его останки