Ютуб заблокировал шахматный канал, заподозрив его в расизме. В США расследовали глюк
Ученые университета Карнеги Меллон провели исследование глюка искусственного интеллекта (ИИ) ютуба.
28 июня 2020 года ютуб-канал agadmator’s Chess Channel (свыше 1 млн подписчиков) хорватского шахматиста Антонио Радича был заблокирован без конкретно указанных причин во время шахматного шоу с гроссмейстером Хикару Накамурой.
Канал Радича был восстановлен через 24 часа. Накамура предположил, что его временно забанили за ссылку «черные против белых», хотя в то время он говорил о шахматах.
В университете Карнеги Меллон провели расследование по этому поводу.
Они проверили вручную выборку из 1000 комментариев, которые ИИ классифицировал как хейтспич (буквально, язык вражды – прим.), и обнаружили, что 82% из них были неверно истолкованы из-за использования таких слов, как «черный», «белый», «нападение» и «угроза» – все они обычно используются в шахматах.
Отмечается, что результаты исследования были представлены в феврале 2021 года на ежегодной конференции Ассоциации содействия развитию искусственного интеллекта.