Бан за 'сына цыгана': как искусственный интеллект FACEIT выучил португальский и опозорился
Про-игрока CS2 Паулу Силву заблокировали на 7 дней за расистские высказывания. Единственный нюанс - он их никогда не говорил. История о том, как автоматическая модерация может превратить любого в преступника.
Представьте себе: вы играете в CS2, общаетесь с командой на родном языке, а на следующее утро просыпаетесь... расистом. По крайней мере, так решил всемогущий искусственный интеллект платформы FACEIT, влепив бан на 7 дней португальскому игроку Паулу "pr" Силве из команды Fuzos.
Причиной стала фраза, которую система, очевидно, переводила через худший онлайн-переводчик в мире. Автоматический модератор услышал в португальском языке что-то похожее на "Speak russian, you son of a gypsy" ("Общайся на русском, сын цыгана"). Звучит ужасно, правда? Вот только сам Паулу, мягко говоря, был шокирован, ведь ничего подобного он не говорил и не писал.
Игрок не стал молчать и разразился праведным гневом. "Меня забанили на 7 дней за слова, которые я даже не произносил и нигде не писал. Как FACEIT может банить без проверки конкретного матча? Стыдно, что такая большая платформа имеет такие недостатки", - написал он, предоставив доказательства своей невиновности.
Что ж, эта история - отличное напоминание, что даже в мире киберспорта большой брат с искусственным интеллектом может ошибаться. Иногда - очень эпично. Остается надеяться, что в FACEIT проведут работу над ошибками и, возможно, наймут на работу хотя бы одного модератора, знающего португальский. Или хотя бы не будут доверять слепо своему "умному" боту, который видит расизм там, где его и близко нет.