ИИ разработан специалистами из FACEIT, а называется он Minerva. Система анализирует текстовые сообщения игроков в чате, распознает оскорбления и выдаёт геймеру сначала предупреждение, а при обнаружении повторного нарушения, просто банит его.
Таким образом ИИ за первые полтора месяца работы уже определил 7 миллионов токсичных сообщений, выдал 90 тысяч предупреждений и заблокировал 20 тысяч игроков. В целом же, Minerva позволила на 20% сократить количество желающих писать оскорбления 😉
По словам разработчиков, ИИ будет постепенно улучшаться. В перспективе он сможет выполнять свои функции в режиме реального времени.