Издательство "Эксмо" использует искусственный интеллект для проверки книг на наличие упоминаний о наркотиках, экстремизме, иноагентах и другой запрещенной информации. Это утверждение сделал РИА Новости генеральный директор издательства Евгений Капьев.

Он пояснил, что разработанная система анализирует тексты на нескольких уровнях, чтобы исключить опасный контент.

Капьев уточнил, что система базируется на многоуровневой архитектуре и задействует разнообразные программные агенты, что позволяет добиться высокой точности выявления нарушений. На начальном этапе текста делится на небольшие фрагменты для обработки. Эти фрагменты затем направляются трем независимым агентам первого уровня, каждый из которых имеет свою узкую специализацию:

• секс
• наркотики
• экстремизм

Кроме того, система включает агентов, отслеживающих упоминания:

• иноагентов
• запрещенных организаций
• педофилию
• чайлдфри*
• ЛГБТ*
• дискредитацию армии
• ненормативную лексику

Последующие результаты проходят через агента второго уровня, который устраняет очевидно ложные срабатывания. Оставшиеся случаи направляются на третий уровень анализа, где используются самые передовые модели, обученные действующим законам и судебной практике.

Как отметил Капьев, этот уровень классифицирует нарушение.

Отметим, что итоговое решение принимает не машина. Задача системы состоит в том, чтобы исключить безопасный контент и передать все потенциально рискованные случаи на дальнейшую проверку живым редактором, подчеркнул Капьев.