В издательствах рассказали об участии ИИ в проверке книг

В начале апреля глава издательства «Эксмо» Евгений Капьев рассказал СМИ о процедуре проверки книг на содержание запрещенного контента. По его словам, организация потратила большие средства на анализ книг, выходивших с 1990 года.

Проверку проводят в несколько этапов с участием искусственного интеллекта и специалистов. Произведения проверяют на наличие упоминания наркотиков, экстремизма и упоминания ЛГБТ в книгах («международное движение ЛГБТ» признано экстремистским и запрещено в России).

По словам главы издательства «Эксмо» Евгения Капьева, для осуществления этой работы используются самые дорогие и продвинутые ИИ-модели, которые обучены на судебной практике и действующих законах. Также специалисты следят за обновлениями официальных перечней запрещенных организаций и иноагентов.

Чтобы алгоритмы могли корректно проанализировать текст, его делят на фрагменты, которые и проверяет система. Искусственный интеллект выявляет потенциально проблемные места и делит их на категории по признакам экстремизма, упоминания наркотиков и сексуальному контенту. После этого из полученной информации ИИ исключает очевидные ложные срабатывания, а потом классифицирует нарушение. В «Эксмо» также добавили, что машина «не принимает окончательное решение» о результатах проверки.

В начале марта вице-президент Российского книжного союза Леонид Палько также рассказал о проверке книг на соответствие законодательству. В РКС этим вопросом занимаются профильные специалисты, а над одной экспертизой параллельно работают не менее двух экспертов, которые оценивают произведения исключительно на предмет нарушения законодательства, но никак не соприкасаются с анализом художественных критериев и качества сюжета. За последние два с половиной года на экспертизу в РКС представили 70 книг, при этом в 45 случаях за проверкой обратились сами издатели.