ИИ и книги: а судьи кто?

политологПавел Данилин

Случай с книгой Драгунского показал, что искусственный интеллект уже проверяет тексты на соответствие законам. Но что происходит, когда алгоритм, обученный на чужой культуре, начинает определять, где пропаганда, а где нет? Политолог, доцент Финансового университета при правительстве РФ Павел Данилин объясняет, почему курьёзный кейс может стать симптомом широкой проблемы, зачем нужна проверка человеком и почему многие известные авторы рискуют попасть под каток цензуры ИИ. 

Что произошло с книгой Драгунского и при чем здесь ИИ? 

— В случае с Драгунским речь, очевидно, идёт не о цензуре, а об использовании искусственного интеллекта для проверки содержания книги. Я, честно говоря, не уверен, какой именно ИИ использовали в издательстве «Эксмо» для прогонки тех или иных книг. Но здесь был искусственный интеллект, «выращенный» на американской культуре — на американских скриптах через американских тренеров. 

Искусственный интеллект, как известно, тренируется. И, судя по всему, в данном случае применялся достаточно слабый ИИ, потому что произошёл плохой перевод. На самом деле качественный ИИ редко ошибается, ошибки — это скорее исключение. Но надо понимать, что для машин это абсолютная норма. По сути, произошёл просто курьёзный кейс. 

Почему этот курьёзный случай может свидетельствовать о куда более серьезной проблеме? 

— Проблема шире, чем кажется на первый взгляд. Искусственный интеллект получает право не просто указывать на ошибки, а фактически определять, что считается нарушением.  

В нашем случае текст книги загнали в ИИ, и он выдал ответ: здесь, здесь и здесь нарушение закона о пропаганде наркотиков. 

Что будет дальше? Кто-то должен принять решение: считать это нарушением или нет. Но будет ли это делать человек тщательно? Может, нет. Может просто сказать: «А, всё, считаем пропагандой наркотиков» и поставить крест. 

Вопрос не в том, что ИИ вынес решение. Вопрос в том, что это решение может стать правилом, основанием для отказа в печати книги и так далее. 

Как можно избежать подобных ситуаций в будущем?  

— Автоматическая проверка обязательно должна сопровождаться проверкой человеком. И она должна давать возможность для апелляции. В противном случае авторы будут вынуждены сами «цензурировать» свои тексты, прогоняя их через ИИ, чтобы понять, где что можно публиковать, а где нет. 

Если это не будет работать, есть риск, что даже такие крупные авторы, как Великий Пелевин, просто не увидят свет.

Павел Данилин, политолог, доцент Финансового университета при Правительстве РФ.

#ПавелДанилин