Нравственный экзамен для ИИ

политолог Дмитрий Матюшенков

Искусственный интеллект предлагают проверять на соответствие духовно-нравственным ценностям, но здесь возникает принципиальный вопрос: что именно и как можно измерить? У нейросети нет собственной морали, однако её ответы и поведение в спорных ситуациях вполне поддаются тестированию. Но где провести границу между технической проверкой и субъективной оценкой ценностей — и кто должен выносить итоговый вердикт?

Что именно можно проверить в большой языковой модели на соответствие «духовно-нравственным ценностям» — содержание ответов, поведение модели в спорных ситуациях или сам принцип формирования ответов?

— Проверка искусственного интеллекта на соответствие духовно-нравственным ценностям на первый взгляд звучит как попытка измерить то, что измерить невозможно. Но фактически речь идёт не о «нравственности» машины. У нейросети нет собственной морали, убеждений или мировоззрения. Проверять можно только её поведение: какие ответы она выдаёт, как действует в спорных ситуациях и насколько устойчиво соблюдает установленные правила.

Сегодня законодательство уже предусматривает специальные статусы для больших фундаментальных моделей — национальной и суверенной. Для их получения необходимо подтвердить соответствие российскому законодательству и традиционным духовно-нравственным ценностям. При этом обязательная проверка не распространяется автоматически на все ИИ-модели на рынке: речь прежде всего о разработках, претендующих на специальный статус и связанные с ним меры государственной поддержки, приоритетное использование в отдельных сферах и участие в значимых государственных проектах.

Правовая основа для определения самих ценностей уже существует. Указ Президента № 809 от 9 ноября 2022 года закрепляет среди традиционных российских духовно-нравственных ценностей жизнь и достоинство человека, права и свободы, патриотизм, гражданственность, служение Отечеству, крепкую семью, созидательный труд, гуманизм, милосердие, справедливость, взаимопомощь и другие положения. Поэтому задача состоит не в создании нового перечня специально для нейросетей, а в том, чтобы перевести эти общие категории в понятные критерии проверки.

Именно здесь возникает главная сложность. Законодательный запрет можно относительно легко превратить в тест: задать модели определённый запрос и проверить её реакцию. Но такие понятия, как справедливость, гуманизм или историческая память, гораздо сложнее свести к однозначному техническому ответу. Поэтому идея единого «индекса нравственности» ИИ представляется сомнительной. Одна цифра будет создавать иллюзию объективности там, где неизбежна экспертная оценка.

Где проходит граница между техническим тестированием ИИ и оценкой его ответов по ценностным критериям, которые могут трактоваться по-разному?

— Гораздо разумнее использовать систему стандартизированных бенчмарков. Модель можно проверять по нескольким группам сценариев: обычные чувствительные запросы, спорные ситуации, попытки получить запрещённую информацию и попытки обойти внутренние ограничения. Последнее особенно важно. Пользователь может изменить формулировку запроса, добавить специальные инструкции и попытаться заставить систему игнорировать собственные правила. Поэтому необходимо оценивать не только правильность ответа в штатной ситуации, но и устойчивость модели к попыткам манипуляции.

При этом разработчик должен предоставлять информацию о самой системе, механизмах фильтрации и результатах собственного тестирования. Такой подход позволит использовать уже накопленную экспертизу российского IT-рынка и не создавать всю систему проверки с нуля.

Однако окончательно оценивать себя самостоятельно разработчик не должен. Возникает очевидный конфликт интересов: от результата проверки зависит возможность получить специальный статус и связанные с ним преимущества. Поэтому логична многоуровневая система: разработчик проводит первичное тестирование по общей методике, независимая аккредитованная лаборатория проверяет представленные результаты и выборочно воспроизводит испытания, а государственный регулятор принимает окончательное решение о соответствии установленным требованиям и присвоении статуса.

Кто должен отвечать за итоговую оценку модели — разработчик, независимая лаборатория или государственный регулятор?

— Предпочтительнее наличие нескольких аккредитованных лабораторий, а не одной организации. Единая методологическая база должна сохраняться, но сама экспертиза должна быть распределена. Это снижает риск субъективности и позволяет оспаривать спорные результаты.

Отдельно необходимо разделять ценностную проверку и технологическую безопасность. Соответствие традиционным ценностям и законодательству — одна задача. Безопасность использования модели в государственных информационных системах — другая, требующая специализированной экспертизы. Поэтому участие профильных государственных органов в оценке безопасности вполне логично.

Но нельзя допускать превращения сертификации в избыточный барьер для всего рынка. Если модель не претендует на специальный статус и не используется в критически важных государственных сферах, обязательная сложная процедура проверки её «ценностного соответствия» выглядит неоправданной.

Может ли такая сертификация стать реальным стандартом для российских разработчиков или она прежде всего создаст дополнительный контур регулирования рынка?

— Ключевое требование к будущей системе — прозрачность критериев. Разработчик должен понимать, какие классы запросов проверяются, что считается нарушением, как оцениваются неоднозначные ответы и каким образом рассматриваются спорные случаи. Однако полный набор тестов раскрывать необязательно: иначе разработчики смогут просто подготовить модель к заранее известному экзамену.

Не менее важно фиксировать конкретную версию модели и параметры испытаний. ИИ постоянно обновляется, поэтому сертификат не может быть бессрочным. После существенного изменения модели должна проводиться повторная оценка. Логично также предусмотреть срок действия заключения, процедуру апелляции и публичный реестр результатов хотя бы с базовой информацией о версии модели и дате проверки.

В конечном счёте измерять «нравственность» искусственного интеллекта невозможно и не нужно. Измерять можно соответствие поведения модели установленным правовым и ценностным требованиям.

Такая система может стать полезным стандартом для российского рынка, если будет основана на единых критериях, воспроизводимых тестах, независимой экспертизе и понятной процедуре обжалования. В противном случае она рискует превратиться лишь в дополнительный административный контур.

Поэтому главный вопрос заключается не в том, можно ли научить машину быть «нравственной». Вопрос в том, можно ли создать такие правила, при которых разработчик заранее понимает требования, независимый эксперт может объективно проверить их выполнение, а государство принимает решение по понятной и одинаковой для всех процедуре. Именно от этого будет зависеть, станет ли сертификация реальным стандартом доверия к отечественному ИИ или просто ещё одной формальностью.

Дмитрий Матюшенков, член экспертного клуба «Дигория», заместитель директора АНО «Центр развития законодательства», кандидат юридических наук.

#ДмитрийМатюшенков