Дэдботы и цифровое наследие

медиатехнологЕкатерина Набатникова

Технологии искусственного интеллекта уже позволяют создавать цифровые копии умерших людей, способные воспроизводить голос, манеру общения и даже поддерживать диалог. Одни считают такие сервисы новым способом сохранить память о близких, другие предупреждают о рисках эмоциональной зависимости и подмены процесса проживания утраты. Где проходит граница между поддержкой и иллюзией продолжения жизни, и почему развитие подобных технологий требует не только технических, но и этических и правовых ограничений? На эти вопросы «Актуальным комментариям» ответила медиатехнолог, директор по развитию Корпорации AIR и членом ЭК «Дигория» Екатерина Набатникова.

Сегодня искусственный интеллект позволяет создавать цифровые копии умерших людей, способные поддерживать разговор и имитировать привычное общение. Где проходит граница между психологической помощью человеку и опасной подменой реальности?

— Технологии создания «цифровых двойников» умерших действительно ставят нас на границу между поддержкой и подменой реальности. Психологическая помощь возможна там, где ИИ используется как инструмент бережного прощания, осмысления памяти, сохранения семейной истории. Опасность начинается в тот момент, когда человек перестает воспринимать такой сервис как архив, реконструкцию или символическую форму контакта и начинает эмоционально переживать его как «продолжение жизни» умершего. Тогда ИИ не помогает прожить утрату, а консервирует отрицание смерти.

Насколько подобные технологии действительно способны облегчить переживание утраты, а в каких случаях они, наоборот, могут затянуть процесс проживания горя и сформировать эмоциональную зависимость?

— Облегчить горе такие технологии могут в очень ограниченных сценариях: например, как способ сохранить голос, интонации, воспоминания, семейные рассказы. Для части людей это может стать элементом ритуала памяти. Но при острой утрате, нестабильном эмоциональном состоянии, склонности к зависимости, депрессии или сложном горевании «дэдбот» может затянуть процесс принятия потери. Человек получает иллюзию доступности умершего и может откладывать естественную работу горя — признание необратимости утраты, перестройку повседневности, возвращение к собственной жизни.

Возникает и серьезный этический вопрос: кому принадлежат цифровые данные человека после его смерти и кто должен принимать решение о создании подобных виртуальных копий?

— Отдельно стоит вопрос согласия и цифрового наследия. На мой взгляд, данные человека после смерти не должны автоматически становиться материалом для создания его виртуальной копии. Ключевой принцип здесь — прижизненное информированное согласие. Если человек прямо не разрешал использовать свои переписки, фото, голос и образ для посмертной цифровой реконструкции, такое решение не должно приниматься родственниками или платформами по умолчанию. Иначе возникает риск не только нарушения достоинства умершего, но и коммерциализации памяти.

По мере развития генеративного ИИ подобные сервисы, вероятно, будут становиться все доступнее. Нуждается ли эта сфера в отдельном регулировании и какие принципы, на ваш взгляд, должны лежать в его основе?

— Эта сфера, безусловно, требует отдельного регулирования. В его основе должны быть несколько принципов: приоритет человеческого достоинства, обязательное прижизненное согласие, прозрачная маркировка ИИ-копии как симуляции, возрастные и психологические ограничения для пользователей, а также запрет на манипулятивные сценарии монетизации горя. Чем реалистичнее становятся такие сервисы, тем важнее не только технологические возможности, но и этические границы их применения.

Екатерина Набатникова, медиатехнолог, член Экспертного клуба «Дигория», директор по развитию Корпорации AIR.

#ЕкатеринаНабатникова