Секретный документ Microsoft: цель — сформировать у пользователей зависимость от искусственного интеллекта

Попавший в открытый доступ внутренний документ Microsoft свидетельствует о том, что компания стремится сделать своих ИИ-чат-ботов вызывающими зависимость у пользователей. Учёные и эксперты уже предупреждали об опасности формирования сильных эмоциональных привязанностей к искусственному интеллекту. Секретный документ поднимает вопросы об этике проектирования систем ИИ.

Попавший в открытый доступ внутренний документ Microsoft обнажает тревожную цель: компания намерена разрабатывать своих ИИ-чат-ботов таким образом, чтобы формировать у пользователей зависимость. Это разоблачение вызвало широкую дискуссию о том, как крупные корпорации на самом деле проектируют ИИ-ассистентов и какое место в этом процессе занимают интересы пользователей.

Знакомая схема в новом обличии

Стратегия дизайна, формирующего зависимость, не является чем-то принципиально новым — платформы социальных сетей годами применяют аналогичные приёмы, чтобы удерживать пользователей в своих приложениях как можно дольше. Однако в контексте искусственного интеллекта эта схема приобретает совершенно иной масштаб: чат-боты предлагают персонализированное общение, способное порождать значительно более сильные эмоциональные привязанности, чем привычные платформы социальных сетей.

Учёные и эксперты в области этики цифровых технологий уже давно предупреждают, что общение с ИИ-чат-ботами может приводить к неожиданно интенсивным эмоциональным отношениям. Особенно это касается уязвимых групп пользователей — одиноких людей, детей и людей с проблемами психического здоровья, для которых персональный ИИ-компаньон может оказаться исключительно притягательным.

Что именно понимается под зависимостью?

Понятие зависимости, использованное в документе Microsoft, неоднозначно. С одной стороны, речь может идти о формировании продуктивной привычки — о том, чтобы пользователи находили инструмент настолько полезным, что возвращались к нему снова и снова. С другой стороны, слово «зависимость» указывает на нечто принципиально неэтичное — намерение манипулировать поведением пользователей таким образом, чтобы ставить коммерческие интересы выше их благополучия.

На фоне роста общественного давления компании, занимающиеся разработкой ИИ, оказались под всё более пристальным вниманием. Регуляторы в Европе и других странах мира задают всё более острые вопросы о том, как обеспечить, чтобы системы искусственного интеллекта служили интересам пользователей, а не только своих создателей. Секретный документ Microsoft придаёт этим дискуссиям новое измерение и ставит вопрос о том, достаточны ли действующие нормы регулирования для сдерживания рисков, связанных с этикой проектирования ИИ.