В России могут запретить сервисам манипулировать пользователями с помощью ИИ
Разработчики ИИ будут контролировать, чтобы нейросети не манипулировали пользователем
Согласно проекту документа, компании, создающие и внедряющие системы искусственного интеллекта, должны предупреждать пользователей о недопустимости использования таких технологий для манипуляции поведением человека. Речь идёт о применении психологических, возрастных или социально-экономических особенностей людей для воздействия на них.
Как отмечают эксперты, на которых ссылаются «Известия», ответственность в этом случае будет лежать на разработчиках и владельцах сервисов, использующих ИИ. Именно они должны обеспечить, чтобы алгоритмы не подталкивали пользователей к действиям, на которые те не решились бы без скрытого давления.
ИИ может манипулировать пользователем с помощью сообщений или элементов интерфейса
Специалисты, опрошенные «Известиями», отмечают, что современные системы искусственного интеллекта могут значительно усиливать влияние цифровых сервисов на поведение людей. Алгоритмы анализируют большие массивы данных и формируют персонализированные рекомендации, повышая вероятность нужного действия.
Такие механизмы широко используются в рекламных технологиях, рекомендательных сервисах, онлайн-торговле и чат-ботах. Например, сервисы могут подбирать сообщения или элементы интерфейса так, чтобы вызвать у пользователя чувство срочности или доверия.
Соблюдать запрет будет трудно — количество сценариев общения почти не ограничено
Часть экспертов, опрошенных «Известиями», считает, что полностью запретить манипуляции с помощью нейросетей будет сложно. Поведение ИИ зависит от используемых моделей и контекста диалога, а число возможных сценариев общения практически не ограничено, поэтому заранее предусмотреть все потенциальные ситуации невозможно.
Кроме того, слишком жёсткое регулирование может затронуть и полезные рекомендательные алгоритмы. Такие системы помогают пользователям находить нужные товары, фильмы или услуги, упрощая выбор и навигацию по контенту.
Развитие ИИ — приоритетное направление для Минцифры
В Минцифры уточнили «Известиям», что законопроект находится на стадии обсуждения с другими ведомствами и его финальная редакция еще не утверждена. В ведомстве подчеркнули, что развитие технологий искусственного интеллекта остается одним из приоритетных направлений, однако их использование должно происходить с соблюдением прав и интересов граждан.
Например, в рамках обсуждения отечественных разработчиков ИИ собирались обязать раскрывать информацию о данных, на которых они обучают и тестируют модели.
