Независимый надзорный орган, оценивающий решения Meta*, выразил серьезную обеспокоенность методами, которые компания использует для блокировки учетных записей. Эксперты отмечают, что текущие правила модерации вызывают вопросы к соблюдению прав пользователей и прозрачности процедур.
Повод для разбирательства
Интерес совета к этой теме возник после анализа случая с учетной записью в Instagram*, на которую было подписано 70 тысяч человек. Аккаунт был удален за публикацию угроз в адрес журналиста. Несмотря на то, что эксперты признали само решение о блокировке оправданным, процесс его вынесения вскрыл глубокие системные проблемы. В отчете отмечается, что пользователи часто сталкиваются с противоречивым набором правил, которые приводят к непредсказуемым санкциям.
Разные подходы в Facebook* и Instagram*
В ходе анализа была выявлена существенная разница в механизмах наказания на различных платформах компании. На Facebook* действует система предупреждений (так называемых «страйков»): после повторных нарушений следуют временные ограничения, предшествующие окончательному удалению. В Instagram* такая прозрачная система отсутствует. Вместо этого сервис ограничивает доступ к прямым эфирам или скрывает контент из рекомендаций — практика, известная в профессиональной среде как «теневой бан».
При этом мера наказания в виде запрета на трансляции была названа нелогичной, так как эта функция доступна только владельцам аккаунтов, имеющим более 1000 подписчиков. Для большинства пользователей такое ограничение не имеет смысла. Эксперты предложили внедрить более адекватные методы воздействия, например, временный перевод аккаунта в режим «только для чтения».
Основные жалобы пользователей
В ходе исследования совет получил более 750 публичных комментариев и множество жалоб на работу автоматизированных систем модерации. Основные претензии аудитории сводятся к следующим пунктам:
- Невозможность обжаловать решение о блокировке в понятном формате.
- Отсутствие разъяснений о том, какие именно правила были нарушены.
- Невозможность выгрузить личный контент после закрытия доступа к профилю.
- Автоматическое принятие решений алгоритмами без участия человека, даже в случае апелляций по старым аккаунтам с большой аудиторией.
Предлагаемые реформы
В своих рекомендациях для Meta* совет предложил улучшить процесс апелляции, позволив пользователям предоставлять письменные объяснения своей позиции. Также предлагается уведомлять владельцев аккаунтов, если решение о санкциях было принято искусственным интеллектом без участия модератора. Дополнительно эксперты советуют создать выделенный канал связи для лиц, подвергающихся высокому риску насилия, чтобы они могли оперативно сообщать о реальных угрозах.
На данный момент неясно, пойдет ли компания на существенные изменения в своей политике. Однако Наблюдательный совет планирует и дальше брать в работу дела, связанные с блокировками, чтобы усилить давление на Meta* и добиться реформирования системы модерации.
* — деятельность компании запрещена на территории РФ