Политика модерации и отчетности

Последнее обновление: 5 июля 2026

AI72 модерация проводится не для наказания пользователей, а для поддержания безопасной, уважительной и основанной на согласии среды controlled introduction. Эта политика объясняет, как можно рассматривать отчеты, записи блокировок, сигналы безопасности, инструменты с поддержкой ИИ, проверку людьми/администраторами, сохранение доказательств и процессы обжалования.

1. Цель

AI72 может использоваться для защиты безопасности платформы, снижения риска злоупотреблений, соблюдения Условий использования и Правил сообщества, реагирования на пользовательские жалобы, решения вопросов незаконного контента и рисков безопасности, а при необходимости для помощи в поддержке и юридических процессах.

2. Философия умеренности

Пользователи AI72 могут использовать отчеты пользователей, записи блокировки, правила платформы, сигналы безопасности, автоматические инструменты, инструменты с поддержкой ИИ, поставщиков услуг и проверку человеком/администратором. Ни одна система не идеальна; вредоносный контент может пройти, безопасный контент может быть неправильно помечен или контекст может быть неправильно понят.

• Решения модерации могут варьироваться в зависимости от степени риска, доказательств, истории пользователя, повторного поведения, юридических обязательств и безопасности пользователей.
• Сообщение о нарушении автоматически не означает, что нарушение было обнаружено или что будет применено наказание.
• При серьезных рисках можно принимать меры быстрее или более решительно.

3. Что можно сообщить?

В AI72 можно сообщать о профиле, тексте профиля, фото профиля, медиа профиля, временном вступлении, постоянном чате, текстовом сообщении, голосовом сообщении, аудио, фото, видео, общей медиа, поведении при видеозвонках, мошенничестве с проверкой, поддельной камере, повторе/спуфинге, спаме, мошенничестве, требовании денег, домогательствах, угрозах, сексуальном контенте, риске для несовершеннолетних, поддельном профиле, выдаче за другого человека, дипфейке, злоупотреблении платформой и техническом злоупотреблении.

4. Кто может отчетность?

Пользователи могут сообщать о нарушениях, с которыми они сталкиваются во временном вступлении, постоянном чате, просмотре профиля, просмотре медиаконтента, Общих медиа, службе поддержки или потоках безопасности. Вывод AI может быть сообщён только в том случае, если существует реально доступная пользователю и подлежащая отчёту поверхность AI. AI72 также может получать сигналы безопасности из записей блокировок, запросов в службу поддержки, флагов админа, уведомлений поставщиков услуг, уведомлений платформы или действительных юридических требований.

5. Что делает блок, а что не делает?

Блок — это контроль границ и безопасности. В зависимости от контекста продукта блок может препятствовать отправке пользователем новых сообщений, предотвращать совпадение будущего временного введения, останавливать или ограничивать постоянное взаимодействие в чате, снижать видимость профиля и создавать сигнал для проверки безопасности.

• История блоков, отчеты, сообщения, медиа, журналы аудита или записи юридических/безопасностных доказательств не обязаны удаляться автоматически.
• Некоторые записи могут храниться для обеспечения безопасности, разрешения споров, выполнения юридических обязательств, аудита или предотвращения злоупотреблений.
• Блок не является экстренным вмешательством в случае угрозы; в случае острой опасности следует обратиться в местную службу экстренной помощи или к правоохранительным органам.

6. Поток модерации

Поток модерации может начинаться с отчета, блокировки, сигнала безопасности, запроса в службу поддержки, флага администратора или юридического запроса. Затем могут применяться шаги: очередь безопасности, сортировка, поддержка с использованием ИИ там, где это используется, проверка человеком/администратором там, где это уместно, принятие решения, уведомление пользователя там, где это уместно, пересмотр по апелляции/поддержке и хранение доказательств.

• Не каждый отчёт должен проходить через каждый мой шаг.
• Темы безопасности детей, эксплуатации, насилия, юридического запроса или серьезного насилия могут получить более быстрое эскалационное рассмотрение.
• Результат бездействия также может быть решением модерации.

7. Модерация с поддержкой ИИ

ИИ или автоматизированные системы могут быть полезны для приоритизации, проверки безопасности изображений/медиа, модерации профиля и медиа, поддержки перевода/транскрипции, сигналов о злоупотреблениях или в контексте рассмотрения жалоб. ИИ является помощником; окончательное решение всегда не принимает ИИ.

• ИИ может пропустить вредоносный контент или ошибочно пометить безопасный контент.
• ИИ может неправильно понять контекст, язык, юмор, культуру, согласие или намерение.
• AI72 не утверждает, что автоматически проверяет все чаты с помощью ИИ; отчеты и выбранные рабочие процессы с медиа/безопасностью могут быть проверены с использованием автоматизированных инструментов и ручной проверки.

8. Проверка человеком/администратором

Он может использоваться в таких случаях, как проверка несовершеннолетних для людей или администраторов, CSAM, груминг, сексуальная эксплуатация, мошенничество, насилие, угрозы, секс-шантаж, преследование, домогательства, фейковый профиль, имитация, мошенничество с верификацией, обзор СМИ, апелляции и юридические запросы.

• Проверка человеком может быть ограничена имеющимися доказательствами, конфиденциальностью, безопасностью, предотвращением злоупотреблений и применимым законодательством.
• Кроме уполномоченного персонала, ненужный или произвольный доступ не предусматривается.

9. Доказательства и хранение

Когда это отчет, блокировка, модераторское действие, запрос в поддержку, инцидент безопасности или юридический запрос, AI72 может сохранять соответствующие доказательства: текст/категория/временные метки отчета, идентификаторы аккаунтов, поля профиля/медиа, временные/постоянные метаданные чата, текст сообщений, голос/аудио/транскрипция/перевод/метаданные TTS, состояние доступа к медиа, пути хранения, статус/сигналы проверки, записи о блокировке, предыдущие меры воздействия, история апелляций, переписка с поддержкой, заметки админа, журналы аудита/устройства/безопасности/диагностики.

• Доказательства могут храниться для изучения отчетов, защиты пользователей, предотвращения повторного злоупотребления, оценки жалоб, управления процессом споров/юридическим процессом и ведения истории аудита.
• Доступ к доказательствам не должен предоставляться без необходимости; доступ должен быть ограничен авторизованными системами/лицами, которые имеют законную необходимость в безопасности, поддержке, юридических, охранных или комплаенс-вопросах.
• Сроки хранения зависят от Политики конфиденциальности, применимого законодательства, запроса на удаление, степени серьёзности, статуса апелляции и необходимости предотвращения злоупотреблений.

10. Модерация медиа

Фотографии профиля, медиа профиля, временные вступительные медиа, постоянные чат-медиа, общие медиа, голос, видео и соответствующие метаданные могут быть рассмотрены, когда они сообщены, отмечены флагом, становятся общедоступными/видимыми в профиле или попадают в сферу работы по безопасности.

• Медиа может быть переведено в состояние ожидания, разрешено, скрыто, отключено, помещено на карантин, ограничено, истекло, удалено или оставлено для проверки.
• Скрытые, удалённые, истёкшие, помещённые в карантин по жалобе, отключённые, ограниченные или удалённые медиа могут не отображаться в Общих медиа или в пользовательских представлениях.
• Состояние сессии доступа к медиа, правила продукта, подписанный доступ, состояние модерации, юридические обязательства и правила безопасности могут быть связаны с этим.

11. Политика для повторных нарушителей

AI72 может оценивать повторные отчеты, повторные блокировки, предыдущие предупреждения, предыдущие ограничения, попытки обхода запрета, сигналы связанных аккаунтов, серьезность, шаблон и контекст.

• Действия могут включать notice/warning, удаление контента, отключение медиа, ограничение видимости, ограничение функций, временную приостановку, постоянный бан, требование повторной проверки или предотвращение создания аккаунта в будущем.
• В случае серьезных угроз безопасности детей, CSAM, эксплуатации, достоверных угроз, торговли людьми, несогласованных интимных материалов, сэксторшена, мошенничества или юридических постановлений AI72 может принять более ранние или более жесткие меры.

12. Ложные сообщения

Отчёты должны быть сделаны с добрыми намерениями. Намеренно ложный отчёт, отчёт из мести, спам-отчёт, скоординированное сообщение, попытка заставить кого-то замолчать, ложное обвинение в отношении безопасности ребёнка, поддельные доказательства или манипуляции с системой модерации могут привести к наказанию.

13. Безопасность детей

AI72 предназначен только для пользователей старше 18 лет. Для CSAM, grooming, сексуализация несовершеннолетних, эксплуатация в прямом эфире, торговля людьми, поиск романтических/сексуальных контактов с несовершеннолетними или поведения, создающего риск для безопасности детей, применяется нулевая терпимость.

• AI72 может сохранять доказательства в случаях подозрения на несовершеннолетнего, CSAM, grooming, торговлю людьми или риски для безопасности детей, ограничивать функции, приостанавливать/прекращать аккаунт и при необходимости или по возможности делиться информацией с компетентными органами/организациями для отчетности.
• Пользователи должны сообщать, если они замечают подозрительный риск для несовершеннолетних или безопасность детей.

14. Насилие, шантаж, сексуальное насилие, ненависть и незаконная деятельность

Угрозы, вымогательство, шантаж, угроза местью в виде порнографии, сексуальное вымогательство, преследование, домогательства, ненависть, экстремистская деятельность, терроризм, незаконные товары/услуги, торговля людьми, сексуальная эксплуатация, несанкционированные интимные материалы, доxxинг, вторжение в личную жизнь, вредоносное ПО, фишинг, мошенничество и подобные действия могут привести к наказанию. В случае немедленной физической опасности следует обращаться в местные службы экстренной помощи или правоохранительные органы; AI72 не является экстренной службой.

15. Поведение вне платформы

Серьёзные действия преследования, шантажа, угроз, мошенничества, сталкинга, публикации материалов без согласия, угрозы безопасности детей или насилия, произошедшие за пределами AI72, но влияющие на пользователей AI72, безопасность платформы, целостность аккаунта или юридические обязательства, могут быть причиной модерации.

16. Апелляции

Если вы считаете, что решение по модерации, контенту, медиа, функции или аккаунту неверно, вы можете подать апелляцию через поддержку или, если есть, через встроенный путь апелляции в приложении. Апелляция может включать проверку человеком/администратором.

• Обжалование не означает, что содержимое будет восстановлено, функция будет включена или аккаунт будет повторно открыт.
• AI72 может не делиться некоторыми подробностями по причинам безопасности, конфиденциальности, противодействия злоупотреблениям или юридическим причинам.

17. Прозрачность и ограниченное раскрытие

AI72 может предоставить уведомление или объяснение, когда это уместно; однако из-за соображений безопасности репортера, безопасности детей, конфиденциальности, предотвращения злоупотреблений, мошенничества, безопасности, юридических обязательств или чувствительности правоохранительных органов некоторые решения модерации могут быть не полностью раскрыты.

18. Правоохранительные органы и юридические запросы

Когда действует применимое право AI72, действительные юридические процедуры, правила раскрытия в чрезвычайных ситуациях, обязательства по защите детей или требования по защите прав/безопасности, AI72 может хранить, раскрывать или передавать соответствующие записи. Данные AI72 не делятся со всеми просто по запросу; запросы могут оцениваться с точки зрения действительности, полномочий, объема и юридической основы.

19. Что не гарантирует AI72?

AI72 не гарантирует выявление каждого мошенничества, поддельного профиля, несовершеннолетнего пользователя, оскорбительного пользователя, вредоносного сообщения, небезопасных медиа, модели преследования или нарушения закона. Каждый отчет может быть неверным, каждое решение модерации не безупречно, не каждое обжалование будет успешным, и каждый вредоносный пользователь может быть удален не сразу.

20. Приложенные документы

Эта политика должна читаться вместе с Условиями использования, Политикой конфиденциальности, Правилами сообщества, Центром безопасности, Разъяснением по ИИ и автоматической обработке, Удалением аккаунта и данных, Уведомлениями и действиями в чате, Безопасностью данных и разрешениями, а также с документами поддержки.