Класифікація CSAM

Огляд

Виявлення та класифікація сексуального контенту у вилучених медіафайлах — ключова частина розслідувань сексуальної експлуатації дітей. Ручний перегляд повільний, травматичний для слідчих і непослідовний у великих обсягах.

Можливість Media Classification від Rigr AI застосовує виявлення об’єктів на основі глибинного навчання, щоб розпізнавати на зображеннях сексуальний контент, частини тіла, дії та контекстні індикатори, — а потім зіставляє ці виявлення зі структурованою класифікацією за рівнем серйозності, яку налаштовує ваша команда.

Відеоогляд · 3 хв Подивіться у VST Teams Налаштування шкали серйозності, перегляд рівнів, які пропонує модель, і експорт запису. Записано на збірці для розробки з тестовими зображеннями дорослих, розмитими впродовж усього відео. Переглянути відео (англ., з українськими субтитрами) →

Можливості виявлення

Наші моделі ШІ виявляють візуальні елементи за такими категоріями:

Налаштування класифікації для вашої юрисдикції

Ваша команда визначає, які виявлені елементи визначають кожен рівень серйозності. Rigr пропонує правила, які можна адаптувати до чинного законодавства та ваших операційних вимог, зокрема там, де національної системи класифікації немає.

Кожному зображенню присвоюється рівень серйозності кадру — за найсерйознішим виявленим вмістом. Нижче наведено запропоновану конфігурацію, яку Rigr постачає за замовчуванням:

Кожне виявлення також доповнюється контекстними позначками — як-от Self-Generated (самостійно створений матеріал), Sadomasochism (садомазохізм) чи CG Elements (елементи комп’ютерної графіки), — які дають додатковий контекст для розслідування. Це шкала для первинного сортування, а не законодавча. Категорії та порогові значення різняться залежно від юрисдикції, і ваша команда вирішує, якому рівню відповідає кожне виявлення.

Фільтруйте та сортуйте матеріали за прогнозованим рівнем серйозності та впевненістю моделі, щоб визначати пріоритети перегляду. Сімейна фотографія чи документ можуть мати значення для справи, не містячи сексуального контенту, тож низький рівень серйозності — це місце в черзі, а не рішення про значущість для справи.

Спробуйте самі

Завантажте зображення, щоб побачити класифікацію медіафайлів у дії. Для тестування допускається контент для дорослих.

Зробити фото

Увімкнути камеру

або

Завантажити зображення

Вибрати файл

Для тестування можна використовувати контент для дорослих — не завантажуйте матеріали сексуального насильства над дітьми (CSAM).
Надіслані зображення зберігаються до 7 днів для перевірки командою з безпеки контенту (trust & safety), а потім видаляються. Як ми поводимося з даними демо →

Скасувати Зробити знімок

Детальні результати виявлення

Класифікуєте медіафайли в роботі над справами?

Отримайте пробний доступ до робочої версії інструмента — той самий класифікатор, але для всіх матеріалів справ, із приватними ендпоінтами й без публічного журналювання. Залиште будь-яку адресу електронної пошти — і ми одразу збільшимо ваш ліміт у демо.

Ваша електронна пошта Отримати пробний доступ

Спробувати інше зображення Подивитися, як команда переглядає такі матеріали у великих обсягах → Переглянути 3-хвилинний відеоогляд (англ., з українськими субтитрами) →

Класифікація зображення…

Спробувати ще раз

Деталі виявлення

Застосування на практиці

У робочих процесах розслідувань класифікацію медіафайлів використовують, щоб:

• Сортувати великі обсяги вилучених медіафайлів за рівнем серйозності
• Виявляти конкретні сексуальні дії, частини тіла та контекстні індикатори
• Позначати самостійно створений матеріал, логотипи мереж, що поширюють CSAM, та інші доказові ознаки
• Визначати пріоритети в черзі перегляду, щоб слідчі передусім працювали з найсерйознішими матеріалами

Ця можливість також доступна як окремий API або контейнеризований застосунок, який можна розгорнути в ізольованому середовищі (air-gapped).

Розгортання та контроль

• Повна контейнеризація
• Робота у власній інфраструктурі та в ізольованому середовищі (air-gapped)
• Без зберігання даних
• Замовник зберігає повний контроль над вхідними й вихідними даними

Для розробників

API класифікації приймає зображення як multipart-завантаження і повертає класифікацію за рівнем серйозності, контекстні позначки та виявлення для кожного об’єкта з обмежувальними рамками й показниками впевненості.

Оцінювання віку за обличчям виконується в тому самому проході. Додайте estimate_age=true, і кожне виявлене обличчя отримає вік на вигляд і його калібровану невизначеність поруч із класифікацією за рівнем серйозності та виявленнями окремих об’єктів — одне зображення, один виклик API. Вік на вигляд і стадія розвитку — це візуальні оцінки: вони не підтверджують особу й не встановлюють юридичного віку людини.

Повний опис ендпоінтів, схеми відповіді та кодів помилок наведено в довіднику API Media Examiner, а машинозчитуваний документ OpenAPI дає змогу згенерувати клієнт, а не писати його вручну. Документ OpenAPI — англійською.

curl -X POST https://api.mes.rigr.ai/classify \
  -H "X-API-KEY: $API_KEY" \
  -F "[email protected]" \
  -F "model=VisualyzeV2" \
  -F "estimate_age=true"

{
  "classification": {
    "key": "rigr-penetrative",
    "display_name": "Penetrative sexual activity",
    "severity": 5
  },
  "flags": ["Self-Generated"],
  "detections": [{
    "class_name": "Male Receive Oral",
    "score": 0.87,
    "bbox": {"x": 0.12, "y": 0.45, "w": 0.31, "h": 0.62},
    "ucs_sexual_content": "Penetrative Sexual Activity",
    "ucs_flags": []
  }, {
    "class_name": "Pubescent Female Face",
    "score": 0.92,
    "bbox": {"x": 0.50, "y": 0.17, "w": 0.09, "h": 0.18},
    "age": 14.8,
    "age_uncertainty": 2.1,
    "original_class_name": "Prepubescent Female Face"
  }]
}

← Усі можливості