Klasyfikacja CSAM

Przegląd

Wykrywanie i klasyfikacja treści seksualnych w zabezpieczonych multimediach to podstawa postępowań dotyczących seksualnego wykorzystywania dzieci. Ręczny przegląd jest powolny, traumatyzujący dla funkcjonariuszy, a przy dużej skali trudno w nim zachować spójność ocen.

Funkcja klasyfikacji multimediów Rigr AI wykorzystuje detekcję obiektów opartą na głębokim uczeniu do wykrywania na obrazach treści seksualnych, części ciała, czynności i wskaźników kontekstowych, a następnie przyporządkowuje wykryte elementy do ustrukturyzowanej skali drastyczności, którą konfiguruje Państwa zespół.

Wideo · 3 min Jak to wygląda w VST Teams Ustawienie skali drastyczności, przegląd stopni proponowanych przez model i eksport raportu. Nagrane na wersji rozwojowej z użyciem testowych zdjęć osób dorosłych, rozmytych przez cały czas. Obejrzyj wideo (po angielsku, z napisami) →

Zakres detekcji

Nasze modele AI wykrywają elementy wizualne w następujących kategoriach:

Konfiguracja klasyfikacji dla danej jurysdykcji

To Państwa zespół decyduje, które wykryte elementy prowadzą do poszczególnych stopni drastyczności. Rigr dostarcza sugerowane reguły, które można dostosować do obowiązujących przepisów i potrzeb operacyjnych — także tam, gdzie nie obowiązuje żaden krajowy system klasyfikacji.

Każdemu obrazowi przypisywany jest stopień drastyczności na poziomie klatki, wyznaczany przez najpoważniejsze wykryte treści. Poniższa skala to sugerowana konfiguracja, z którą Rigr dostarcza system:

Każda detekcja jest dodatkowo opatrzona znacznikami kontekstowymi — np. Self-Generated (materiał wytworzony samodzielnie), Sadomasochism (sadomasochizm) lub CG Elements (elementy grafiki komputerowej) — które dostarczają dodatkowego kontekstu dla postępowania. Jest to skala do wstępnej selekcji, a nie klasyfikacja ustawowa. Kategorie i progi różnią się w zależności od jurysdykcji, a o przypisaniu detekcji do stopni decyduje Państwa zespół.

Filtrowanie i sortowanie według przewidywanego stopnia drastyczności i pewności modelu pozwala ustalić kolejność przeglądu. Zdjęcie rodzinne czy dokument mogą mieć znaczenie dla sprawy, choć nie zawierają treści seksualnych — niski stopień oznacza więc miejsce w kolejce, a nie rozstrzygnięcie o przydatności dla sprawy.

Wypróbuj

Można przesłać obraz i sprawdzić, jak działa klasyfikacja multimediów. Do testów dopuszczalne są treści z udziałem dorosłych.

Zrób zdjęcie

Włącz aparat

lub

Prześlij obraz

Wybierz plik

Do testów dopuszczalne są materiały z udziałem dorosłych — prosimy nie przesyłać materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM).
Przesłane obrazy przechowujemy do 7 dni na potrzeby weryfikacji bezpieczeństwa treści (trust & safety), a następnie usuwamy. Jak przetwarzamy dane w demo (EN) →

Anuluj Zrób zdjęcie

Szczegółowe detekcje

Klasyfikacja multimediów w sprawach?

Dostęp próbny do narzędzia produkcyjnego — ten sam klasyfikator, ale stosowany do całych zbiorów materiału ze spraw, z prywatnymi endpointami i bez publicznego rejestrowania danych. Po podaniu służbowego adresu e-mail od razu zwiększymy limit w demo.

Służbowy adres e-mail Organizacja Zastosowanie Uzyskaj dostęp próbny

Wypróbuj inny obraz Zobacz, jak zespół przegląda taki materiał na dużą skalę → Obejrzyj 3-minutowe wideo →

Klasyfikowanie obrazu…

Spróbuj ponownie

Szczegóły detekcji

Zastosowania operacyjne

W procesach dochodzeniowo-śledczych klasyfikacja multimediów służy do:

• Wstępnej selekcji dużych zbiorów zabezpieczonych multimediów według stopnia drastyczności
• Wykrywania konkretnych czynności seksualnych, części ciała i wskaźników kontekstowych
• Oznaczania materiałów wytworzonych samodzielnie, logotypów sieci rozpowszechniających CSAM i innych elementów istotnych dowodowo
• Ustalania kolejności przeglądu tak, aby funkcjonariusze zaczynali od najpoważniejszego materiału

Funkcja jest także dostępna jako samodzielne API lub aplikacja w kontenerze, którą można wdrożyć w środowisku odizolowanym.

Wdrożenie i kontrola

• Pełna konteneryzacja
• Praca we własnej infrastrukturze i w środowisku odizolowanym
• Rigr AI nie przechowuje danych z wdrożeń we własnej infrastrukturze
• Klient zachowuje pełną kontrolę nad danymi wejściowymi i wynikami

Dla programistów

API klasyfikacji przyjmuje obrazy przesyłane jako multipart i zwraca stopień drastyczności, znaczniki kontekstowe oraz detekcje poszczególnych obiektów wraz z ramkami ograniczającymi i poziomem pewności.

Szacowanie wieku na podstawie twarzy odbywa się w tym samym przebiegu. Po dodaniu parametru estimate_age=true każda detekcja twarzy zawiera wiek szacowany na podstawie wyglądu i jego skalibrowaną niepewność, obok stopnia drastyczności i detekcji poszczególnych obiektów — jeden obraz, jedno wywołanie API. Wiek szacowany na podstawie wyglądu i etap rozwoju to oszacowania wizualne: nie weryfikują tożsamości ani nie ustalają wieku osoby w rozumieniu prawa.

Szczegóły endpointów, schematów odpowiedzi i kodów błędów zawiera dokumentacja API Media Examiner, a dokument OpenAPI w formacie do odczytu maszynowego pozwala wygenerować klienta zamiast pisać go samodzielnie. Dokumentacja jest dostępna wyłącznie w języku angielskim.

curl -X POST https://api.mes.rigr.ai/classify \
  -H "X-API-KEY: $API_KEY" \
  -F "[email protected]" \
  -F "model=VisualyzeV2" \
  -F "estimate_age=true"

{
  "classification": {
    "key": "rigr-penetrative",
    "display_name": "Penetrative sexual activity",
    "severity": 5
  },
  "flags": ["Self-Generated"],
  "detections": [{
    "class_name": "Male Receive Oral",
    "score": 0.87,
    "bbox": {"x": 0.12, "y": 0.45, "w": 0.31, "h": 0.62},
    "ucs_sexual_content": "Penetrative Sexual Activity",
    "ucs_flags": []
  }, {
    "class_name": "Pubescent Female Face",
    "score": 0.92,
    "bbox": {"x": 0.50, "y": 0.17, "w": 0.09, "h": 0.18},
    "age": 14.8,
    "age_uncertainty": 2.1,
    "original_class_name": "Prepubescent Female Face"
  }]
}

← Wszystkie funkcje