Klasyfikacja CSAM

Przegląd

Wykrywanie i klasyfikacja treści seksualnych w zabezpieczonych multimediach są kluczowe w postępowaniach dotyczących seksualnego wykorzystywania dzieci. Ręczny przegląd jest czasochłonny, obciążający psychicznie dla funkcjonariuszy i trudny do prowadzenia spójnie przy dużej skali.

Klasyfikacja multimediów Rigr AI wykorzystuje modele głębokiego uczenia do wykrywania treści seksualnych, części ciała, czynności i wskaźników kontekstowych na obrazach. Następnie przyporządkowuje wykryte elementy do poziomów wagi treści zgodnie z konfiguracją wybraną przez zespół.

Zakres detekcji

Nasze modele AI wykrywają elementy wizualne w następujących kategoriach:

Dostosuj klasyfikację do swojej jurysdykcji

To zespół decyduje, które wykryte elementy odpowiadają poszczególnym poziomom wagi treści. Rigr dostarcza sugerowane reguły, które można dostosować do obowiązujących przepisów i potrzeb operacyjnych — także tam, gdzie nie funkcjonuje krajowy system klasyfikacji.

Każdemu obrazowi przypisywany jest poziom wagi treści na podstawie najpoważniejszych wykrytych elementów. Poniższa skala przedstawia sugerowaną konfigurację dostarczaną przez Rigr:

Każda detekcja jest uzupełniana o znaczniki kontekstowe — np. materiał wytworzony samodzielnie, sadomasochizm lub elementy grafiki komputerowej — które dostarczają dodatkowego kontekstu. Jest to skala do wstępnej selekcji materiału, a nie klasyfikacja prawna. Kategorie i progi różnią się między jurysdykcjami; to zespół decyduje o przypisaniu detekcji do poziomów.

Filtruj i sortuj według przewidywanej wagi treści i pewności modelu, aby ustalić kolejność przeglądu. Zdjęcie rodzinne lub dokument mogą mieć znaczenie dla sprawy bez treści seksualnych. Niski poziom wyznacza więc miejsce w kolejce, a nie rozstrzyga o przydatności dowodowej.

Wypróbuj

Prześlij obraz, aby sprawdzić klasyfikację multimediów. Treści z udziałem dorosłych są dopuszczalne do testów.

Zrób zdjęcie

Włącz aparat

lub

Prześlij obraz

Wybierz plik

Materiały z udziałem dorosłych są dopuszczalne do testów — nie przesyłaj materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM).
Przesłane obrazy przechowujemy do 7 dni na potrzeby kontroli bezpieczeństwa, a następnie usuwamy. Jak przetwarzamy dane w demo (EN) →

Anuluj Zrób zdjęcie

Szczegółowe detekcje

Klasyfikujesz multimedia na potrzeby postępowań?

Uzyskaj dostęp próbny do narzędzia produkcyjnego — ten sam klasyfikator, ale dla całych zbiorów spraw, z prywatnymi endpointami i bez publicznego rejestrowania danych. Podaj służbowy adres e-mail, a od razu zwiększymy limit demo.

Służbowy adres e-mail Organizacja Zastosowanie Uzyskaj dostęp próbny

Wypróbuj inny obraz Zobacz, jak zespół przegląda materiał na dużą skalę →

Klasyfikowanie obrazu…

Spróbuj ponownie

Szczegóły detekcji

Zastosowania operacyjne

W procesach dochodzeniowo-śledczych klasyfikacja multimediów służy do:

• Wstępnej selekcji dużych zbiorów zabezpieczonych multimediów według wagi treści
• Wykrywania konkretnych czynności seksualnych, części ciała i wskaźników kontekstowych
• Oznaczania materiałów wytworzonych samodzielnie, logotypów sieci CSAM i innych wskaźników istotnych dowodowo
• Ustalania kolejności przeglądu, aby funkcjonariusze zaczynali od najpoważniejszego materiału

Funkcja jest także dostępna jako samodzielne API lub aplikacja kontenerowa, którą można wdrożyć w środowisku odizolowanym od sieci.

Wdrożenie i kontrola

• Pełna konteneryzacja
• Praca we własnej infrastrukturze i w środowisku odizolowanym od sieci
• Bez przechowywania danych przez Rigr AI przy wdrożeniu lokalnym
• Klient zachowuje pełną kontrolę nad danymi wejściowymi i wynikami

Dla programistów

API klasyfikacji przyjmuje obrazy w żądaniach multipart i zwraca poziom wagi treści, znaczniki kontekstowe oraz detekcje poszczególnych obiektów wraz z ramkami ograniczającymi i poziomem pewności.

Szacowanie wieku na podstawie twarzy odbywa się w tym samym przebiegu. Dodaj estimate_age=true, a każda detekcja twarzy będzie zawierała szacowany wiek i skalibrowaną niepewność obok klasyfikacji wagi treści i detekcji obiektów — jeden obraz, jedno wywołanie API. Wiek i etap rozwoju są szacowane na podstawie wyglądu: nie weryfikują tożsamości ani nie ustalają wieku osoby w rozumieniu prawa.

Szczegóły endpointów, schematów odpowiedzi i kodów błędów zawiera dokumentacja API Media Examiner. Dostępny jest też dokument OpenAPI do automatycznego wygenerowania klienta. Dokumentacja w języku angielskim.

curl -X POST https://api.mes.rigr.ai/classify \
  -H "X-API-KEY: $API_KEY" \
  -F "[email protected]" \
  -F "model=VisualyzeV2" \
  -F "estimate_age=true"

{
  "classification": {
    "key": "rigr-penetrative",
    "display_name": "Penetrative sexual activity",
    "severity": 5
  },
  "flags": ["Self-Generated"],
  "detections": [{
    "class_name": "Male Receive Oral",
    "score": 0.87,
    "bbox": {"x": 0.12, "y": 0.45, "w": 0.31, "h": 0.62},
    "ucs_sexual_content": "Penetrative Sexual Activity",
    "ucs_flags": []
  }, {
    "class_name": "Pubescent Female Face",
    "score": 0.92,
    "bbox": {"x": 0.50, "y": 0.17, "w": 0.09, "h": 0.18},
    "age": 14.8,
    "age_uncertainty": 2.1,
    "original_class_name": "Prepubescent Female Face"
  }]
}

← Wszystkie funkcje