CSAM-klassificering
Översikt
Att identifiera och klassificera sexuellt innehåll i beslagtaget material är centralt i utredningar av sexuell exploatering av barn. Manuell granskning är långsam, traumatiserande för utredarna och inkonsekvent i stor skala.
Rigr AI:s mediaklassificering använder objektdetektering baserad på djupinlärning för att upptäcka sexuellt innehåll, kroppsdelar, handlingar och kontextuella indikatorer i bilder – och mappar sedan detektionerna till en strukturerad klassificering av allvarlighetsgrad som ert team konfigurerar.
Vad modellerna upptäcker
Våra AI-modeller upptäcker visuella element inom följande kategorier:
Kroppsdelar och anatomi
Könsorgan, bröst, skinkor, händer, fötter – var och en klassificerad efter utvecklingsstadium (från spädbarn till vuxen).
Sexuella handlingar
Samlag, oralsex, penetration, onani, posering och icke-penetrerande kontakt – upptäckta och märkta var för sig.
Åldersgrupper
Ansikten och helkroppsfigurer klassificerade efter utvecklingsstadium: spädbarn, småbarn, förpubertal, pubertal och vuxen.
Kontextuella indikatorer
Selfies (mobil/kamera), skärmbilder, logotyper från CSAM-nätverk, kläder, smycken, fasthållningsanordningar och andra bevismässiga markörer.
Konfigurera klassificeringen för er jurisdiktion
Ert team väljer vilka upptäckta element som leder till respektive allvarlighetsgrad. Rigr tillhandahåller förslag på regler som ni kan anpassa till tillämplig lagstiftning och era operativa krav, även där det inte finns något nationellt klassificeringsramverk.
Varje bild tilldelas en allvarlighetsgrad på bildnivå utifrån det allvarligaste innehåll som upptäckts. Skalan nedan är den föreslagna konfiguration som Rigr levererar:
| Allvarlighetsgrad | Klassificering | Beskrivning |
|---|---|---|
| 0 | Inget sexuellt innehåll | Inget sexuellt innehåll upptäckt – inte ett konstaterande att objektet saknar betydelse |
| 1 | Vuxen – harmlöst (granskarens bedömning) | Explicit material med vuxna, tilldelat av en analytiker vid granskning. Klassificeraren sätter aldrig nivå 1 – dess skala är 0, 2, 3, 4, 5. |
| 2 | Exploaterande/suggestivt | Nakenhet, blottad anatomi eller sexualiserat sammanhang utan explicit handling |
| 3 | Uttalat sexualiserad posering | Avsiktlig exponering av könsorgan eller uttalat sexualiserad positionering |
| 4 | Icke-penetrerande sexuell handling | Onani, slickning eller annan icke-penetrerande sexuell kontakt |
| 5 | Penetrerande sexuell handling | Samlag, oralsex, anal eller vaginal penetration |
Varje detektion berikas också med kontextuella flaggor – till exempel Self-Generated, Sadomasochism eller CG Elements – som ger ytterligare utredningskontext. Detta är en skala för triagering, inte en juridisk skala. Kategorier och tröskelvärden skiljer sig mellan jurisdiktioner, och ert team avgör vilka detektioner som motsvarar vilken nivå.
Filtrera och sortera efter förutsagd allvarlighetsgrad och modellens konfidens för att prioritera granskningen. Ett familjefoto eller ett dokument kan ha betydelse för ett ärende utan att innehålla sexuellt innehåll, så en låg allvarlighetsgrad är en plats i kön – inte ett beslut om relevans.
Prova
Ladda upp en bild för att se mediaklassificeringen i praktiken. Innehåll med vuxna accepteras i testsyfte.
Innehåll med vuxna går bra att testa med — ladda inte upp material med sexuella övergrepp mot barn (CSAM).
Bilder du skickar in sparas i upp till 7 dagar för trust & safety-granskning och raderas sedan. Så hanterar vi data i demon (på engelska) →
Operativ användning
I utredningsarbetet används mediaklassificering för att:
- Sortera stora mängder beslagtaget material efter allvarlighetsgrad
- Upptäcka specifika sexuella handlingar, kroppsdelar och kontextuella indikatorer
- Flagga egenproducerat material, logotyper från CSAM-nätverk och andra bevismässiga markörer
- Prioritera granskningsköer så att utredarna börjar med det allvarligaste materialet
Funktionen finns också som fristående API eller som containeriserad applikation som kan driftsättas i en helt nätverksisolerad (air-gapped) miljö.
Driftsättning och kontroll
- Helt containeriserad
- Drift lokalt och helt nätverksisolerat (air-gapped)
- Ingen datalagring
- Kunden behåller full kontroll över indata och utdata
För utvecklare
Klassificerings-API:t tar emot bilder via multipart-uppladdning och returnerar en klassificering av allvarlighetsgrad, kontextuella flaggor och detektioner per objekt med avgränsningsrutor och konfidensvärden.
Åldersuppskattning från ansikten körs i samma pass. Lägg till estimate_age=true så får varje ansiktsdetektion en uppskattad ålder utifrån utseende och dess kalibrerade osäkerhet, bredvid klassificeringen av allvarlighetsgrad och detektionerna per objekt – en bild, ett API-anrop. Uppskattad ålder och utvecklingsstadium är visuella uppskattningar: de verifierar inte identitet och fastställer inte en persons juridiska ålder.
Fullständig information om endpoints, svarsscheman och felkoder finns i API-referensen för Media Examiner, tillsammans med ett maskinläsbart OpenAPI-dokument så att ni kan generera en klient i stället för att skriva en. Endast på engelska.
POST /classify curl -X POST https://api.mes.rigr.ai/classify \
-H "X-API-KEY: $API_KEY" \
-F "[email protected]" \
-F "model=VisualyzeV2" \
-F "estimate_age=true"{
"classification": {
"key": "rigr-penetrative",
"display_name": "Penetrative sexual activity",
"severity": 5
},
"flags": ["Self-Generated"],
"detections": [{
"class_name": "Male Receive Oral",
"score": 0.87,
"bbox": {"x": 0.12, "y": 0.45, "w": 0.31, "h": 0.62},
"ucs_sexual_content": "Penetrative Sexual Activity",
"ucs_flags": []
}, {
"class_name": "Pubescent Female Face",
"score": 0.92,
"bbox": {"x": 0.50, "y": 0.17, "w": 0.09, "h": 0.18},
"age": 14.8,
"age_uncertainty": 2.1,
"original_class_name": "Prepubescent Female Face"
}]
}Vanliga frågor
Vad upptäcker Rigr AI:s mediaklassificering?
Våra AI-modeller upptäcker sexuellt innehåll, kroppsdelar, handlingar och kontextuella indikatorer i beslagtagna bilder och placerar sedan varje bild i en strukturerad allvarlighetsklassificering som ert team konfigurerar.
Hur bestäms allvarlighetsgraden?
Varje bild får en allvarlighetsgrad utifrån det allvarligaste innehåll som upptäckts, tillsammans med kontextuella flaggor som egenproducerat material eller markörer för CSAM-nätverk. Ert team väljer vilka upptäckta element som leder till respektive nivå: Rigr tillhandahåller en föreslagen konfiguration på skalan 0–5 som ni anpassar till tillämplig lagstiftning och era operativa krav – det är inte en rättslig klassificering.
Hur minskar den utredarnas exponering för övergreppsmaterial?
I VST Teams sorterar den tusentals beslagtagna filer efter allvarlighetsgrad och bygger prioriteringskön, så att det allvarligaste materialet hålls borta från granskarnas skärmar tills det måste ses. Den finns också som fristående API eller containerbaserad applikation.
Kan den driftsättas helt nätverksisolerad (air-gapped)?
Ja. Den är helt containerbaserad och kan köras lokalt i er egen miljö och helt nätverksisolerad, utan att Rigr AI lagrar några data och med full kundkontroll över indata och resultat. Det gäller inte den separata publika demon, som sparar bilder i upp till sju dagar för trust & safety-granskning.