VST Teams · Videogenomgång · 3 min

Mediaklassificering

Så graderar VST Teams sexuellt material och övergreppsmaterial: ert team ställer in skalan för allvarlighetsgrad, modellen föreslår en gradering för varje fil och en granskare bekräftar eller ändrar den.

Inspelad på en utvecklingsversion med en testuppsättning bilder med vuxna. Alla bilder visas med oskärpa genom hela videon. Profilen Polen som syns på skärmen är ett exempel som ställts in för den här testinstallationen; ert team ställer in sin egen skala. Berättarrösten är på engelska, med undertexter på tio språk i CC-menyn; svenska visas som standard.

  1. En jurisdiktionsprofil mappar klassificerarens detektioner till ert teams skala. Ni kan utgå från ett graderingsschema och justera det etikett för etikett, eller kräva ett högre värde innan en etikett räknas. Varje ändring loggas, och att sänka den allvarlighetsgrad en etikett leder till kräver en motivering. Skalan 0–5 som visas är ett exempel. Ert team väljer sin egen.

  2. Modellen föreslår en allvarlighetsgrad för varje fil och visar vilka detektioner som låg bakom den. I profilen som visas graderas en person utan ett ansikte att uppskatta åldern från som minderårig. Granskare filtrerar efter allvarlighetsgrad och säkerhet, bekräftar i grupp eller en i taget och ändrar graderingen med en enda tangent. Oskärpa och gråskala kan slås på för hela granskningen.

  3. Exportera en rapport för ett ärende eller en enskild mapp. För varje fil anges modellens föreslagna allvarlighetsgrad, dess säkerhet och främsta skäl, den gällande allvarlighetsgraden efter granskning, vem som granskade filen och filens hashvärden.

Läs transkriptet

Transkriptet är översatt från den engelska berättarrösten.

Del 1 · Skalor för allvarlighetsgrad

Här går vi igenom vårt arbetsflöde för mediaklassificering, framtaget för dem som måste gradera material som kan visa sexuella övergrepp mot barn eller våld. Klassificeringssystemen skiljer sig mycket mellan länder, så vi måste ge er ett sätt att anpassa det maskinen ser till ert lokala klassificeringssystem. Här ser vi skalan för allvarlighetsgrad. Det är här vi ställer in en mappning mellan det som maskinen upptäcker – kroppsdelar, nakenhet, sexuella handlingar, vätskor – och våra klassificeringsnivåer. Ni behöver inte börja från noll. Vi har flera standardscheman som ni kan använda som utgångspunkt. Så här anpassar vi maskinens detektioner till vad lokal lag eller policy kräver. Eftersom det finns så många röda flaggor på en enda rad, är det nog klokt att administratören tittar närmare på det. Det kan vara så att maskinen överreagerar eller underreagerar på ett visst visuellt element, och administratören kan ändra tröskelvärdena för detektion.

Del 2 · Granska automatisk klassificering

När bilder och videor laddas upp i VST försöker applikationen klassificera materialet enligt de allvarlighetsgrader ni har konfigurerat. Gå in i granskningsflödet för att kontrollera resultaten. Vi kan välja ett ärende eller en mapp för att fortsätta en påbörjad granskning. Jag testar nu med harmlösa men explicita bilder med vuxna, så jag har slagit på oskärpa och gråskala. Nu filtrerar jag så att jag bara ser de bilder där AI:n är mycket säker på den allvarlighetsgrad den har valt. Alla de här ser rätt ut, så jag markerar alla och bekräftar. Anta nu att jag vill ifrågasätta den allvarlighetsgrad som maskinen har satt på en av bilderna. Jag dubbelklickar på bilden för att öppna en fokuserad vy och fäller ut panelen till höger för att se varför bilden har fått allvarlighetsgrad 3. Jag kan klicka på X för att invända mot ett enskilt fynd, eller helt enkelt gå längst ned och ändra graderingen.

Del 3 · Rapport

Nu ska jag visa hur man skapar en rapport, vilket kan göras på nivån för ett ärende eller en specifik mapp. Vi stöder i dag fyra format för rapporten. Jag väljer Excel. Kalkylbladen ger ett mycket innehållsrikt exportformat, eftersom man kan se varför varje bild fick den klassificering den fick. Man kan också se vem som fattade beslutet. Även om jag inte visade det i dag, kunde vi ha klassificerat bilderna med hjälp av en befintlig hashlista. Om ni vill se en demo av hela applikationen, kontakta oss: [email protected].

Frågor: [email protected]