VST Teams · Video-Rundgang · 3 Min.

Medienklassifizierung

Wie VST Teams sexuelles und missbräuchliches Material einstuft: Ihr Team legt die Schweregradskala fest, das Modell schlägt für jede Datei eine Einstufung vor, und eine Prüferin oder ein Prüfer bestätigt sie oder stuft neu ein.

Aufgenommen auf einer Entwicklungsversion mit einem Testsatz von Bildern Erwachsener. Jedes Bild bleibt durchgehend unscharf. Das gezeigte Polen-Profil ist ein Beispiel, das für diese Testinstallation eingerichtet wurde; Ihr Team legt seine eigene Skala fest. Gesprochen auf Englisch; Untertitel in zehn Sprachen über das CC-Menü, standardmäßig auf Deutsch.

  1. Ein Rechtsordnungsprofil ordnet die Erkennungen des Klassifikators der Skala Ihres Teams zu. Sie können von einem Einstufungsschema ausgehen und es Label für Label anpassen oder einen höheren Wert verlangen, bevor ein Label zählt. Jede Änderung wird protokolliert, und wer die Stufe eines Labels herabsetzt, muss dies dokumentiert begründen. Die gezeigte Skala 0–5 ist ein Beispiel. Ihr Team wählt seine eigene.

  2. Das Modell schlägt für jede Datei einen Schweregrad vor und zeigt, welche Erkennungen dazu geführt haben. Im gezeigten Profil wird eine Person ohne Gesicht, anhand dessen sich ein Alter schätzen ließe, als minderjährig eingestuft. Prüferinnen und Prüfer filtern nach Schweregrad und Sicherheit, bestätigen gesammelt oder einzeln und stufen mit einer einzigen Taste neu ein. Unschärfe und Graustufen lassen sich für die gesamte Prüfung einschalten.

  3. Exportieren Sie einen Bericht für einen Fall oder einen einzelnen Ordner. Für jede Datei enthält er den vom Modell vorgeschlagenen Schweregrad, dessen Sicherheit und wichtigste Gründe, den nach der Prüfung geltenden Schweregrad, wer die Datei geprüft hat, und die Hashwerte der Datei.

Transkript lesen

Das Transkript ist aus der englischen Sprechfassung übersetzt.

Teil 1 · Schweregradskalen

Dies ist ein Rundgang durch unseren Ablauf zur Medienklassifizierung – für alle, die Material bewerten müssen, das sexuellen Kindesmissbrauch oder Gewalt zeigen kann. Die Klassifizierungssysteme unterscheiden sich je nach Land stark, daher brauchen Sie ein Mittel, um das, was die Maschine sieht, an Ihr lokales Schema anzupassen. Hier sehen Sie unsere Schweregradskala. In ihr legen wir eine Zuordnung fest zwischen dem, was die Maschine erkennt – Körperteile, Nacktheit, sexuelle Handlungen, Flüssigkeiten – und unseren Klassifizierungsstufen. Sie müssen nicht bei null anfangen. Wir bieten mehrere Standardschemata, die Sie als Ausgangspunkt verwenden können. So passen wir die Erkennungen der Maschine an das an, was lokales Recht oder Ihre Richtlinien verlangen. Da diese Zeile so viele rote Warnflaggen enthält, sollte sich die Administratorin das wohl genauer ansehen. Vielleicht reagiert die Maschine über- oder unterempfindlich auf ein bestimmtes visuelles Element, und die Administratorin kann die Erkennungsschwellen ändern.

Teil 2 · Automatische Klassifizierung prüfen

Werden Bilder und Videos in VST hochgeladen, versucht die Anwendung, die Medien nach den von Ihnen festgelegten Schweregraden zu klassifizieren. Um die Ergebnisse zu prüfen, öffnen Sie den Prüfablauf. Wir können einen Fall oder Ordner wählen, um eine begonnene Prüfung fortzusetzen. Ich teste hier mit unbedenklichen, aber expliziten Bildern von Erwachsenen, daher habe ich Unschärfe und Graustufen eingeschaltet. Jetzt filtere ich so, dass ich nur die Bilder sehe, bei denen sich die KI des gewählten Schweregrads sehr sicher ist. Alle sehen für mich richtig aus – ich wähle alle aus und bestätige. Nehmen wir nun an, ich möchte die Schweregradstufe hinterfragen, die die Maschine einem der Bilder zugewiesen hat. Per Doppelklick öffne ich das Bild in einer Fokusansicht und klappe dann rechts diese Leiste auf, um zu sehen, warum das Bild Schweregradstufe 3 erhalten hat. Per Klick auf das X widerspreche ich einer einzelnen Erkennung, oder ich gehe einfach nach unten und stufe das Bild neu ein.

Teil 3 · Bericht

Jetzt zeige ich Ihnen, wie man einen Bericht erstellt – auf Ebene eines Falls oder eines bestimmten Ordners. Wir unterstützen derzeit vier Formate für den Bericht. Ich wähle Excel. Die Tabellen sind ein sehr aussagekräftiges Exportformat, denn Sie sehen, warum jedes Bild seine Klassifizierung erhalten hat. Und Sie sehen auch, wer die Entscheidung getroffen hat. Auch wenn ich es heute nicht gezeigt habe: Wir hätten Bilder auch mit einer vorhandenen Hash-Liste klassifizieren können. Wenn Sie eine Demo der vollständigen Anwendung sehen möchten, wenden Sie sich bitte an [email protected].

Fragen: [email protected]