VST Teams · Video dimostrativo · 3 min

Classificazione dei media

Come VST Teams classifica materiale sessuale e di abusi: il tuo team imposta la scala di gravità, il modello propone una classificazione per ogni file e un revisore la conferma o la corregge.

Registrato su una build di sviluppo, con un set di prova di immagini di adulti. Tutte le immagini restano sfocate per l'intera durata. Il profilo Polonia sullo schermo è un esempio configurato per questa installazione di prova; il tuo team imposta la propria scala. Narrazione in inglese, con sottotitoli in dieci lingue dal menu CC; l'italiano è mostrato per impostazione predefinita.

  1. Un profilo di giurisdizione mappa i rilevamenti del classificatore sulla scala del tuo team. Puoi partire da uno schema di classificazione e modificarlo etichetta per etichetta, oppure richiedere un punteggio più alto perché un'etichetta venga considerata. Ogni modifica viene registrata, e abbassare il livello di gravità associato a un'etichetta richiede una motivazione. La scala 0–5 mostrata è un esempio. Il tuo team sceglie la propria.

  2. Il modello propone una gravità per ogni file e mostra quali rilevamenti l'hanno determinata. Nel profilo mostrato, una persona senza un volto da cui stimare l'età viene classificata come minore. I revisori filtrano per gravità e certezza, confermano in blocco o uno alla volta, e correggono la classificazione con un solo tasto. Sfocatura e scala di grigi possono essere attivate per l'intera revisione.

  3. Esporta un report per un caso o per una singola cartella. Per ogni file riporta la gravità proposta dal modello, la relativa certezza e i motivi principali, la gravità effettiva dopo la revisione, chi l'ha esaminato e gli hash del file.

Leggi la trascrizione

Trascrizione tradotta dalla narrazione originale in inglese.

Parte 1 · Scale di gravità

Questa è una presentazione del flusso di classificazione dei media, pensato per chi classifica materiale che può contenere abusi sessuali su minori o violenza. I sistemi di classificazione variano molto da paese a paese, quindi dobbiamo darti un modo per adattare ciò che la macchina rileva al tuo schema di classificazione. Qui vediamo la nostra scala di gravità. È qui che definiamo una corrispondenza tra ciò che la macchina rileva — parti del corpo, nudità, atti sessuali, fluidi — e i nostri livelli di classificazione. Non devi partire da zero. Abbiamo diversi schemi standard che puoi usare come punto di partenza. È così che possiamo adattare i rilevamenti della macchina a ciò che richiedono leggi o norme locali. Con così tante bandierine rosse su una sola riga, conviene che l'amministratore dia un'occhiata. Può darsi che la macchina reagisca troppo o troppo poco a un determinato elemento visivo, e l'amministratore può modificare le soglie di rilevamento.

Parte 2 · Revisione della classificazione automatica

Quando immagini e video vengono caricati in VST, l'applicazione tenta di classificare i media secondo i livelli di gravità che hai configurato. Per verificare i risultati, entra nel flusso di revisione. Possiamo scegliere un caso o una cartella per riprendere una revisione già avviata. Sto facendo una prova con immagini di adulti esplicite ma benigne, per cui ho attivato la sfocatura e la scala di grigi. Ora applico un filtro per vedere solo le immagini in cui l'IA è molto sicura della gravità che ha assegnato. Mi sembrano tutte corrette, quindi le seleziono tutte e confermo. Supponiamo ora che io voglia contestare la classe di gravità che la macchina ha assegnato a una delle immagini. Con un doppio clic apro una vista dedicata dell'immagine, poi espando il pannello a destra per vedere perché all'immagine è stata assegnata la classe di gravità 3. Posso cliccare sulla X per contestare un singolo rilevamento, oppure scorrere fino in fondo e correggere la classificazione.

Parte 3 · Report

Ora ti mostro come creare un report, cosa possibile a livello di un caso o di una cartella specifica. Attualmente supportiamo quattro formati di report. Scelgo Excel. Il foglio di calcolo è un formato di esportazione molto ricco, perché mostra il motivo per cui ogni immagine ha ricevuto la propria classificazione. E mostra anche chi ha preso la decisione. Anche se oggi non l'ho mostrato, avremmo potuto classificare le immagini usando un set di hash già esistente. Se desideri una demo dell'applicazione completa, contattaci: [email protected].

Domande: [email protected]