VST Teams · Présentation vidéo · 3 min

Classification des médias

Comment VST Teams classe les contenus sexuels et abusifs : votre équipe définit l'échelle de gravité, le modèle propose un niveau pour chaque fichier, et un relecteur le confirme ou le corrige.

Enregistrée sur une version de développement, avec un jeu de test d'images d'adultes. Chaque image reste floutée du début à la fin. Le profil Pologne affiché à l'écran est un exemple configuré pour cette installation de test ; votre équipe définit sa propre échelle. Narration en anglais ; sous-titres en dix langues dans le menu CC, en français par défaut.

  1. Un profil de juridiction fait correspondre les détections du classifieur à l'échelle de votre équipe. Vous pouvez partir d'un schéma de classification et l'ajuster étiquette par étiquette, ou exiger un score plus élevé avant qu'une étiquette ne compte. Chaque modification est enregistrée, et abaisser le niveau associé à une étiquette exige une justification consignée. L'échelle 0–5 présentée est un exemple. Votre équipe choisit la sienne.

  2. Le modèle propose une gravité pour chaque fichier et indique quelles détections l'ont produite. Dans le profil présenté, une personne sans visage permettant d'estimer son âge est classée comme mineure. Les relecteurs filtrent par gravité et par degré de certitude, confirment en lot ou un par un, et corrigent d'une seule touche. Le flou et les niveaux de gris peuvent être activés pour toute la révision.

  3. Exportez un rapport pour une affaire ou un seul répertoire. Pour chaque fichier, il indique la gravité proposée par le modèle, son degré de certitude et ses principales raisons, la gravité retenue après révision, qui l'a révisé, et les hachages du fichier.

Lire la transcription

Transcription traduite de la narration en anglais.

Partie 1 · Échelles de gravité

Voici notre processus de classification des médias, conçu pour ceux qui évaluent des contenus pouvant inclure des violences ou des abus sexuels sur enfants. Les systèmes de classification varient fortement d'un pays à l'autre, il faut donc pouvoir adapter ce que voit la machine à votre schéma de classification local. Voici notre échelle de gravité. C'est ici que nous définissons une correspondance entre ce que la machine détecte (parties du corps, nudité, actes sexuels, fluides) et nos niveaux de classification. Inutile de partir de zéro. Nous proposons plusieurs schémas standard que vous pouvez prendre comme point de départ. C'est ainsi que nous pouvons adapter les détections de la machine à ce qu'exigent la loi ou la politique locales. Comme cette ligne comporte autant de drapeaux rouges, il vaut sans doute la peine que l'administrateur l'examine. Il se peut que la machine réagisse trop ou trop peu à un élément visuel particulier, et l'administrateur peut modifier les seuils de détection.

Partie 2 · Révision de la classification automatique

Lorsque des images et des vidéos sont importées dans VST, l'application tente de classer les médias selon les niveaux de gravité que vous avez configurés. Pour vérifier les résultats, ouvrez le processus de révision. Choisissez une affaire ou un répertoire pour reprendre une révision déjà entamée. Je teste ici avec des images d'adultes explicites mais bénignes, j'ai donc activé le flou et les niveaux de gris. Je vais maintenant filtrer pour n'afficher que les images pour lesquelles l'IA est très sûre de la gravité qu'elle a attribuée. Elles me semblent toutes correctes, je sélectionne donc tout et je confirme. Supposons maintenant que je veuille contester la classe de gravité attribuée par la machine à l'une des images. Un double-clic ouvre l'image en vue détaillée, puis je déploie ce volet à droite pour voir pourquoi l'image a reçu la classe de gravité 3. Je peux cliquer sur le X pour contester une détection particulière, ou simplement descendre en bas et corriger la classification.

Partie 3 · Rapport

Voyons maintenant comment créer un rapport, ce qui est possible pour une affaire entière ou pour un répertoire précis. Nous proposons actuellement quatre formats de rapport. Je choisis Excel. Les tableurs offrent un format d'export très riche, car ils montrent pourquoi chaque image a reçu sa classification. Et l'on voit aussi qui a pris la décision. Même si je ne l'ai pas montré aujourd'hui, nous aurions pu classer les images à partir d'une liste de hachages existante. Pour une démonstration de l'application complète, contactez-nous à [email protected].

Questions : [email protected]