VST Teams · Vídeo explicativo · 3 min

Classificação de media

Como o VST Teams classifica material sexual e de abuso: a sua equipa define a escala de gravidade, o modelo propõe uma classificação para cada ficheiro e um revisor confirma-a ou substitui-a.

Gravado numa versão de desenvolvimento, com um conjunto de teste de imagens de adultos. Todas as imagens permanecem desfocadas do princípio ao fim. O perfil Polónia que aparece no ecrã é um exemplo configurado para esta instalação de teste; a sua equipa define a sua própria escala. Narração em inglês, com legendas em dez idiomas no menu CC; o português é apresentado por predefinição.

  1. Um perfil de jurisdição faz corresponder as deteções do classificador à escala da sua equipa. Pode partir de um esquema de classificação e ajustá-lo etiqueta a etiqueta, ou exigir uma pontuação mais alta para que uma etiqueta conte. Todas as alterações ficam registadas, e baixar o nível de gravidade associado a uma etiqueta exige uma justificação. A escala 0–5 apresentada é um exemplo. A sua equipa escolhe a sua.

  2. O modelo propõe uma gravidade para cada ficheiro e mostra as deteções que a originaram. No perfil apresentado, uma pessoa sem rosto visível a partir do qual estimar a idade é classificada como menor. Os revisores filtram por gravidade e grau de certeza, confirmam em bloco ou um a um, e substituem a classificação com uma única tecla. A desfocagem e os tons de cinza podem ser ativados para toda a revisão.

  3. Exporte um relatório de um caso ou de uma única pasta. Para cada ficheiro, o relatório indica a gravidade proposta pelo modelo, o respetivo grau de certeza e as principais razões, a gravidade efetiva após a revisão, quem fez a revisão e os hashes do ficheiro.

Ler a transcrição

Transcrição traduzida da narração original em inglês.

Parte 1 · Escalas de gravidade

Esta é uma apresentação do nosso fluxo de classificação de media, concebido para quem tem de classificar material que pode conter abuso sexual infantil ou violência. Os sistemas de classificação variam muito de país para país, pelo que temos de dar-lhe um meio de adaptar o que a máquina deteta ao seu esquema de classificação. Aqui vemos a nossa escala de gravidade. É aqui que definimos uma correspondência entre o que a máquina deteta — partes do corpo, nudez, atos sexuais, fluidos — e os nossos níveis de classificação. Não tem de começar do zero. Dispomos de vários esquemas-padrão que pode utilizar como ponto de partida. É assim que adaptamos as deteções da máquina ao que a lei ou a política local exigir. Como há tantas bandeiras vermelhas numa única linha, justifica-se que o administrador analise a situação. Pode ser que a máquina esteja a reagir em excesso ou por defeito a um determinado elemento visual, e o administrador pode alterar os limiares de deteção.

Parte 2 · Rever a classificação automática

Quando fotografias e vídeos são carregados no VST, a aplicação tenta classificar o conteúdo com os níveis de gravidade que configurou. Para verificar os resultados, entre no fluxo de revisão. Podemos selecionar um caso ou uma pasta para continuar uma revisão iniciada antes. Estou a testar com imagens de adultos explícitas mas benignas, por isso ativei a desfocagem e os tons de cinza. Agora vou filtrar para ver apenas as imagens em que a IA tem grande certeza da gravidade que atribuiu. Todas me parecem corretas, por isso vou selecionar tudo e confirmar. Suponhamos agora que quero contestar a classe de gravidade que a máquina atribuiu a uma das imagens. Faço duplo clique na imagem para abrir uma vista detalhada e expando este painel à direita para ver porque é que a imagem recebeu uma classe de gravidade de 3. Posso clicar no X para discordar de qualquer deteção específica, ou simplesmente descer até ao fundo e substituir a classificação.

Parte 3 · Relatório

Vou agora mostrar-lhe como criar um relatório, o que podemos fazer ao nível de um caso ou de uma pasta específica. Atualmente suportamos quatro formatos de relatório. Vou escolher Excel. As folhas de cálculo são um formato de exportação muito rico, porque permitem ver por que motivo cada imagem recebeu a classificação que recebeu. E também é possível ver quem tomou a decisão. Embora não o tenha demonstrado hoje, poderíamos ter classificado as imagens com um conjunto de hashes já existente. Se quiser ver uma demonstração da aplicação completa, entre em contacto: [email protected].

Perguntas: [email protected]