VST Teams · Recorrido en vídeo · 3 min

Clasificación de medios

Cómo VST Teams clasifica material sexual y de abuso: su equipo define la escala de gravedad, el modelo propone un nivel para cada archivo y un revisor lo confirma o lo corrige.

Grabado en una versión de desarrollo, con un conjunto de prueba de imágenes de adultos. Todas las imágenes permanecen difuminadas en todo momento. El perfil de Polonia que aparece en pantalla es un ejemplo configurado para esta instalación de prueba; su equipo define su propia escala. Narración en inglés; subtítulos en diez idiomas desde el menú CC, en español por defecto.

  1. Un perfil de jurisdicción traslada las detecciones del clasificador a la escala de su equipo. Puede partir de un esquema de clasificación y ajustarlo etiqueta por etiqueta, o exigir una puntuación más alta para que una etiqueta cuente. Cada cambio queda registrado, y rebajar el nivel asignado a una etiqueta exige dejar constancia del motivo. La escala 0–5 que se muestra es un ejemplo. Su equipo elige la suya.

  2. El modelo propone una gravedad para cada archivo y muestra qué detecciones la produjeron. En el perfil mostrado, una persona sin un rostro a partir del cual estimar la edad se clasifica como menor. Los revisores filtran por gravedad y certeza, confirman en bloque o de uno en uno, y corrigen con una sola tecla. El difuminado y la escala de grises pueden activarse para toda la revisión.

  3. Exporte un informe de un caso o de una sola carpeta. Para cada archivo recoge la gravedad propuesta por el modelo, su certeza y sus principales motivos, la gravedad efectiva tras la revisión, quién lo revisó y los hashes del archivo.

Leer la transcripción

La transcripción está traducida de la narración en inglés.

Parte 1 · Escalas de gravedad

Este es un recorrido por nuestro flujo de clasificación de medios, pensado para quienes evalúan material que puede contener abuso sexual infantil o violencia. Los sistemas de clasificación varían mucho de un país a otro, así que debemos ofrecerle un medio para adaptar lo que ve la máquina a su esquema de clasificación local. Aquí vemos nuestra escala de gravedad. En ella establecemos una correspondencia entre lo que detecta la máquina (partes del cuerpo, desnudez, actos sexuales, fluidos) y nuestros niveles de clasificación. No hace falta partir de cero. Disponemos de varios esquemas estándar que puede usar como punto de partida. Así es como podemos adaptar las detecciones de la máquina a lo que exija la ley o la normativa local. Como hay tantas marcas rojas en una sola fila, probablemente convenga que el administrador la revise. Puede que la máquina reaccione en exceso o por defecto ante un elemento visual concreto, y el administrador puede cambiar los umbrales de detección.

Parte 2 · Revisar la clasificación automática

Cuando se suben imágenes y vídeos a VST, la aplicación intenta clasificar el material según los niveles de gravedad que usted haya configurado. Para comprobar los resultados, entre en el flujo de revisión. Podemos seleccionar un caso o una carpeta para continuar una revisión ya iniciada. Ahora pruebo con imágenes explícitas de adultos, pero benignas, así que he activado el difuminado y la escala de grises. Ahora voy a filtrar para ver solo las imágenes en las que la IA está muy segura de la gravedad que ha seleccionado. Todas me parecen correctas, así que las selecciono todas y confirmo. Supongamos ahora que quiero cuestionar la clase de gravedad que la máquina ha asignado a una de las imágenes. Con un doble clic abro la imagen en vista de foco y despliego este panel de la derecha para ver por qué a la imagen se le ha asignado la clase de gravedad 3. Puedo pulsar la X para discrepar de una detección concreta, o simplemente bajar hasta el final y corregir la clasificación.

Parte 3 · Informe

Ahora le mostraré cómo crear un informe, algo que podemos hacer a nivel de un caso o de una carpeta concreta. Actualmente admitimos cuatro formatos de informe. Voy a elegir Excel. Las hojas de cálculo son un formato de exportación muy completo, porque permiten ver por qué cada imagen recibió su clasificación. Y también se puede ver quién tomó la decisión. Aunque hoy no lo he mostrado, podríamos haber clasificado imágenes con un conjunto de hashes existente. Si desea ver una demostración de la aplicación completa, póngase en contacto con [email protected].

Preguntas: [email protected]