VST Teams · Wideo · 3 min

Klasyfikacja multimediów

Jak VST Teams ocenia materiały o charakterze seksualnym i przedstawiające wykorzystywanie: Państwa zespół ustala skalę drastyczności, model proponuje stopień dla każdego pliku, a analityk go zatwierdza lub zmienia.

Nagrane na wersji rozwojowej z użyciem testowego zbioru zdjęć osób dorosłych. Wszystkie obrazy są rozmyte przez cały czas. Widoczny na ekranie profil „Polska” to przykład przygotowany dla tej instalacji testowej; Państwa zespół ustala własną skalę. Narracja jest po angielsku; napisy w dziesięciu językach są dostępne w menu CC, domyślnie po polsku.

  1. Profil jurysdykcji przyporządkowuje wyniki klasyfikatora do skali Państwa zespołu. Można zacząć od gotowego schematu klasyfikacji i dostosować go etykieta po etykiecie albo wymagać wyższego wyniku, zanim dana etykieta zostanie uwzględniona. Każda zmiana jest rejestrowana, a obniżenie stopnia przypisanego etykiecie wymaga uzasadnienia. Pokazana skala 0–5 to przykład. Państwa zespół wybiera własną.

  2. Model proponuje stopień drastyczności dla każdego pliku i pokazuje, które detekcje do niego doprowadziły. W pokazanym profilu osoba bez widocznej twarzy, na podstawie której można oszacować wiek, jest klasyfikowana jako małoletnia. Analitycy filtrują według stopnia drastyczności i pewności, zatwierdzają zbiorczo lub pojedynczo i zmieniają klasyfikację jednym klawiszem. Rozmycie i skalę szarości można włączyć dla całego przeglądu.

  3. Raport można wyeksportować dla sprawy lub pojedynczego folderu. Dla każdego pliku zawiera stopień drastyczności proponowany przez model, pewność modelu i główne przyczyny, stopień obowiązujący po przeglądzie, osobę, która dokonała przeglądu, oraz skróty pliku.

Przeczytaj transkrypcję

Transkrypcja jest tłumaczeniem angielskiej narracji.

Część 1 · Skale drastyczności

Oto omówienie procesu klasyfikacji multimediów dla osób, które muszą oceniać materiał mogący przedstawiać seksualne wykorzystywanie dzieci lub przemoc. Systemy klasyfikacji znacznie różnią się między krajami, dlatego musimy zapewnić sposób dostosowania tego, co widzi system, do lokalnego schematu klasyfikacji. Tutaj widać skalę drastyczności. W tym miejscu ustala się przyporządkowanie elementów wykrywanych przez system – części ciała, nagości, czynności seksualnych, płynów – do naszych stopni klasyfikacji. Nie trzeba zaczynać od zera. Dostępnych jest kilka standardowych schematów, które mogą posłużyć za punkt wyjścia. W ten sposób można dostosować detekcje systemu do wymogów lokalnych przepisów lub zasad. Ponieważ w jednym wierszu widać tak wiele czerwonych flag, warto, aby administrator przyjrzał się temu bliżej. Być może system reaguje zbyt silnie lub zbyt słabo na określony element wizualny, a administrator może zmienić progi detekcji.

Część 2 · Przegląd automatycznej klasyfikacji

Po przesłaniu zdjęć i nagrań wideo do VST aplikacja spróbuje sklasyfikować materiał według skonfigurowanych stopni drastyczności. Aby sprawdzić wyniki, należy przejść do procesu przeglądu. Można wybrać sprawę lub folder, aby kontynuować rozpoczęty wcześniej przegląd. Testuję na jednoznacznie seksualnych, ale niebudzących zastrzeżeń obrazach z udziałem dorosłych, dlatego włączyłem rozmycie i skalę szarości. Teraz ustawię filtr tak, aby widzieć tylko obrazy, przy których model AI ma dużą pewność co do przypisanego stopnia drastyczności. Wszystkie wyglądają na poprawne, więc zaznaczam wszystkie i zatwierdzam. Załóżmy teraz, że chcę zakwestionować stopień drastyczności, który system przypisał jednemu z obrazów. Dwukrotne kliknięcie otwiera obraz w widoku szczegółowym, a następnie rozwijam panel po prawej, by zobaczyć, dlaczego przypisano mu stopień 3. Klikając X, mogę odrzucić każdą pojedynczą detekcję albo po prostu przejść na sam dół i ręcznie zmienić klasyfikację.

Część 3 · Raport

Teraz pokażę, jak utworzyć raport, co można zrobić na poziomie sprawy lub konkretnego folderu. Obecnie dostępne są cztery formaty raportu. Wybieram Excel. Arkusze kalkulacyjne to bardzo bogaty format eksportu, ponieważ widać w nich, dlaczego każdy obraz otrzymał taką, a nie inną klasyfikację. Widać również, kto podjął decyzję. Choć dziś tego nie pokazałem, obrazy można było również sklasyfikować za pomocą istniejącego zbioru skrótów. Jeśli chcą Państwo zobaczyć prezentację pełnej aplikacji, prosimy o kontakt: [email protected].

Pytania: [email protected]