VST Teams · Відеоогляд · 3 хв

Класифікація медіафайлів

Як VST Teams оцінює матеріали сексуального характеру та матеріали, що зображують насильство: ваша команда задає шкалу серйозності, модель пропонує рівень для кожного файлу, а аналітик його підтверджує або змінює.

Записано на збірці для розробки з тестовим набором зображень дорослих. Усі зображення розмиті впродовж усього відео. Профіль для Польщі на екрані — приклад, налаштований для цієї тестової інсталяції; ваша команда задає власну шкалу. Озвучення англійською; субтитри одинадцятьма мовами — у меню CC, за замовчуванням українською.

  1. Профіль юрисдикції зіставляє результати класифікатора зі шкалою вашої команди. Можна взяти за основу готову схему оцінювання й налаштувати її мітку за міткою або вимагати вищого балу, перш ніж мітку буде зараховано. Кожну зміну фіксують, а щоб знизити рівень, якому відповідає мітка, потрібно вказати причину. Шкала 0–5 на екрані — приклад. Ваша команда обирає власну.

  2. Модель пропонує рівень серйозності для кожного файлу й показує, які виявлені ознаки до нього привели. У показаному профілі особу без обличчя, за яким можна було б оцінити вік, класифікують як неповнолітню. Аналітики фільтрують за рівнем серйозності та впевненістю, підтверджують результати пакетно або поодинці й змінюють оцінку однією клавішею. Розмиття й відтінки сірого можна ввімкнути для всього перегляду.

  3. Звіт можна експортувати для справи або окремої папки. Для кожного файлу в ньому зазначено запропонований моделлю рівень серйозності, впевненість моделі та основні причини, чинний рівень після перегляду, хто проводив перегляд, а також хеші файлу.

Прочитати транскрипт

Транскрипт перекладено з англійського озвучення.

Частина 1 · Шкали серйозності

Це огляд нашого процесу класифікації медіафайлів для тих, хто має оцінювати матеріали, які можуть містити сексуальне насильство над дітьми або жорстокість. Системи класифікації в різних країнах суттєво відрізняються, тож маємо дати вам спосіб узгодити те, що бачить система, з чинною у вас схемою класифікації. Тут ми бачимо шкалу серйозності. Саме тут задається зіставлення того, що виявляє система, — частин тіла, оголеності, сексуальних дій, біологічних рідин, — з нашими рівнями класифікації. Не обов’язково починати з нуля. У нас є кілька стандартних схем, які можна взяти за відправну точку. Так можна пристосувати те, що виявляє система, до будь-яких вимог місцевого законодавства чи відомчих правил. Оскільки в одному рядку стільки червоних прапорців, адміністраторові, мабуть, варто це переглянути. Можливо, система надто сильно або надто слабко реагує на певний візуальний елемент, і адміністратор може змінити пороги виявлення.

Частина 2 · Перегляд автоматичної класифікації

Коли зображення й відео завантажено до VST, застосунок спробує класифікувати їх за рівнями серйозності, які ви налаштували. Щоб перевірити результати, перейдіть до процесу перегляду. Можна вибрати справу або папку, щоб продовжити розпочатий раніше перегляд. Зараз я тестую на нешкідливих, але відвертих зображеннях дорослих, тому ввімкнув розмиття й відтінки сірого. Тепер я відфільтрую так, щоб бачити лише зображення, де ШІ дуже впевнений у вибраному рівні серйозності. Як на мене, тут усе правильно, тож я виділю все й підтверджу. Тепер припустімо, що я сумніваюся в класі серйозності, який система призначила одному із зображень. Я двічі клацаю зображення, щоб відкрити детальний перегляд, і розгортаю цю панель праворуч, щоб побачити, чому зображенню призначено клас серйозності 3. Можна натиснути X, щоб не погодитися з будь-яким окремим результатом, або прокрутити донизу й змінити оцінку вручну.

Частина 3 · Звіт

Тепер я покажу, як створити звіт. Це можна зробити для цілої справи або для окремої папки. Наразі звіт можна отримати в чотирьох форматах. Я виберу Excel. Електронні таблиці — дуже змістовний формат експорту, бо в них видно, чому кожне зображення отримало саме таку класифікацію. А ще видно, хто ухвалив рішення. Хоча сьогодні я цього не показував, зображення можна було б класифікувати також за наявним набором хешів. Якщо хочете побачити демо всього застосунку, зв’яжіться з нами: [email protected].

Спробуйте на власних зображеннях

Класифікація медіафайлів Оцініть одне з власних зображень Публічне демо запускає класифікатор на одному зображенні: він пропонує рівень серйозності й показує виявлені ознаки, на яких ґрунтується оцінка. Безкоштовно, без облікового запису. Відкрити демо класифікації → Ідентифікація потерпілих Де зроблено це фото? Наша модель геолокації — окремий застосунок — аналізує весь кадр (будівлі, вивіски, рослинність, приміщення) і пропонує ймовірну країну чи регіон. Вона звужує пошук: адреси не дає ніколи, і не на кожному зображенні для цього достатньо ознак. Відкрити демо геолокації →

Запитання: [email protected]