VST Teams · 動画ガイド · 3分

メディア分類

VST Teams が性的・虐待的な資料をどのように等級判定するか。深刻度の尺度は貴チームが設定し、モデルがファイルごとに深刻度を提案し、レビュー担当者がそれを確定または上書きします。

開発版で、成人のテスト画像セットを使用して収録しました。画像はすべて全編を通してぼかし処理されています。画面上のポーランド向けプロファイルは、このテスト環境用に設定した例です。尺度は貴チームが独自に設定します。 音声は英語で、CC メニューから10言語の字幕を選べます（既定は日本語）。

  1. 法域プロファイルは、分類器の検出結果を貴チームの尺度に対応付けます。既存の等級判定方式を出発点としてラベルごとに調整することも、ラベルが反映されるのに必要なスコアを引き上げることもできます。変更はすべて記録され、ラベルに対応する等級を引き下げる場合は理由の入力が必要です。表示されている 0–5 の尺度は一例です。尺度は貴チームが選択します。

  2. モデルはファイルごとに深刻度を提案し、その根拠となった検出結果を表示します。表示されているプロファイルでは、年齢を推定できる顔が写っていない人物は未成年として判定されます。レビュー担当者は深刻度と確信度で絞り込み、一括または1件ずつ確定し、キー1つで上書きできます。ぼかしとグレースケールはレビュー全体に対して有効にできます。

  3. 事件単位、または特定のフォルダ単位でレポートをエクスポートできます。各ファイルについて、モデルが提案した深刻度、その確信度と主な理由、レビュー後に適用された深刻度、レビュー担当者、ファイルのハッシュ値が記載されます。

文字起こしを読む

この文字起こしは英語のナレーションを翻訳したものです。

パート1 · 深刻度の尺度

当社のメディア分類ワークフローをご紹介します。対象となるのは、児童性的虐待や暴力を含む可能性のある資料の等級判定を担う方々です。分類制度は国によって大きく異なるため、当社では機械が捉えた内容を、現地の分類方式に合わせて調整する手段を提供しています。こちらが深刻度の尺度です。ここで設定するのは、機械が検出する対象——身体部位、ヌード、性的行為、体液——と分類レベルとの対応付けです。ゼロから始める必要はありません。標準的な方式をいくつか用意しており、出発点としてご利用いただけます。このようにして、機械の検出結果を現地の法令や方針の要件に合わせて調整できます。1つの行にこれほど多くの赤いフラグが付いている場合は、管理者が確認したほうがよいでしょう。機械が特定の視覚的要素に過剰または過少に反応している可能性があり、管理者は検出しきい値を変更できます。

パート2 · 自動分類のレビュー

画像や動画を VST にアップロードすると、アプリケーションは設定した深刻度レベルに基づいてメディアの分類を試みます。結果を確認するには、レビューのワークフローに入ります。事件またはフォルダを選択して、以前のレビュー作業を続行できます。今回は、無害ながら露骨な成人の画像でテストしているため、ぼかしとグレースケールを有効にしています。次に、フィルターをかけて、AI が選択した深刻度の確信度が非常に高い画像だけを表示します。どれも正しいように見えるので、すべて選択して確定します。次に、機械がある画像に付けた深刻度クラスに疑問がある場合を考えてみます。画像をダブルクリックして詳細表示を開き、右側のこのパネルを展開すると、この画像に深刻度クラス 3 が割り当てられた理由を確認できます。X をクリックして、個々の検出結果に異議を示すことができます。あるいは、一番下まで移動して判定を上書きすることもできます。

パート3 · レポート

次に、レポートの作成方法をご説明します。レポートは事件単位、または特定のフォルダ単位で作成できます。現在、レポートの形式は4種類です。ここでは Excel を選びます。スプレッドシートは非常に情報量の多いエクスポート形式です。各画像がその分類となった理由を確認できるためです。また、誰が判定を行ったかも確認できます。本日はご紹介しませんでしたが、既存のハッシュセットを使って画像を分類することも可能です。アプリケーション全体のデモをご希望の場合は、[email protected] までお問い合わせください。

お問い合わせ： [email protected]