Content Moderatorの概要とメリット
Content Moderatorの概要
Content Moderatorは、テキスト・画像・ビデオなどを対象としたレビューツールです。
不快感を与える好ましくない画像の検出、不適切な表現が使用されているテキストのフィルタリング、ビデオ内におけるアダルトコンテンツのモデレートなどを実行できます。
テキストのフィルタリングでは、100以上の言語に関する卑罵語を検出可能です。画像をスキャンして、カスタムリストでも照会できます。個人を特定できてしまう情報の有無までチェック可能です。
検出可能な個人情報は、電子メールアドレスやIPアドレス、住所、電話番号などです。
検知結果の確認では、左側に元の文がハイライトされます。不適切な用語はイエローカラー、個人情報はグリーンカラーなどで強調される仕組みです。
Content Moderatorの利点
Content Moderatorではテキスト・画像・動画などの検出において、検出対象となる不適切コンテンツがデフォルトで定められています。
さらに、デフォルトの不適切コンテンツとは別に、テキストや画像を追加してカスタムできます。たとえば、特定の人物やロゴ、自社コンテンツなどです。
カスタムの分類に際して、用意されている主なタグは下記の通りです。
- ヌード
- 性的なコンテンツ
- アルコール
- タバコ
- 麻薬
- 子どもの搾取
- 暴力
- 武器
- ゴア
- 冒涜
- 下品
Content Moderatorを活用すれば、独自のコンテンツポリシーに沿って、データをブロック・許可できるようになります。
参考資料
https://azure.microsoft.com/ja-jp/services/cognitive-services/content-moderator/
