デジタルアーツの「i-FILTER」「i-FILTER@Colod」に、生成AIへの送信内容把握や利用制限の機能が追加

Webコンテンツフィルタリングなどを開発するデジタルアーツ株式会社は、ChatGPTなど生成AIに対応する「AIチャットフィルター」機能を開発した。8月16日から製品「i-FILTER」とクラウド版の「i-FILTER@Cloud」に標準搭載する。

生成AIのサービスでは、従来のクラウドサービスと同様に、機密情報や個人情報の送信などの問題が言われている。また学校現場では学習効果への影響が、企業ではシャドーIT化していないかなどの利用実態把握や、情報漏えいの防止や効果的な活用のために送信内容の把握が求められているという。

「AIチャットフィルター」機能では、いつ・誰が・どんなメッセージを生成AIに送信したかといった情報をログとして表示する。機密情報など特定単語を含む生成AIへのメッセージ送信をブロックするフィルタリング機能もあり、ブロックした単語をログから閲覧することも可能。生成AI利用時には、機密情報の漏えいなどに注意が必要な旨を伝える警告画面も表示する。

また、従来の「i-FILTER」の機能である「Webサービス制御」では、生成AIであるChatGPTやBard、Bing AIを閲覧許可またはブロックとすることが、「グループ設定」機能では任意のグループ・ユーザー単位で生成 AIの利用を制御することが、「時間割」機能では就業時間や授業時間など設定した時間のみ生成AIを利用できるように設定することが可能。

生成AIにどのようなメッセージを送信したかをログから分析することにより、効果的な活用の検討が用意になるという。また、部署や役職による「グループ設定」により、特定の部署や役職にも生成AIの利用を許可することもできる。

学校においては、学年に合わせた「グループ設定」機能と利用時間帯を制御できる「時間割」機能と組み合わせることで、必要な授業のみ生成AIの利用を許可することが可能。不適切な使い方をした場合にはレポートを送付することもできる。