Citadel AIがLensカスタムファイアウォールを提供開始、ユースケースに応じたAIセーフティを実現

PR TIMES より

記事の要約

• Citadel AIが次世代ファイアウォール「Lensカスタムファイアウォール」提供開始
• ユースケースに応じた高精度な自動フィルタリングを実現
• AIリスクから顧客を守り経営基盤を強化

AI時代の防衛戦、次世代ファイアウォール「Lensカスタムファイアウォール」提供開始

株式会社Citadel AIは、2025年4月25日より、生成AIの入出力をユースケースに応じて高精度で自動フィルタリングする「Lensカスタムファイアウォール」の提供を開始した。このファイアウォールは、業務に精通したドメインエキスパートによる常時監視と同等レベルの安全性を実現し、検証段階のみならず運用段階においてもその効果を発揮する。

これにより、AIに起因するセキュリティリスクやレピュテーションリスクから顧客を守り、経営基盤の強化をサポートすることが可能になる。企業は、AI導入に伴う「攻めと守り」のバランスを最適化し、安全なAI活用を推進できるだろう。

Lensカスタムファイアウォールは、日本語テキストにも万全に対応し、AIに起因するリスクをユースケースに応じてきめ細かく識別し対処する。顧客の環境に最適な形でリスクをコントロールし、経営基盤の強化を支援する次世代のセキュリティソリューションだ。

Lensカスタムファイアウォールの主な機能

カスタムメトリクスについて

カスタムメトリクスとは、生成AIシステムの検証において、顧客ごとのユースケースに合わせてチューニングされたオーダーメイドの評価指標のことを指す。あらかじめ定められた指標で一律に評価するのではなく、各業務に精通したドメインエキスパートの目線にシステムを合わせることで、高精度な自動評価を実現するアプローチだ。

Citadel AIの「Metric Generator」は、これまで手作業で作成していたカスタムメトリクスの作成を自動化する独自技術である。これにより、顧客は検証段階の手間を大幅に削減し、効率的なAIシステム構築が可能になるだろう。

Lensカスタムファイアウォールに関する考察

Lensカスタムファイアウォールの提供開始は、企業が生成AIを安全かつ効果的に活用するための重要な一歩となるだろう。汎用的なコンテンツフィルターやガードレールでは対応が難しい、企業固有のニーズに合わせた高精度なフィルタリングが可能になるからだ。これにより、過剰な検出や検出漏れを防ぎ、AIの利便性と安全性を両立させることができる。

今後の課題としては、カスタムメトリクスの作成と管理の効率化、および日本語テキストに対するさらなる精度の向上が挙げられる。これらの課題に対しては、AIを活用したメトリクス自動最適化機能の追加や、継続的なデータ収集と学習によるフィルタリング精度の向上が考えられるだろう。

将来的には、Lensカスタムファイアウォールが、AIを活用するすべての企業にとって不可欠なセキュリティソリューションとなることが期待される。AI技術の進化とともに、セキュリティ対策も進化し続ける必要があり、Citadel AIの今後の展開に注目したい。

参考サイト/関連サイト