モデルのコンプライアンスを実際に心配すべきかどうか

おそらくこれが最初に思い浮かぶ疑問であり、社内の法務部門に相談するのが最善でしょう。モデル開発プロセスには、法務から情報セキュリティ、業務部門のエンドユーザーまで複数の部門の関係者から成るチームが情報を提供する必要があります。そうすれば、モデルのニーズやインパクトを最も包括的に理解でき、最終的にはモデルに期待されている価値を確実に満たすことができます。潜在的なリスクや危険性の特定とその軽減は、AI プロジェクトの発足時に最初に取り組むべき分野の 1 つであり、モデリングプロセスの各段階での意思決定に反映されるべきものです。

モデルを業界規制に準拠させるために必要と考えられる対応

これも同様に、豊富な知識を持つ社内関係者から情報を得るのが一番良い方法ですが、一般には、以下の 3 つの分野で、モデルのリスク管理および規制遵守を確立する必要があります。

• モデルの開発
• モデルの実装
• モデルの使用

適切に設計されたモデルでも、実装環境で予測結果を利用する段階では誤用される可能性があります。リスク管理では、モデルの利用時も継続される監視およびリスク軽減の手順を把握しておくようにします。 

モデル開発では、モデルでどのようなインプットがどのように使用されているかを評価するために、データの出所と特性に関する文書の提供が必要になることがあります。多くの場合、モデル検定の結果にも大きな関心が寄せられます。さらに、モデル検定で使用された手法が包括的で綿密なものであることを証明する必要があるかもしれません。「パフォーマンス」のページで説明したように、どの誤差指標もそれ 1 つだけでは十分に強力な論拠を得ることはできないでしょう。状況によっては、差別的効果など、モデルのバイアスと公平性について報告が必要になる可能性もあります。

コンプライアンスプロセスの円滑化のためにできること

エンドツーエンドのモデリングワークフロー全体を対象としたドキュメントの生成が常に可能であることは、コンプライアンスを実現するための最も強力な手段の 1 つです。バージョン管理とトレーサビリティのベストプラクティスも、モデル開発プロセスを円滑化します。モデル運用の説明と解釈を容易にするには、説明可能性に関するツールを使用し、モデルの透明性が適切であることが大切です。適切な関係者グループの管理の下でインパクト評価を実施すると、モデリングプロセスとそれに続く実装と使用の両方で、モデルが明確な目的を満たし、リスクの特定を支援できるかどうかが明らかになります。 

DataRobot では、データに独自に適用されるどのモデリング手法においても、包括的でカスタマイズ可能なコンプライアンス文書が自動的に生成されます。