DataRobot、AIを安全に活用するための業界初の生成AIツールを発表

ワンクリックでコンプライアンスに対応した文書の自動作成および公平性やバイアスのテスト、オブザーバビリティを追加できるようになることで、企業は自信を持ってAI導入が可能に

「AIをビジネスの力に」を掲げるDataRobotは、企業がAIを安全に活用するためにコンプライアンスに対応した文書の自動作成および公平性やバイアスのテスト、オブザーバビリティをワンクリックで追加できるようになる機能を発表しました。この業界初の機能群によって、企業は生成AIアプリケーションが進化する規制やポリシーに準拠し続けることを保証し、安心して生成AIの導入・拡張できるようにします。

DataRobotが実施した最近の調査によると、AIの専門家の45%が、成熟したAI組織においてさえ、モデルの信頼性と一貫性を確保することが最大の課題であると挙げました。回答者は、出力をリアルタイムで監視し、安定したパフォーマンスを保証することが、依然としてビジネスにとって大きな懸念事項であることを認めています。

「生成AIの変革的な可能性を最大限に活用するには、モデルが現実世界のシナリオで期待通りに、一貫性、信頼性、そして正確性を持って動作するという確信が企業に必要です」と、 DataRobotのCPO（最高プロダクト責任者）であるVenky Veeraraghavanは述べています。

「DataRobotの新しいオブザーバビリティとコンプライアンスツールは、AIソリューションを徹底的にテスト、リスク軽減、文書化することで、信頼性の高い結果を得てリスクを最小限に抑え、ビジネスに力を与えます」

DataRobotは、以下の新しいオブザーバビリティおよびコンプライアンス機能を通じて、これらの課題に対応します。

生成AIアセットの保護

• 生成AIアプリケーション用の包括的オブザーバビリティフレームワーク:
  OpenAI、Google Vertex、Microsoft Azure、Databricksを含むあらゆるアプリケーションを、わずか2行のコードでリアルタイムの介入、モデレーション、ガバナンス機能で保護。
• 品質保証テスト:
  本番前のストレステストとして、ジェイルブレイクテストやプロンプトインジェクションテストを実施し、AIアプリがビジネスおよびセキュリティ要件を満たしていることを確認。
• ベクターデータベースの監視と生成AIのアクショントレース:
  ベクターデータベースのパフォーマンス最適化を自動監視とアラートでサポートし、生成AIのアクショントレースで根本原因の特定と解決を容易化。
• Google Cloud Vertex AIとの統合:
  新しいVertex AI統合により、Vertex AIプラットフォームとGeminiモデルを活用した生成AIソリューションで、DataRobotの評価および監視ツールをフル活用可能。

進化するAI規制への適合

• 生成AIコンプライアンス文書のワンクリック自動作成:
  EU AI Actやニューヨーク市法No. 144など、進化する国際的、地域的、業界の規制に準拠したコンプライアンス文書を自動生成。
• 即時実行可能なコンプライアンステストとアラート:
  自動化されたコンプライアンステストと最新のガードモデルライブラリを使用して、将来の規制や企業ポリシーへの適合を維持。リアルタイムのアラートで、生成AIおよび予測AIソリューションのコンプライアンスを確保。

DataRobotはすでに顧客、パートナー、業界の専門家に価値を提供しています：

IDCのSenior Research Director AIであるNancy Gohring氏は次のように述べています。
「AIを大規模に導入するには、セキュリティと規制コンプライアンスを確保することでリスクを管理するツールやプロセスが必要です。オブザーバビリティ、モニタリング、モデルの改良をサポートする標準化されたプロセスとツールを導入する企業は、AIの成果を確実にし、測定可能なビジネス成果を実現するAIアプリケーションを展開できるようになります」

NZ PostのHead of Data Science and AnalyticsであるTim Reed氏は次のように述べています。
「DataRobotの生成AIモニタリングを使用することで、どのLLM（大規模言語モデル）を利用するか選択し、私たちの課題に最適な回答を提供するものを判断できます。毒性やバイアスなどの精度に関連する指標も備わっています。DataRobotを利用することで、よく統制され安全な環境で生成AIにアクセスしているという安心感を得ることができます」

Google Cloudの Director, Product Management, Cloud AIを務めるNenshad Bardoliwalla氏は次のように述べています。
「このVertex AIとの統合を通じて、DataRobotと協力できることを大変嬉しく思います。この統合により、Vertex AIとGeminiモデルの強力な機能と、DataRobotの堅牢なガードレールやガバナンス機能を組み合わせるツールをお客様に提供します。これにより、企業は独自の目標に合わせた、より安全でコンプライアンスに準拠した生成AIソリューションを開発できるようになり、革新的な成果が期待されます」

本発表に関する詳細は12月17日（火）15:00から実施するWebinar「加速するAI時代にビジネスに力を与えるただ一つのEnterprise AI Suite」でご紹介いたします。