English 
伊藤忠テクノソリューションズ株式会社は、金融機関向けにアプリケーション、システムインフラ、AIサービスを提供する「C-NOAH」に、AIガバナンスを強化する機能を追加しました。 Dynamo AI社のAI監査ツール「Dynamo Guard」を活用することで、AIが誤った情報を生成してしまう「幻覚」現象を抑制し、C-NOAHのAIチャットボットの信頼性を向上させます。.
近年、業務の高度化・効率化を目的にジェネレーティブAIを活用する企業が増加する中、AIが事実に基づかない誤った情報を生成する幻覚と呼ばれる現象が問題となっています。幻覚は、プロンプトの内容が不適切であったり、学習データの質や量が不十分であったりすることでジェネレーティブAIで発生する可能性があるため、企業ではプロンプト作成のトレーニングや学習データの定期的な見直し、業務での利用範囲の限定などの対策が進められています。
このたびCTCは、ダイナモガードを活用し、C-NOAHを生成するAIチャットボットに幻覚抑制機能を追加しました。金融機関においては、誤った情報の提供が、顧客や従業員の不適切な投資判断や顧客情報の漏洩につながる可能性があるため、CTCは、AIチャットボットからの回答精度を向上させることで、インターネットバンキングやFAQシステムにおける問い合わせの正確性・信頼性の向上を目指します。
こちらもお読みください： ネットスターズ、ストライプと提携しQRコード決済に対応
Dynamo Guardは、入力されたプロンプトが企業のコンプライアンス方針に合致しているかどうかをリアルタイムで検証するAI監査ツールです。コンプライアンスの観点から不適切と判断される内容が入力された場合、そのプロンプトはAIの学習データとして使用されず、回答の生成は自動的に停止します。 さらに、生成された回答は、公的機関、業界団体、企業などの公式データといった信頼性の高い情報と比較され、回答の正確性が定量化・評価されます。評価結果が一定の水準を下回った場合、画面上にアラートが表示され、ユーザーに通知されます。.
今後について CTC 当社は、幻覚の抑制を含むAIガバナンスの強化を継続し、C-NOAHをお客様の業務に合わせてカスタマイズするとともに、新たなアプリケーションを開発してまいります。また、生成AIの信頼性向上と安全な利用を通じて、金融業界における業務の高度化と効率化を支援してまいります。.
ソース PRタイムズ
日本語