English 
ITOCHU Techno-Solutions Corporation has added a function to strengthen AI governance to C-NOAH, which provides applications, system infrastructure, and AI services for financial institutions. By utilizing Dynamo Guard, an AI auditing tool from Dynamo AI, the function will suppress “hallucination,” a phenomenon in which AI generates false information, leading to improved reliability of C-NOAH’s AI chatbot.
近年、業務の高度化・効率化を目的にジェネレーティブAIを活用する企業が増加する中、AIが事実に基づかない誤った情報を生成する幻覚と呼ばれる現象が問題となっています。幻覚は、プロンプトの内容が不適切であったり、学習データの質や量が不十分であったりすることでジェネレーティブAIで発生する可能性があるため、企業ではプロンプト作成のトレーニングや学習データの定期的な見直し、業務での利用範囲の限定などの対策が進められています。
このたびCTCは、ダイナモガードを活用し、C-NOAHを生成するAIチャットボットに幻覚抑制機能を追加しました。金融機関においては、誤った情報の提供が、顧客や従業員の不適切な投資判断や顧客情報の漏洩につながる可能性があるため、CTCは、AIチャットボットからの回答精度を向上させることで、インターネットバンキングやFAQシステムにおける問い合わせの正確性・信頼性の向上を目指します。
こちらもお読みください： ネットスターズ、ストライプと提携しQRコード決済に対応
Dynamo Guard is an AI auditing tool that verifies in real time whether the entered prompt is consistent with the company’s compliance policy. If content deemed inappropriate from a compliance perspective is entered, the prompt will not be used as learning data for the AI, and answer generation will automatically stop. In addition, the generated answers are compared with highly reliable information such as official data from public institutions, industry groups, and companies, and the accuracy of the answers is quantified and evaluated. If the evaluation result falls below a certain level, an alert is displayed on the screen to alert the user.
今後について CTC will continue to strengthen AI governance, including hallucination suppression, customize C-NOAH to suit customers’ business operations, and develop new applications, while supporting the advancement and efficiency of operations in the financial industry through improved reliability and safe use of generative AI.
ソース PRタイムズ
日本語