銀行やフィンテックでAIを使うことは、プロンプトに入るデータを管理し、PIIを排除し、組織の内部ポリシーに従う限り安全だ。セキュリティはモデルではなく、使う人間の判断に依存する。
私は毎日AIを使うが、金融データが関わるプロジェクトではワークフローが完全に変わる。これは神経質ではない。データ漏洩が深刻な規制上の結果をもたらす銀行で何年もデザインしてきた経験から来ている。
最初に学んだのは、不注意なプロンプトが情報漏洩になり得るということだ。大げさに聞こえるが事実だ。実名、口座番号、メールアドレス、顧客の行動パターンは一切プロンプトに入れない。例えとしてでさえ入れない。
架空の情報を扱う時でもdata maskingを使う。モデルに有用な結果を出させるための文脈が必要な場合は抽象化する。回答の精度を少し失う方が、セキュリティインシデントの説明をするよりましだ。
ツールの選択にも慎重だ。速いものが金融で使えるとは限らない。機密性の高いプロジェクトでは、データ保持の方針が不明確なクラウドサービスや、プロンプトをモデル学習に使うかどうか透明性のないサービスは避ける。
可能な場合はローカルツールや監査機能のあるエンタープライズ環境を使う。遅くて洗練されておらず時にイライラするが、フィンテックでは速いことが常に許容されるわけではない。
内部ポリシーは常に最優先だ。コンプライアンスがプロンプトの記録、バージョン管理、文書化されたレビューを要求するなら、議論の余地なく実行する。AIはコンプライアンスの上には立たない。
デザインフェーズで使用したプロンプトを監査で確認された経験がある。創造性ではなくリスクを探していた。機密情報が外部モデルを通過していないか、それを裏付ける文書があるか確認していた。
このレベルの審査は思考を変える。プロンプトを内部文書のように書き始める。すべての言葉に重みがある。すべての例がクリーンでなければならない。
時間とともに、金融プロジェクトでプロンプトを送る前のメンタルチェックリストができた。実データなし。名前なし。具体的な金額なし。本番情報と交差し得る文脈なし。面倒に聞こえるが、自動的になる。
AIのセキュリティは技術的な問題だけではない。文化の問題だ。モデルが自らデータを漏洩することはない。問題はほぼ常に、結果を考えずにプロンプトを書く人間だ。
フィンテックでは、安全でないプロンプトは千の美しい画面より高くつく。