導入前に、取締役会は五つのことを書面で確認すべきです。AIが関わる業務フロー、その出力を承認する人、記録する内容、評価が準拠するリスクフレームワーク、そして会社が業務フローを止める方法です。これらを合わせると、一度書いて棚にしまう規程ではなく、経営陣が最新の状態に保つ簡潔なガバナンス計画になります。
要点
- ガバナンスは棚卸しから始まります。取締役会は、動いていることを知らないAIを監督できません。
- すべての業務フローに、AIの出力を承認し、覆すことのできる名前のある担当者が必要です。
- ログは、システムが何を、どの入力で行い、誰が承認したのかを、監査人が再現できるものであるべきです。
- NIST AIリスクマネジメントフレームワークやISO/IEC 42001など、広く認められたフレームワークを明示してください。そうすれば、取締役会が自前の枠組みを評価せずに済みます。
- 規制業種の企業は、業界の規制当局にも説明責任を負います。その規則は、一般的な規則の上に重なります。
#AIを導入する前に、どんなガバナンスを整えておくべきですか
- 棚卸し:AIが何かを生成したり変更したりするすべての業務フローの一覧です。従業員が自分の判断で使っているツールも含みます。
- 名前のある承認者:各業務フローに一人ずつ置き、出力を却下したり修正したりする権限を持たせます。
- リスク評価:各業務フローについて、明示したフレームワークに沿って行い、棚卸しとあわせて保管します。
- ログ:入力、出力、モデルのバージョン、承認を記録します。
- 停止スイッチ:誰が、どうやって業務フローを止めるのか、そして止めている間にチームが手作業で何をするのかを決めます。
- 見直しの日付:棚卸しと評価を改めて確認する日を、取締役会が定めます。
これは、Stennirがすべてのコンサルティング案件に盛り込んでいる一覧です。その理由はすべてのコンサルティング案件にガバナンス計画を付ける理由で説明しています。
取締役会は、どのリスクフレームワークについて確認すべきですか
広く使われているものが二つあります。NIST AIリスクマネジメントフレームワークは、人による監督と説明責任をAIリスク管理の一部と位置づけています(NIST、2023年1月)。ISO/IEC 42001は、AIマネジメントシステムの国際規格で(ISO、2023年12月)、企業はこの規格の認証を受けることができます。
セキュリティの面では、OWASP Top 10 for LLM Applicationsがプロンプトインジェクションを最初に挙げています。顧客や文書から入ってきたテキストが、モデルの動きを変えようとするリスクです。取締役会に技術的な詳細は必要ありません。必要なのは、各業務フローで誰かがそれをテストしたという確認だけです。
規制を受ける金融機関では、何が変わりますか
SAMAやNCAなどの業界の規制当局は、独自の規則を定めています。必ず確認してください。これらは一般的なデータ保護法の上に重なるため、一般的な審査を通った業務フローでも、銀行や保険会社ではさらに対応が必要になる場合があります。顧客データを使う前に、各業務フローを規制当局が公表している要件と照らし合わせるよう、コンプライアンス部門に依頼してください。
この記事は法律上または規制上の助言ではありません。弁護士とコンプライアンス部門に確認してください。Stennirが提供するのは、その判断に必要な業務フローの詳細です。各手順が扱うデータ、それを処理する場所、結果を承認する人、記録する内容です。
#AIシステムが何をしたかを監査するには、何を記録すべきですか
- システムが受け取った入力です。全文の保存が認められない場合は、その参照情報を記録します。
- モデルとそのバージョン、そしてモデルに与えた指示のバージョンです。
- 回答を作るために参照した文書や記録です。
- 人が手を加える前の、システムが生成した出力です。
- 誰がそれを承認、編集、または却下したかを、日時とともに記録します。
- その後、連携先のシステムで何が起きたかです。たとえば、記録の更新やメッセージの送信です。
この六つがあれば、監査人は後からどの判断でも再現できます。承認の記録がなければ、問題が起きたときに誰が責任者だったのかを誰も言えません。
We are
Stennirは、業務フローを稼働させる前に、棚卸し、承認者、ログ、停止スイッチを各業務フローに組み込み、アカウント、ログ、停止スイッチを御社の所有のままにします。
We aren't
Stennirは法律事務所でも認証機関でもなく、御社のコンプライアンス部門や規制当局の審査に代わるものではありません。
取締役会やリスク委員会は、次に何をすればよいですか
まず経営陣に棚卸しを求めてください。従業員が自分で取り入れたツールを含め、AIがすでに業務に関わっているすべての場所です。次に、それぞれについて承認者とログの設計を求めてください。AIコンサルティングはその両方を作成します。コンプライアンス向けのAIでは、レビューの業務フローがどう動くかを紹介しています。無料の準備度診断を受けるか、30分の通話を予約することができます。
よくある質問
取締役会は、すべてのAI業務フローを承認する必要がありますか。
いいえ。取締役会はガバナンス計画とリスク許容度を承認し、棚卸しを確認します。個々の業務フローは、そのルールの範囲内で経営陣が承認します。ただし、顧客データを扱う業務フロー、人に関する判断を行う業務フロー、業界の規制当局の対象となる業務フローについては、最もリスクが高いため、取締役会に報告すべきです。
AIが生成したものは、誰が承認しますか。
その業務をすでに担当している、事業部門の名前のある人です。たとえば、保険金請求チームや財務チームの責任者です。その人はどの出力でも却下や修正ができ、その判断は記録されます。説明責任は御社の中に残らなければならないため、Stennirがその役割を担うことはありません。
当社には何が残りますか。
監査にとって重要なものすべてです。アカウント、データ、ログ、モデルに与えた指示、そして停止スイッチです。Stennirはこれらを御社の名義で用意します。取引をやめても、ログとガバナンスの記録は、御社のチームと監査人が引き続き読める状態で残ります。
どんな問題が起こり得ますか。
よくある失敗は、従業員が自分で取り入れたツールが棚卸しから漏れること、承認が実質的な確認を伴わないクリック作業になること、ログに出力は残っていても承認者が残っていないことです。いずれも導入前のテスト監査なら簡単に見つかりますが、後から説明するのはずっと難しくなります。
