マネージドAI運用とは、稼働後もAIの業務フローを信頼できる状態に保つための仕事です。結果の監視、実際の案件を使った評価、モデル変更への対応、不具合の修正、次の業務フローの追加を行います。これを担うのは、名前のある担当者です。コード、データ、ドキュメント、停止スイッチは御社の手元に残るため、ブラックボックスになることはありません。
要点
- AIの業務フローは、稼働した時点で完成ではありません。入力、モデル、業務ルールはどれも変わり続けます。
- 監視と、実際の案件を使った定期的な評価によって、顧客が気づく前に品質の低下が分かります。
- 双方に名前のある担当者がいれば、自動化が失敗したときに誰が責任を負うのかという問いに答えられます。
- ドキュメントとアクセス権が御社の名義になっていれば、構築した人が去った後も動き続けます。
- コード、データ、アカウントは御社のものであり、御社がいつでも停止できます。
マネージドAI運用. 本番環境でAIの業務フローを継続して運用することです。監視、評価、モデルの更新、修正、改善、新しい業務フローの追加を、名前のある担当者が行い、所有権と管理権は顧客が持ち続けます。
稼働後には何が起こり、誰が業務フローを保守するのですか
よくある話です。構築した人が去るまではうまく動いていたのに、その後は誰も触りたがらない。新しいレイアウトの請求書が届く、社内規程が変わる、あるいはモデル提供元がバージョンを更新する。そうして品質は静かに落ちていきます。誰も見ていなければ、最初の兆候は苦情です。
StennirのAI導入では、稼働の後にマネージドAI運用が続きます。Stennir側の名前のある担当者が業務フローの健全性に責任を持ち、御社側の名前のある担当者が業務ルールに責任を持ち、出力を承認します。どちらも稼働前に書面で決めておきます。
#マネージドAI運用には、具体的に何が含まれますか
- 監視:件数、エラー率、承認率と却下率、そして人が上書きした案件です。
- 評価:御社の過去の実際の案件から作ったテストセットを、プロンプト、ルール、モデルを変更するたびに再実行します。
- モデルの変更:提供元がモデルを公開または廃止したときは、新しいモデルを御社の案件で検証してから、古いモデルと置き換えます。
- 修正と改善:却下された出力を確認し、その原因となったルールや文書を直します。
- 次の業務フロー:最初のフローが安定して動いたら、チームが学んだことをもとに次のフローの範囲を決めます。
これは、リスクフレームワークがAIについて述べていることと一致します。NIST AIリスクマネジメントフレームワーク(2023年1月)は、継続的な測定と明確な説明責任をAIリスク管理の一部と位置づけています。また、ISO/IEC 42001(2023年12月)は、一度きりの点検ではなく、AIのためのマネジメントシステムを定めています。
#AI企業が何かを構築した後、コードとデータは誰のものですか
御社のものであるべきで、それを書面で定めるべきです。Stennirの場合、クラウドのアカウント、モデル提供元のアカウント、コードのリポジトリ、データは、最初から御社の名義になっています。Stennirはその中で、御社がいつでも取り消せるアクセス権を使って作業します。ホスティングは御社のルールが求める場所に置きます。関係が終わっても、移したり買い戻したりする必要のあるものはありません。
We are
Stennirは、御社が所有するアカウントの中で、名前のある担当者として稼働後のAI業務フローを運用し、ドキュメントと、御社が管理する停止スイッチを用意します。
We aren't
Stennirは、御社の業務フローを自社サーバーに抱え込むプラットフォームでも、コードを渡して姿を消す開発会社でもありません。
ブラックボックスを引き継がないためには、どうすればよいですか
引き渡しの際に、三つのものを求めてください。一つ目は、新しく加わったエンジニアでも追えるドキュメントです。業務フローが何をするのか、ルール、プロンプト、テストセット、変更の反映方法を記したものです。二つ目は、すべての操作と承認のログで、どの出力も追跡できるようにします。三つ目は、検証済みの停止スイッチと、チームが切り替えて使う手作業のプロセスです。
管理体制が弱いと、プロジェクトは終わってしまいます。Gartner(2025年6月)は、エージェント型AIプロジェクトの40%以上が2027年末までに中止されると予測しており、その理由の一つに不十分なリスク管理を挙げています。そうした管理が実際に機能する場が、運用です。
#稼働前に、COOは何を確認すべきですか
双方の担当者は誰か、何を監視するのか、モデル変更をどう検証するのか、ドキュメントはどこにあるのか、どうやって停止するのかを確認してください。あいまいな答えがあれば、公開前に直してください。Stennirのプロトタイプを本番に移す実例では、これらが揃った状態を紹介しています。あわせてオペレーション向けのAIもご覧ください。無料の準備度診断を受けるか、30分の通話を予約することもできます。
よくある質問
マネージドAI運用の間、当社には何が求められますか。
業務ルールに責任を持ち、出力を承認する名前のある担当者、業務フローが関わるシステムへのアクセス、そして却下や上書きがあった案件を話し合う定期的なレビューです。御社側でルールや規程が変わったときは、その担当者からStennirにお知らせください。業務フローとテストセットもあわせて変更します。
モデル提供元がモデルを変更したり廃止したりしたら、どうなりますか。
Stennirは切り替える前に、御社の実際の案件から作った評価セットで新しいモデルを動かします。結果が維持されるか改善すれば、御社の承認を得て変更します。そうでなければ、プロンプトやルールを調整する間、現在のモデルを使い続けます。すべての変更は記録されるため、何が変わったかを確認できます。
後から、自社のチームが引き継ぐことはできますか。
はい。コード、アカウント、ドキュメント、テストセットはすでに御社のものなので、社内のエンジニアへの引き継ぎは、緊急の救出ではなく計画された一つの手順になります。StennirはAIトレーニングを通じて運用を担う人を育成できるため、知識が構築した人と一緒に去ることはありません。
当社のデータはどこに保管されますか。
御社のルールが求める場所です。Stennirは、規制当局や社内方針が求める地域にホスティングを設定します。対象はデータの保存場所だけでなく、モデルが動く場所も含みます。データは御社が所有するアカウントの中に残り、アクセスは各手順に必要な範囲に限られ、データに対するすべての操作が記録されます。
