サードパーティAIの規約変更・障害への備え｜依存リスクの管理

ChatGPTやCopilot、クラウドのAI APIのように、他社が提供するAI（サードパーティAI）を業務に取り入れる企業が増えています。自社でAIを開発しなくても始められるのは大きな利点です。その一方で、利用規約の変更、サービス障害、モデルの提供終了といった「自社では止められない変化」の影響をそのまま受けるというリスクを抱えることになります。

この記事では、サードパーティAIのリスクを米国の公的なAIリスク管理の枠組みであるNIST AI RMFと、経済産業省・総務省の「AI事業者ガイドライン」に沿って整理します。そのうえで、中小〜中堅企業でもすぐに始められる管理の手順をまとめました。

なぜ今、サードパーティAIのリスクが問題になるのか

「便利な道具」が「止まると困る業務基盤」になっている

導入したばかりの頃は「試しに使っている便利な道具」だった生成AIも、問い合わせへの回答文の作成、議事録づくり、コードの作成支援などに組み込まれるうちに、止まると業務が回らない基盤へと性格が変わっていきます。それでも多くの企業では、利用ルールは作っていても「止まったときにどうするか」までは決めていないのが実情です。

障害・変更・廃止は「例外」ではなく「前提」

大手のAIサービスでも、数時間におよぶ大規模な障害が起きたことが各社の稼働状況ページ（ステータスページ）で公表されています。また、古いモデルの提供終了（廃止）も、予告期間を置いたうえで定期的に行われています。料金体系、利用上限、データの扱いに関する規約が改定されることも珍しくありません。こうした変化は「いつか起きるかもしれないこと」ではなく、「必ず起きることとして計画に組み込むべきこと」です。

サードパーティAIの主なリスク5類型

このうち③は見落とされやすいリスクです。システムが止まらなくても「答えの質がいつの間にか変わる」ことがあり、気づかないまま業務品質が落ちていきます。

公的基準ではどう扱われているか

NIST AI RMF：4機能すべてに「第三者」の項目がある

NIST AI RMF（米国国立標準技術研究所のAIリスク管理フレームワーク）は、他社のAIやデータに由来するリスクをはっきり管理対象にしています。

• GOVERN（体制・方針）：GOVERN 6で、第三者のソフトウェアやデータ、サプライチェーンに由来するリスクに対応する方針・手順を求めています。リスクが高いと判断した第三者のAIが故障したときの緊急時の手順（コンティンジェンシー計画）も含まれます。
• MAP（把握）：MAP 4で、第三者の構成要素も含めたリスクと便益を洗い出すことを求めています。
• MEASURE（測定）：出力の品質や性能を継続的に測ることを求めています。モデルが変わったときの品質の変化（③）を見つける手段にあたります。
• MANAGE（対応）：MANAGE 3で、第三者に由来するリスクを定期的に監視し、管理することを求めています。

NIST AI RMFの全体像はNIST AI RMFとはで解説しています。

AI事業者ガイドライン：「AI利用者」にも責任がある

経済産業省・総務省の「AI事業者ガイドライン」では、AIを業務で使う企業を「AI利用者」と位置づけ、提供者が示す使い方の範囲で適切に使うことや、関係者と情報を共有することを求めています。「他社のAIだから責任も他社にある」とはならないという点が重要です。

すぐ使える：サードパーティAI台帳の項目例

管理の第一歩は「何を、どの業務で、どの程度頼っているか」を一覧にすることです。表計算ソフト1枚で十分に始められます。

利用を認めるAIと入力してよいデータの区分は、社内規程と一致させる必要があります。規程の作り方はAI利用ガイドラインの作り方を参考にしてください。

依存リスクを管理する5ステップ

1. 棚卸し（MAP）：部署ごとに利用しているAIを洗い出し、台帳に登録します。申請されていない「シャドーAI」も対象に含めます。
2. 重要度の分類（GOVERN）：「止まったら何時間で困るか」を基準に、高・中・低の3段階に分けます。
3. 契約・規約の確認（GOVERN）：データの扱い、学習への利用、稼働率の保証（SLA）、規約変更の通知方法、契約終了時のデータ削除を確認します。
4. 代替手段と手順の準備（MANAGE）：重要度「高」のAIについて、停止時の切替先・判断者・社内への連絡文面を決めておきます。
5. 監視と定期点検（MEASURE／MANAGE）：ステータスページや規約更新の通知を受け取れるようにし、四半期ごとに代表的な質問で出力品質を確かめます。

障害発生時の初動対応は、AIインシデント対応フローの手順に組み込んでおくと迷わずに動けます。

点検チェックリスト

• [ ] 業務で使っているAIがすべて台帳に載っている
• [ ] 重要度「高」のAIについて、停止時の代替手段と判断者が決まっている
• [ ] 規約・料金・データの扱いが変わったときに知る経路（通知先）がある
• [ ] モデルの廃止予定を確認する担当者と確認頻度が決まっている
• [ ] 出力品質を比べるための「定点の質問セット」がある
• [ ] 契約終了時のデータ削除と移行の方法を確認している

よくある失敗

• 無料版や個人契約のまま業務に使っている：規約変更の通知が担当者個人にしか届かず、会社として変化に気づけません。
• 「大手だから止まらない」と思い込んでいる：稼働率の保証がない、あるいは保証があっても補償が利用料の返金にとどまるケースは一般的です。業務が止まったことによる損失は、自社で手当てする前提で考えます。
• 代替手段が「別のAI」しかない：同じ基盤の上で動くサービス同士では、同時に止まることもあります。最終的な代替として、手作業の手順を残しておきます。
• プロンプト（指示文）が担当者の頭の中にしかない：モデルが変わったときや乗り換えるときに作り直せません。指示文は文書化し、管理しておきます。

よくある質問

Q. 中小企業でも台帳まで作る必要がありますか？ A. 利用しているAIが数件でも、一覧を作る価値はあります。最初は「サービス名・利用業務・重要度・責任者」の4列から始め、必要に応じて項目を増やしていけば十分です。

Q. 規約の変更はどうやって把握すればよいですか？ A. 法人契約の管理者アカウントで通知を受け取り、共有メールアドレスに届くように設定するのが基本です。そのうえで、四半期ごとに規約ページを確認する担当者を決めておくと安心です。

Q. 複数のAIサービスを契約しておくべきですか？ A. 重要度「高」の業務では、切替先を1つ用意しておくことをおすすめします。ただし、契約が増えると管理の手間とデータが流出する経路も増えます。重要度に応じて絞り込むことが大切です。

Q. モデルが変わったことによる品質の変化に、どう気づけばよいですか？ A. 業務で典型的な質問を10問ほど「定点の質問セット」として保存し、定期的に、あるいはモデルの更新が告知されたときに回答を比べる方法が手軽です。

Q. 社内で開発したAIシステムでも同じ考え方は必要ですか？ A. 必要です。社内開発でも、裏側で外部のAPIや学習済みモデルを使っていれば、それはサードパーティAIへの依存にあたります。システムの構成要素まで台帳に記録しておきましょう。

まとめ

サードパーティAIのリスクは、障害、規約変更、モデルの変更・廃止など、自社では止められない変化に業務が左右されることにあります。NIST AI RMFは4つの機能のすべてで第三者に由来するリスクの管理を求めており、AI事業者ガイドラインもAIを使う側の責任を明記しています。まずは台帳づくりと重要度の分類から始め、重要な業務については代替手段と判断者を決めておきましょう。

自社のAI利用がどこまで管理できているかを確かめたい場合は、無料のAIガバナンス診断をご活用ください。研修の資料請求や無料相談も受け付けています。