2025年5月、国の行政機関向けに「生成AIの調達・利活用に係るガイドライン」が策定されました。
これは、生成AIを安全かつ効果的に活用するためのルールブックです。対象は主にChatGPTのようなテキスト生成AIで、リスクを適切に管理しながら行政に役立てることを目的としています。企業にとっても、AI導入の参考になる重要な内容が多く含まれています。
|
◆ガイドラインの特徴まとめ ・生成AIの活用とリスク管理を両立させるための運用ルールが体系化されている |
【参考】
デジタル庁：「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」を策定しました
「行政の進化と革新のための生成 AI の調達・利活 用に係るガイドライン」PDF
「行政の進化と革新のための 生成AIの調達・利活用に係るガイドラインについて（概要）」
▶︎ BEST.AI.SYSTEMの「お問い合わせフォーム」はこちらから ◀︎
▶︎ガイドラインの目的と背景
このガイドラインは、生成AIの「便利さ」と「リスク」の両面を踏まえ、安全に導入・活用するための政府内ルールです。
背景には次のような課題があります。
|
◆生成AI導入・活用の課題 ・AIによって業務効率が向上する一方で、誤情報や偏見のある出力のリスクもある |
▶︎適用対象と運用開始時期
【対象となるAIシステム】
・ChatGPTなどのテキスト生成AIを含むシステム
・国の行政機関が利用するもの（都道府県や独法も参考にすることを期待）
※特定秘密や国家安全保障に関わるシステムは除外されます。
【開始時期】
・2025年度（令和7年度）：可能な限り対応
・2026年度（令和8年度）以降：全面適用
▶︎リスク評価の考え方
生成AIの活用が「高リスク」とされるかどうかは、以下の4軸で判断されます。
1. 利用者の範囲
生成AIを「誰が使うか」によって、影響の範囲が大きく異なります。
・府省庁内の職員だけが使う場合は、影響が限定されておりリスクは低い
・複数の府省庁をまたいで共通利用する場合は、影響が広がりリスクは中程度
・国民向けに提供されるシステムに組み込む場合は、社会的影響が大きいためリスクは高い
【例】行政チャットボットで誤った回答が国民に届いた場合、信頼低下や社会混乱につながる恐れがあります
2. 業務の性質
生成AIを「何のために使うか」によって、リスクの大きさが変わります。
・人の命や安全に関わる業務（災害対応、健康指導など）はリスクが高い
・国民の権利に関わる業務（年金、税務、認定など）も高リスクにあたる
・重要な政策立案や判断に関わる業務では、説明責任の重さからリスクが高くなる
【例】AIが生成した要約をそのまま行政判断の根拠に用いる場合、誤解や誤判断のリスクがあります
3. 取り扱うデータの性質
生成AIが入力や学習に用いるデータが「どの程度重要か」によって、情報流出や不正利用のリスクが変わります。
・個人情報（氏名、住所、履歴など）を扱う場合は慎重な対応が必要
・行政内部の非公開情報や判断材料が含まれる場合もリスクが高くなる
・生成AIが入力データを保存したり学習に使う仕組みかどうかも重要な判断材料
【例】一時的な利用ならリスクを抑えられるが、クラウド型サービスが学習に使う設定だとリスクが高まる
4. 出力結果の扱い方
生成AIが出した内容を「そのまま使うか」「人が確認してから使うか」によって、リスクの制御が可能かどうかが分かれます。
・職員が必ず出力をチェックしてから利用する場合はリスクが低い
・出力を自動的に国民や他機関に提供する場合はリスクが高い
・入力と出力の間に「人の判断」があるかどうかが重要
【例】職員がAIの回答を確認せず、自動返信として使った場合に誤回答が広がるリスクがあります
▶︎安全に使うための仕組み
生成AIを安全に使い続けるには、技術だけでなく「使い方の管理体制」も整える必要があります。ガイドラインでは、そのための組織的な仕組みが定められています。
主な役割と構成
・CAIO（Chief AI Officer）を各府省に配置し、AI活用とリスク対応を統括する
・先進的AI利活用アドバイザリーボードを政府全体で設置し、専門的な助言を提供する
・デジタル庁に「AI相談窓口」を設け、各府省からの質問や相談を受け付ける
CAIOの役割
・自分の所属する府省庁での生成AIの使い方を把握し、全体を統括する
・AIを使うルールを定めて周知する
・研修を実施して職員のAIリテラシーを高める
・高リスク案件がある場合はアドバイザリーボードに報告し、必要に応じて助言を求める
【補足】CAIOは原則として「デジタル統括責任者」か「副デジタル統括責任者」が兼務することが想定されています
▶︎調達と契約に関するルール
生成AIを新しく導入したり、外部ベンダーに開発・提供を依頼したりする際には、調達や契約の段階からリスクを見据えた対応が求められます。
調達時のチェックポイント
|
◆調達チェックシート ✔ 学習や出力に使われるデータの扱いが適切か |
契約時のチェックポイント
|
◆契約チェックシート ✔ AIが生成した内容について、誰が責任を持つのかが明確にされているか |
これらのチェックは、形式的な作業ではなく、AIを公共サービスに組み込むうえで「人の暮らしに影響する責任」を踏まえた内容になっています。
▶︎職員によるAI利用のルール
生成AIを実際に使う職員に対しても、一定のルールが求められています。これは誤用や依存、責任の所在不明などを防ぐためです。
|
◆職員によるAI利用のルール ・出力された内容をそのまま使わず、人が必ず内容を確認し必要に応じて修正する |
▶︎トラブル時の対応と報告体制
生成AIは、十分に注意していても問題が発生する可能性をゼロにはできません。そこで、万一のリスクが顕在化した場合に備えた「対応ルール」も定められています。
想定されるリスクケースの例
・人種や性別、宗教などに対して差別的・不適切な表現を出力した
・事実に反する情報を出力し、それをもとに職員や国民が誤った判断をした
・著作権侵害の恐れがある文章や画像を生成した
・個人情報や機密情報が、意図せず出力結果に含まれてしまった
発生時の対応
・職員が気づいた時点で、CAIOに速やかに報告する
・必要に応じて、事業者やベンダーにも情報提供を求める
・同様のリスクを他の府省庁でも共有し、再発防止策を協議する
・先進的AI利活用アドバイザリーボードに報告し、対応の妥当性について助言を受ける
・インシデントが情報セキュリティにも関係する場合は、CISO（最高情報セキュリティ責任者）とも連携する
ガイドラインでは、こうしたインシデント対応もAI活用の「一部」として制度化することが求められています。
▶︎最後に：企業にとっての活用ポイント
このガイドラインは政府向けですが、以下のように企業にとっても参考になります。
|
◆ガイドライン企業活用のポイント ・自社のAI活用ルールやポリシーのモデルになる |
生成AIを扱う企業は、制度や基準の「方向性」を掴んでおく意味でも、チェックしておく価値があると私たちは考えています。
弊社「株式会社BEST.AI.SYSTEM」では、企業・介護・福祉DX化や生成AI活用に特化したサービスを提供しています。導入支援や研修についてご相談がありましたら、ぜひお気軽にお問い合わせください。
▶︎あわせて読みたい記事
BEST.AI.SYSTEMの【福祉・介護向け生成AI講座】と業務活用例
【生成AI導入率41.2％】企業のための生成AI導入準備チェックリストあり
IT導入補助金2025の概要と【福祉・介護業界】での活用事例5選