AIが「考える」だけでなく「実行する」時代に、既存ルールが限界を迎えた

カスタマーサポートを自律処理し、コードを書いて自らテストし、複数のシステムを横断しながら業務を完結させる——そんなAIが2026年には企業の現場に入り込んでいる。こうした「エージェンティックAI（自律型AI）」は、コンテンツを生成するだけの従来のAIとは根本的に異なり、外部のAPIやデータベースにアクセスして実際の行動を起こす。その分、新しいリスクも生まれた。カスケード障害（1つの誤判断が連鎖してシステム全体に波及する）、ツールの悪用、そして「誰が責任を取るのか」という追跡困難の問題だ。

こうした課題を受け、シンガポールの情報通信メディア開発庁（IMDA）は2026年1月22日、スイスのダボスで開かれた世界経済フォーラムの場で「エージェンティックAI向けモデル・ガバナンスフレームワーク」を世界で初めて発表した。2020年に公開された従来のAIガバナンスフレームワークの進化版であり、「生成するAI」から「行動するAI」への転換に規制の側が正面から応えた文書だ。

元記事・原文引用

元ネタ：New Model AI Governance Framework for Agentic AI（IMDA・シンガポール情報通信メディア開発庁 / 2026年1月22日）

“Agentic AI systems are capable of autonomous planning, reasoning and action… and introduce new risks such as unauthorized or erroneous actions, data breaches, and disruption to connected systems.”

設計段階でリスクを閉じ込める——フレームワークが提示した4原則の構造

フレームワークに貫かれているのは、「使う段階ではなく、設計段階でリスクを限定する」という思想だ。4つの原則は以下のとおりだ。

①リスク評価と権限の制限：AIエージェントにどこまでのデータアクセスと自律性を与えるかを、用途ごとに事前に評価して制限する。アクセスできるツールをホワイトリスト化し、権限の範囲を細かく設定することで「暴走」を設計段階で防ぐ。

②人間による有意義な説明責任：開発者・導入企業・運用担当者・エンドユーザーのそれぞれに役割と責任を明確に割り当てる。特に現実世界に影響が及ぶ行為（金融取引・医療判断など）では、必ず人間が関与するチェックポイントを設けることを求める。

③技術的な統制とプロセス：開発段階でのガードレール実装、導入前のタスク実行・ポリシー準拠テスト、導入後の段階的ロールアウトとリアルタイム監視という3段構えを推奨。問題が起きてから修正するのではなく、ライフサイクル全体で継続的に管理する体制を求める。

④エンドユーザーの責任強化：AIが何をできて何ができないかを透明に開示し、利用者が過度に依存せず「有効な管理者」として機能できるよう、教育と情報提供を義務付ける。問題発生時の連絡先明示も含まれる。

このフレームワークは「生きた文書」と位置付けられており、企業や研究者からのフィードバックを受けて継続的に更新される。シンガポール政府が目指すのは「イノベーションを妨げずに、信頼できるAIを実現する」というバランスであり、禁止より透明性と設計責任を優先する思想が全体に流れている。

韓国・台湾も相次ぐ——アジア太平洋で「先制的ガバナンス」へのシフトが鮮明に

今回のフレームワークが示す方向性は、アジア太平洋地域全体の動きとも呼応している。韓国は2026年から「AI基本法」を施行し、台湾も2025年に同様の「AI基本法」を成立させた。いずれも人間の監視、データ保護、有害なAI利用の禁止を共通課題として掲げており、「反応的規制から先制的ガバナンスへ」というシフトが鮮明だ。

シンガポールのフレームワークがこれらと異なるのは、「エージェンティックAI」という特定カテゴリに焦点を絞っている点だ。従来のAIガバナンスは「AIが生成したコンテンツの品質管理」が中心だったが、エージェンティックAIは外部システムに接続して実際の行動を起こす。今回の文書は「行動するAIへの規制」という新しい文脈を世界で最初に定義したものと言える。

日本のAIガバナンスにとって何が変わるか

日本でも内閣府のAI戦略会議と経済産業省がAIガバナンスのガイドラインを整備してきた。しかし、エージェンティックAIの自律的行動リスクを具体的に規定した文書はまだ存在しない。今回のシンガポールのフレームワークは、日本の政策立案者にとって参照すべき先行事例となる。

特に注目すべきは「役割ごとの責任の明確化」という原則だ。日本企業がAIエージェントを導入する際、「誰が最終責任を持つか」が曖昧なまま進めるケースが少なくない。システム開発会社、AIサービス提供会社、導入企業、それぞれが責任を分散させ、問題が起きると互いに責任を転嫁する構造がリスクを増幅させる。シンガポールのフレームワークが示す「役割ごとの責任マップ」は、日本の企業法務・コンプライアンス担当者にとっても実務的な参考になるだろう。

また、経済産業省が推進する「AI事業者ガイドライン」（2024年公開）は生成AIの品質と透明性を中心に構成されているが、AIが自律的に業務判断を行う段階には対応しきれていない。シンガポールの事例は「どの段階で人間の意思決定を求めるか」という設計思想を日本版ガイドラインに組み込む議論を加速させる可能性がある。

「誰が責任を持つか」を設計段階で決める——それが自律型AI時代の競争条件になる

シンガポールの今回のフレームワークが示すメッセージは一貫している。AIが自律的に動く世界では、事後的な問題対応ではなく、設計段階からリスクを閉じ込め責任の所在を明確にすることが、組織の信頼性と競争力を左右するということだ。

「使ったAIが暴走した。でも誰の責任かわからない」——その状況を許容するコストは、ガバナンスに投資するコストをすでに上回りつつある。エージェンティックAIが日本企業にも急速に浸透するなかで、シンガポールが先に引いたこの線をどう参照し、どう日本の文脈に翻訳するかが、今後2〜3年の実務的な問いになるだろう。

参照・原文リンク