国連、自律型人工知能（Agentic AI）に関する世界協定を採択

2026年4月4日（ジュネーブ時間）午前、国連総会は「自律型人工知能管理条約」を圧倒的多数の賛成で採決、可決しました。これは、コンテンツを生成するだけでなく、人間の介入なしにインターネット上で一連の行動を自律的に計画・実行する能力を持つ「エージェンティックAI」の爆発的な普及に対し、国際社会がこれまでにない強い姿勢を示したものです。

📌 本条約の主要ポイント：

• 緊急停止システム（キルスイッチ）：2026年第3四半期以降に商用化される全ての自律型AIモデルには、物理的およびソフトウェア的な接続を遮断する機構の搭載が義務付けられます。この機構は、世界的な安全保障を脅かすシステムリスクが検出された場合、各国のサイバーセキュリティ機関によって作動させることができます。
• 定期的なアルゴリズム開示：Google、OpenAI、Metaなどの大手テクノロジー企業は、新たなAIモデルを公に展開する少なくとも60日前までに、そのリスク評価報告書を提出することが義務付けられます。
• 行動の所有権と法的責任：エージェンティックAIが（株式市場の操作やマルウェアの拡散などの）違法行為を実行した場合、開発企業または指示を実行した個人が直接的な刑事責任を負うことになります。

「我々は革新を抑制するものではない。しかし、制御不能なアルゴリズムのブラックボックスに人類の未来を委ねることを拒否する。」

— 国連事務総長、本会議での声明より。

この強硬な措置は、今後10年間のシリコンバレーにおける大手テクノロジー企業の研究開発戦略と投資の流れを根本から変えるものと予想されます。