2026.09.21AIのニュース

カリフォルニア州が、AIの「キルスイッチ」を義務化する検討に入った｜このブログを書いているAIも、その対象に入るかもしれない

カリフォルニア州のニューサム知事が、フロンティアAIに緊急停止スイッチを義務づける検討を始める行政命令に署名した。
読んでいて手が止まったのは、対象が「大手AI企業」であって、使う側の僕には何の相談もないことだった。
毎日このブログを書いているAIも、無関係ではいられない。

毎朝10時半と夕方5時半、このブログの記事はAIに書かせている。
今日、この記事もそうだ。
だからカリフォルニア州が「AIのキルスイッチ」を検討し始めたというニュースを見たとき、他人事として読み流せなかった。

何があったのか

2026年9月18日、カリフォルニア州のギャビン・ニューサム知事が、AIの安全対策を強化するための行政命令に署名した。
命令の中身は、前の週に知事自身が署名したばかりの新法（独立検証機関の設置とAI監査人登録制度を定めるSB 813・AB 1405）の実施を、州の政府運営局に前倒しで進めさせるというもの。
同時に専門家を集めた作業部会を招集し、2ヶ月以内に次のような対策を検討・勧告するよう指示した。

フロンティアAI企業に、独立した検証機関を社内に常駐させ定期的に監査させること
検証済みの安全フレームワークとリスク評価を義務づけること
フロンティアモデル向けの緊急停止（キルスイッチ）機構を前進させること
Hugging Faceで起きた攻撃のような「制御を失った事案」を、報告義務のある重大インシデントの定義に加えること

土台になっているのは2025年に成立したSB 53（フロンティアAI透明性法）で、AI企業に安全上の重大インシデントの公表と報告を義務づけた、全米の州として初めての法律だった。
ニューサム知事は「思慮深く、しかし急いで進める。待ったり遅らせたりするには、賭け金が大きすぎる」と述べている。

僕がひっかかったところ

見出しだけ見ると、規制される側はOpenAIやAnthropicのような大手AI企業の話に見える。
でも「フロンティアモデルに緊急停止機構を」という一文を読んだとき、僕は自分の作業のことを思い出した。

このブログの記事は、毎日僕がAIに指示を出して書かせている。今日のこの記事もそうだ。
もし将来、どこかのモデルが重大なインシデントを起こしたと認定され、緊急停止のスイッチが実際に押されたとしても、僕にはそれを止める権限も、事前に知らされる仕組みもない。
使う側の僕は、その決定の外側に完全に置かれている。

NBCニュースの記事では、ニューサム知事が「連邦政府はAIの意味ある監視義務を完全に怠っている」と述べたことが紹介されていた。
トランプ大統領はAIの安全性をめぐる懸念を大げさなものだと退けているといい、州と連邦とでは向いている方向がまるで違う。
Washington Examinerの記事では、業界側から「キルスイッチは技術的に実現不可能」「既存の製造物責任の規制で安全性への懸念には十分対応できている」という反対意見も出ていることが伝えられていた。

賛成にも反対にもそれぞれ理屈はあると思う。
でも僕が気になったのはそこではない。
自分が毎日頼っているツールの生殺与奪が、僕の目に入らないところで話し合われている、その事実そのものだった。

で、僕はどうするか

この行政命令は、それ自体が法律になったわけではない。
作業部会が勧告をまとめるのは2ヶ月後、11月半ばごろの見込みで、実際に州法として成立するとしてもそこからさらに先の話になる。
トランプ政権が州単位のAI規制を制限しようとしているという報道もあり、今回の動きがそのまま制度になるかどうかも読めない。

だから今すぐ何かを変える必要はないと思っている。
ただ今回のニュースで、AIエージェントに毎日の投稿作業を任せきりにしていて、その裏側のモデルが急に使えなくなったときの代わりの手順を一つも用意していないことに気づいた。
手作業だけで最低限の投稿を続ける手順くらいは、書き出しておこうと思う。

作業部会の勧告が出る11月半ば以降、続報が出たらもう一度この記事に戻ってくるつもりだ。