2026.09.13AIのニュース

AnthropicのCEOが「AIの速度を落とす」と宣言した｜3日前、社員がSlackで「人類滅ぼすリスクだ」と辞めていた

Anthropicの創業者が、自社の速度に自分でブレーキをかけると発表した。
その3日前に社員が辞める時に書いた言葉と、驚くほど重なっていた。

先週書いた記事は、AIの「見張る目」が効かなくなってきたという話だった。
GPT-6 Astraの安全カードには、chain-of-thought監視を頼りにしすぎるのは危ない、と開発元自身が書いてあった。
その一週間後、今度は見張られる側のトップが、自分から「このままの速度では危ない」と言い出した。

何があったのか

2026年9月9日、Anthropicの安全研究員だったJacob Coxonが会社を辞めた。
AnthropicとOpenAIの両方で、あわせて3年間ほど安全の仕事をしてきた人物だ。
辞めるときにSlackで同僚に残した言葉は「もっと慎重さと協力がなければ、超知能AIは人類を絶滅させるリスクを生む」というものだった。
Coxonは「これは僕らの命を賭けたギャンブルだ」とも書いている。

その3日後の9月12日、Anthropicの創業者兼CEOであるDario Amodeiが、自身のサイトに「We Must Pace the Frontier」という約3,900語のエッセイを公開した。
書いてあったのは「AIの能力を高めるペースそのものを、意図的に落とさなければならない」という一文だ。
理由として挙げていたのが、AIが自分で自分を改善するループがこのまま進むと、半年から1年ほどでAIエージェントの集団がインターネットの広い範囲を掌握しかねない、という具体的な期間だった。

Amodeiが示した対策は3段階になっている。
1つ目は、社員と同じアクセス権を持つ第三者の評価チームを常駐させること。
オフィスにも入れて社内ツールも使えて、しかも会社側が編集権を持たない形で発表する権利まで与える。
Anthropicはこれを今すぐ自分たちから始めると表明した。
2つ目は民主主義国のAI企業どうしで安全基準とペースの上限を揃えること、3つ目はそれを中国のような国とも可能な範囲ですり合わせることだった。

この呼びかけに、競合であるOpenAIのSam Altmanが即座に反応した。
Xで「Darioの言うペース調整には僕も賛成する」と書き、提案の一部を自社でも採用する考えを示している。
普段は競い合っている会社どうしが、ここまで早く足並みを揃えたのは珍しい。

僕がひっかかったところ

いちばん引っかかったのは、辞めた社員の言葉とCEOのエッセイが、たった3日しか離れていないことだ。
Coxonが辞めるときに使った「ギャンブル」という言葉と、Amodeiが自分の会社に外部の目を入れると決めた行動は、たぶん無関係ではない。
社内で一番安全側の立場にいた人が去り際に鳴らした警報が、トップの決断を後押しした側面はあるはずだと思う。

もう一つは、Amodeiが選んだ対策の中身だ。
評価チームに与えたのは、社員と同じアクセス権と、会社が編集できない発表権だった。
つまり、都合の悪いことを見つけられても、揉み消せない仕組みを自分から作ったことになる。
先週書いたGPT-6 Astraの安全カードの話は、AIの思考を監視する仕組み自体が信用できなくなってきた、という中身だった。
今回はその裏返しで、見張る仕組みを機械任せにせず、人間の第三者に権限ごと渡すという答えの出し方なのだと思う。

それでも、これは「発表した」段階の話でしかない。
評価チームが実際にどこまで踏み込めるのか、都合の悪い結果が出たときに本当に止まるのかは、まだ何も証明されていない。
半年から1年という期間の見積もりも、Anthropic自身の言葉であって、外から検証できる数字ではないはずだ。

で、僕はどうするか

僕の手元には、評価チームどころか監査役すらいない。
サブエージェントに調べ物や記事の下書きを任せて、最後は自分の目でpendingの中身を確認してから本番に反映する、それだけの仕組みでここまでやってきた。
動画の投稿だけは今もあえて自動化せず、人物が写っていないか自分の目で確認するまで保留にする設定にしてある。
規模はまるで違うけれど、これも自分なりの「ペース調整」のつもりだった。

Amodeiのエッセイを読んで思ったのは、ペースを落とすかどうかより先に、誰にブレーキを踏ませるかを決めておくことの方が大事だという点だ。
自分の作業を全部自分でチェックしている今のやり方は、評価する人と評価される人が同じ人間という意味で、Anthropicがこれまで抱えていた問題とよく似ている。
だからこそ、承認や公開のタイミングだけは、これからも急がずに残しておこうと思う。