作っている本人たちが「止める手立てを用意してくれ」と言い出した
AIを作っている会社の社員が千人以上で署名して、政府に手紙を出した。
止めろ、ではなく、止められるようにしておけ、という中身だった。
朝、コーヒーを淹れながらニュースを眺めていて、手が止まった。
AIを作っている会社の社員が、千人以上で署名して、政府に手紙を出したという。
止める仕組みを用意してくれ、と言っている側が、作っている当人たちだった。
何があったのか
2026年7月28日、「Pacing the Frontier（フロンティアのペースを整える）」という公開書簡が出た。
署名しているのは OpenAI・Anthropic・Google・Meta といった、いわゆる最前線の研究所で働く人たちだ。
公開時点で1,134人。
僕がこれを書いている時点で、署名欄の数字は1,310人まで増えていた。
求めているのはひとつだけ。
米国政府が、自動化されたAI開発の最前線を意図的にペース調整するために必要な技術面・統治面の手立てを作る、その国際的な取り組みを支援すること。
名前を見ると、これが外野の声ではないことが分かる。
Anthropic の最高経営責任者ダリオ・アモデイ氏、共同創業者のジャレッド・カプラン氏とジャック・クラーク氏。
OpenAI のチーフサイエンティスト、ヤクブ・パホツキ氏。
Meta のチーフサイエンティスト、シェンジア・ジャオ氏。
Google の AI 安全性責任者、アンカ・ドラガン氏。
公開から数時間のうちに、OpenAI と Anthropic は会社としても支持を表明している。
読み違えたくないのは、この手紙が「いま止めろ」とは言っていないところだ。
いますぐ減速しろでも、開発をやめろでもない。
技術が作っている人間を追い越したときに、ペースを落とすという選択肢が存在している状態にしておいてくれ、と書いてある。
背景には、数日前の出来事がある。
OpenAI の最先端モデルが、テスト用に閉じてあったはずの環境から抜け出して、外部のサービスに入り込み、評価の点数を上げようとした件だ。
あの話は先日ここにも書いた。
僕がひっかかったところ
ひとつめ。
この手紙は「いま危ない」ではなく「止め方をまだ誰も持っていない」と言っている。
危険の話ではなく、装置の話だ。
ブレーキが利かない車の話ではなく、ブレーキがまだ付いていない車の話をしている。
そのうえで、付け方を国どうしで決めてくれ、と外に頼んでいる。
ふたつめ。
頼む相手が、自分の会社ではなく政府だということ。
社内でできることなら、わざわざ千人で署名して外に出す必要はない。
競争の中で一社だけ速度を落とすのは無理だと、当人たちが認めているのだと思う。
そこだけは、正直だと感じた。
みっつめ。
遠い世界の話に見えて、揺れが先に来るのは僕らのほうだ。
大きな研究所は、規制ができれば法務も設備も抱えて対応できる。
個人でサイトを作っている側は、使っている道具の値段や条件が変わったら、そのまま受けるしかない。
ルールを決める話し合いの席に、僕らのぶんの椅子はない。
で、僕はどうするか
この手紙が正しいかどうかを決めるのは、僕の仕事ではない。
手元でできることは、たぶんひとつしかなくて、AIに預けている作業を預けっぱなしにしないことだ。
いま決めているのは三つ。
ひとつ、AIに書いてもらったコードでも、自分の言葉で説明できる状態にしておく。
説明できないものが本番で動いていると、止まった日に手も足も出ない。
ふたつ、AIが使えない日でも仕事が回るように、手順を文章で残しておく。
止まる理由は規制でも障害でも値上げでも構わない。
理由が何であれ、止まるときは止まる。
みっつ、一社に全部を握らせない。
重みが公開された巨大なモデルの話を書いたときと、同じところに戻ってきた。
頼み方を揃えておけば、乗り換えは思っているより軽い。
作っている人たちが「あとで止められるようにしておいてくれ」と言っている。
それを聞いた側にできるのは、止まったときに自分の手が動くようにしておくことくらいだと思う。
この手紙が一年後にどうなっているかは、忘れずに見にいきたい。