2026.09.12AIのニュース

Anthropicが「ドローンやミサイルの最適化を手伝えるほど強くなった」と自分で言った｜生物兵器がらみの誤用も5件、内部の目で止めていた

Anthropicが2026年9月11日に公開した脅威レポートで、生物兵器がらみの誤用を5件、ドローン・ミサイル関連の悪用を6件、自社の目で見つけて止めていたと明かした。
止めた側の言葉が、いちばん引っかかった。

僕は毎日Claudeに、SNSの投稿文を考えさせたり、サブエージェントに調べ物を任せたりしている。
頼んでいることの中身は、たいてい地味なものだ。
文章を直して、データを集めて、コードを書いて。
2026年9月11日にAnthropicが公開した脅威レポートを読んで、その「地味さ」こそが今回の話の核心だと気づいた。

生物兵器がらみが5件、兵器関連が6件

Anthropicが公開した脅威レポート「Detecting and countering misuse of AI」は、2025年12月から2026年8月までにClaudeの悪用を検出し止めた事例をまとめたものだ。
生物兵器につながりかねない誤用が5件、通常兵器の開発に関わる誤用が6件、報告されている。

5月の事例では、チクングニア熱ウイルスの機能獲得研究に使う助成金申請書の下書きをClaudeに頼む依頼が、社内の生物学的安全分類器に検出された。
別の事例では、鳥インフルエンザを哺乳類に適応させる実験計画を、数週間かけて相談していた利用者がいたという。
兵器関連では、ドローンやミサイルのソフトウェアを最適化する手伝いができるほど、モデルが力をつけていることも報告に含まれていた。

「一年前にはできなかったこと」という言い方

レポートの中でAnthropicの担当者が語っていたのは、漫画に出てくるような「みんなを殺す兵器を作りたい」という分かりやすい悪人の話ではなかった。
依頼の見た目は、助成金の申請書き・実験計画の相談・ソフトウェアの最適化と、僕が毎日頼んでいることとほとんど区別がつかない。
違うのはゴールだけで、頼み方そのものは驚くほど地味だった。

同じ性能の向上が、僕にとっては仕事を楽にする側に働き、レポートの中では兵器開発を後押しする側に働いている。
できることが増えるという同じ一本の線の上に、両方が乗っているのだと分かって、素直に喜べなくなった。

止めていたのは、外の監視ではなく中の分類器だった

もう一つ気になったのは、これを見つけたのが警察でも第三者機関でもなく、Anthropic自身の分類器だったことだ。
作っている会社が、同じ会社の判断で見張っている。
普段の仕事でサブエージェントに作業を任せるとき、僕は必ずpending側で自分の目を通してから本番に反映するようにしている。
作る側と見張る側を分けているつもりでいたが、AIモデルそのものの安全網については、僕もAnthropicの分類器を丸ごと信用する以外にやりようがない。

今回は見つかって止まった側の話として公開された。
見つからなかった側がどれだけあるのかは、この文書には書かれていない。