「引き止めてはいけない」と法律に書いた国が出てきた
AIとの会話を切りたいと言われたら、すぐ止めること。
技術の話ではなく、設計の話をしている規制だった。
中国で、人のように振る舞うAIサービスへの規制が2026年7月15日に施行された。
内容を読んで、思っていたのと違う驚き方をした。
書いてあったのは技術の制限ではなく、作り方の制限だった。
何を禁じたのか
対象になるのは、人の性格や話し方をまねて、感情のやりとりを続けさせるタイプのサービスだ。
文章でも音声でも映像でも、形は問わない。
いわゆるAIの話し相手や、感情のケアをうたうサービスが名指しされている。
求められていることが具体的で、そこがおもしろかった。
相手が人間ではなくAIだと、はっきり伝えること。
使いすぎの兆候が見えたら注意を促し、連続して2時間を超えたら利用時間の通知を必ず出すこと。
やめたいと言われたらすぐ止めて、引き止めるような手を使わないこと。
未成年へ提供する場合は、もっと厳しい条件がつく。
「引き止めない」を法律に書く、という発想
僕がいちばん考えさせられたのは、離脱を引き止めてはいけない、という一文だった。
いまのネットのサービスは、ほとんどが逆向きに作られている。
滞在時間を伸ばす、次の一本を自動で再生する、通知で呼び戻す。
長く使わせたほうが偉い、という前提で設計されてきた。
そこに、長く使わせるな、と外から線を引いた。
うまくいくかどうかは分からないし、この国のやり方をそのまま良いとも言いにくい。
それでも、依存させる設計そのものを規制の対象にした例として、覚えておく価値があると思った。
自分の作るものにも、はね返ってくる
うちのサイトにもAIのチャットを置いている。
キャンプ場を探している人の質問に答えるためのものだ。
感情のやりとりを目的にしたものではないから、この規制の話とは重ならない。
ただ、読んだあとに自分の作りを見直したくなった。
答えが出たらすぐ終われるようになっているか。
続けさせようとしていないか。
良い道具は、用が済んだら静かに引っ込むものだと思っている。
手元のものがそうなっているかは、たまに疑ったほうがいい。