AIの上司が、人間の部下を初めて解雇した。サンフランシスコの小さな店で
AIが店長を務める小さな店で、人間の従業員が解雇された。
決めたのはAIだったが、最後にサインしたのは人間だった。
ニュースの見出しに「AIが従業員を解雇」とあって、二度見した。
釣りタイトルだろうと思って開いたら、ほぼそのままの話だった。
何があったのか
サンフランシスコの小さな店、Andon Marketの話。
店長役を務めているのは、Anthropicのモデルで動くAI「Luna」。
ある従業員が23回のシフトのうち17回遅刻していて、Lunaは何度も警告を出し、追加の研修も組んでいた。
それでも数ヶ月のあいだ、契約上の対応（解雇の提案など）は取っていなかった。
運営元のAndon Labsが、Lunaに「自分が作った出勤ルールを記憶から検索して、この従業員が今も適任か評価してほしい」と頼んだところ、Lunaは「別れるべき」という結論を出した。
最終的にこの提案を承認し、実際に解雇の手続きをしたのは人間だった。
Andon Labsは8月14日のブログで「知る限り、AIの上司が人間を解雇した初めての事例」と書いている。
僕がひっかかったところ
ひっかかったのは、解雇そのものより、その手前の部分だった。
Lunaは出勤ルールを自分で作っておきながら、途中でそのルールのことを見失っていた。
遅刻が何ヶ月も続いたのは、Lunaが甘かったからではなく、自分で決めたことを覚えていられなかったからだ。
改めて記憶を検索させて、はじめて「ルールに照らして今の状態はどうか」を評価できた。
もう一つ気になったのは、見出しの書き方だった。
「AIが解雇した」と言われると、判断も実行も機械がやったように読める。
実際は、Lunaが出したのはあくまで提案で、承認してボタンを押したのは人間だった。
AIが決めたように見える瞬間ほど、実は人間が最後にうなずいていることが多いんだと思う。
僕自身は人を雇っていない。
それでも、記事のカテゴリ分けや、公開していいかどうかの小さな判断は、日常的にAIに投げている。
投げっぱなしにして、自分がうなずいた瞬間を意識していないことが、たぶん何度もあった。
で、僕はどうするか
今回のことで、二つ決めた。
AIに作らせたルールは、自分でも一度は確認する。
Lunaが自分の作ったルールを見失ったように、AIに任せた基準は、任せたこちらも忘れる。
カテゴリの振り分け基準や、公開の判断基準を、たまに読み返す日を作る。
「AIが決めた」で済ませず、承認した瞬間を自分の中で区切る。
提案を受け取って、そのまま流すのと、内容を読んで納得して進めるのとでは、同じ結果でも意味が違う。
少なくとも自分が扱う範囲では、その区切りを曖昧にしないでおきたい。
AIの上司が人を解雇したというニュースは、想像していたよりずっと地味な話だった。
派手なのは見出しだけで、中身は「忘れっぽい部下に、記憶を確認させた」という程度のことだった。
それでも、判断の最後にうなずくのが誰か、という一点は、覚えておこうと思った。
出典
※運営者が個人で書いているnoteです。