Own What AI Says〜AIに喋らせても、引き受けるのは自分〜

AIがテーブルに座って、見えてきたもの

うちの会社のSlackは、いまやAI botの巣窟だ。Devin、Cursor、grok、QM。特に dots が出てきてから、一気にみんなが自分のbotを入れるようになってきた。

9月に「AIを一人の画面から、チームのテーブルへ」という話を書いたけど、これだけAIがテーブルに座ってみると、思っていなかったものが見えてきた。

人間が、AIの中継点になっている瞬間だ。

AIを一人の画面で使っていた頃も、同じことはたぶん起きていた。ただ、それは各自の画面の中で閉じていて、周りからは見えなかった。

Slackにbotがいると、誰が何をAIに渡し、何をそのまま受け取ったかが、チャンネルに残る。だから今は、それが如実に見える。

たとえばこんな様子だ。たぶん、どこの会社でも似たような光景がたくさんあると思う。もらったレビューを、そのままAIに投げて「解決して」とやる。チャンネルのやりとりをそのままコンテキストとして渡して、まとめさせる。そのまとめを、そのまま成果物の修正につなげる。

最初に感じたのは、ちょっとした居心地の悪さだった。責めたい気持ちではない。自分も同じことをやりかねない、というか、ぶっちゃけ似たようなことは普通にやっている。

ただ、一つ思ったのは、これで何を残すことができるのだろう、ということだった。レビューは直すためだけのものじゃなくて、次から同じ指摘をされないためのものでもある。

直すだけなら、AIに任せた方がずっと速い。ただ、それは理解や思考ごと外注しているのに近い。指摘を自分の中に一度も通さないと、次もたぶん同じところで止まる。長い目で見ると、たぶん遠回りだ。

レビュワーの言葉は、人間に読まれずにAIに届いた

では、レビュワーの側から見るとどうだろう。時間をかけて書いたコメントは、受け取った人に読まれないまま、AIに届いて終わる。

少し大げさに言うと、ここに罪深さのようなものを感じ始めている。身銭を切っていない、ずるい、身代わり。いろいろ言葉を当ててみたけど、まだどれもしっくりきていない。

いまのところ一番近いと思っているのは、贈り物のたとえだ。レビューは、相手が自分の時間と注意を割いて書いてくれたものだ。人類学者のモースは『贈与論』で、贈り物には、贈る・受け取る・お返しをするという三つの義務がついて回ると書いている。

素通りは、もらった贈り物を開けずに、そのまま別の人に回しているのに近い。引っかかるのは、効率の問題というより、受け取り方の問題なんだと思う。

「AIに聞きました」と書けば許されるのか

AI slop について、一時期はこう考えていた。クオリティが低いのは、まだいい。問題は、AIが書いたものを、自分が書いたように見せかけることだ、と。自分で書いていないものを自分の言葉として出すから、ずるく見える。

では、「AIに聞いた結果です」と書いて貼ればいいのか。たぶん、それでも嫌さは残る。

表の残りの3つは、嘘かどうかとは関係がない。引っかかっているのは、隠していることより、一度も自分で読まずに渡していることの方なんだと思う。

素通りは、いわゆる workslop の、一番わかりやすい形かもしれない。

中継するだけなら、間にいる意味がない

素通りしているとき、人間がやっているのは、レビュワーとAIの間でメッセージを運ぶことだけだ。human as an API と呼んでもいいかもしれない。

レビューがそのままAIに渡って、成果物が書き換わるだけなら、レビューできる立場と知識を持つ人が、直接AIに指示すればいい話だ。中継するだけなら、間にいる人はいらなくなる。

身銭を切るとは、外れたときに自分が損をすること

Taleb は『身銭を切れ』で、結果のリスクを自分でも負っている人の言葉を信用しろ、という趣旨のことを書いている。

人の言葉をそのままAIに流して、AIの言葉をそのまま人に返す。そのとき足りないのは、この「自分も損をする」という部分かもしれない。自分の名前で返しているのに、外れても「AIがそう言ったので」で済ませられてしまう。

AIが言ったことでも、自分の名前で返すなら、自分の言葉として責任を持つ。外れたら自分が謝る。Own What AI Says というタイトルに込めたのは、結局このことだ。

人が相手に差し出せるもので、AIに肩代わりしてもらえないのは、注意なのかもしれない。読むこと、考えること。素通りは、自分の注意は少しも払わずに、相手の注意だけを使っている。とりあえずAI botに投げる、代わりに見てもらう。それが当たり前になるほど、AIに頼らずに自分の注意を割くこと自体が、貴重になっていく。

Oxide の社内文書「Using LLMs at Oxide」には、LLMがない世界では、読み手と書き手のうち、より頭を使ったのは書き手だと見なされてきた、という一文がある。素通りされると、その前提が成り立たなくなる。

ファクトリーに浸れば、気にならないのか

AIがレビューを書き、AIが直し、AIが確認する。これこそが、ソフトウェアファクトリーの世界なのかもしれない。人間が誰も出てこないところまで振り切ったら、この居心地の悪さは消えるかもしれない。

たぶん消える。そこでは誰も、人が読んでいるとは思っていないからだ。工場のラインに「心がこもっていない」と怒る人はいない。

だとすると、嫌なのはAIが喋ることそのものではないのかもしれない。レビュワーは、人に読まれるつもりで書いている。素通りが罪深く見えるのは、人がいると思われている場所に、人がいないときなんだと思う。

Own What AI Says にするには、どうしたらいいのだろう

答えを持っているわけではないけど、いま考えていることを書いておく。

正直に言うと、たぶんこれからもAIに流すと思う。全部を自分でやっていたら、仕事は回らない。

だから考えたいのは、流すかどうかではなく、流しながら、その出力をどうやって自分のものにするかだ。作業は渡しても、判断までは渡さない。言うのは簡単だけど、実際にどうやるのか。

目安になる問いが一つあると思う。「なんでこうしたの？」と聞き返されたとき、AIに聞き直さずに答えられるか。何かを言い切るとき、人は理由を聞かれたら答える、という約束も一緒に差し出している。AIの言葉をそのまま自分の名前で出すのは、その約束だけを渡して、中身を持っていない状態だ。空手形に近い。

まず前提として、自分でレビューしていないものは、どんな形であれ人に見せない。先の Oxide の文書にも、本人がレビューしていないLLM生成コードを、他人にレビューさせてはいけない、とある。ここは、たぶん議論の余地がない。

頼まれたレビューは、一度自分で見てから

人から「レビューしてください」と頼まれると、そのままAIに投げたくなる。そこを少し頑張って、一度自分で見て、頭の中で考えてみる。それからAIを使う。

時間はかかる。でも、少し時間がかかってでも思考の体力を求められることをやる方が、回り回って自分のためになりそうだと思っている。冒頭で書いた「理解や思考の外注」をしないための、心構えのようなものだ。

理解するための時間を、わざわざ作る

最近いちばん意識しているのは、理解するための時間と場を、わざわざ作ることだ。AIの出力や調べたことを、HTMLのレポートにして読み直す。自分で言語化して、人に説明できるようにするための道具を用意する。そういう時間の使い方が、明らかに増えているし、意識して増やしている。

最近は、移動中にフラッシュカードを作って、これについて頭の中で説明してみる、ということもやっている。さっきの問いの練習みたいなものだ。誰かに聞き返される前に、自分で自分に聞き返しておく。

30分で記事を一本書いてみる、というのもやっている。最悪AIを使ってもいい。とにかく中身を全部入れて書き切ってみると、説明できないところ、分かっていないところが、はっきり浮かび上がる。そこを埋めにいくと、理解が一段深くなる。記事のタイムアタックみたいなものだ。

全部は見られないなら、確かめる仕組みの方を引き受ける

とはいえ、AIが出してくる量を、全部自分の目で見るのはもう無理がある。だから、確かめること自体を仕組みにして、その仕組みに責任を持ってメンテするというやり方も増えている。うちでも、作業したのがAIであっても、PRには本当に動かして確かめた証拠が残るように、仕組みの側でいろいろ工夫している。

Simon Willison も、自分が動くと証明したコードを渡すのが仕事だ、と書いている。実行したコマンドとその出力、画面の録画を添えて出せ、と。一つひとつの出力を自分の目で見られなくても、確かめる仕組みの方を持ち続けているなら、それも引き受けていると言っていいと思う。

移行期の違和感にすぎないのか

もっとも、この違和感そのものが、そのうち古くなるのかもしれない。DevinやIDEの中でAIとやりとりすれば足りるなら、人が長い返事を書くのを待たせる時間の方が、もはや無駄だったり、相手の時間を奪っているように感じられるのかもしれない。

これから、やりとりの形はどんどん変わっていくだろう。今のこの気持ちも、だんだん気にならなくなっていく気はしている。

その先には、一人ひとりが自分のAIエージェントを持って、エージェントどうしが話す世界がある。そうなると、気にするのは「中継したかどうか」ではなくなる。自分のエージェントに、自分の名前で何を言わせていいか、になる。代理人が交わした約束に、頼んだ本人が責任を持つ。

ただ、AIだと、中身を確かめないまま渡すのがあまりに簡単になった。簡単に素通りできるからこそ、受け取ったものをちゃんと受け取って、自分の名前で出したものを引き受けることは、わざわざやる意味のあることとして残るんじゃないかと思っている。

そのうち、作法が生まれそう

見えるようになると、だんだん良し悪しの空気ができてくる。レビューを読まずにbotへ投げて「対応しました 🙏」と返すのは、もうちょっと気まずい。AI slop そのものみたいな文章がそのまま貼られていると、さすがに読む気をなくす。逆に「ここまでは自分で確かめました」と一言添えてくれる人は、なんか信頼できるような気もする。

そのうち「botの出力は3行にまとめてから貼りましょう」みたいなことを、誰かが言い出すのかもしれない。メールの「お世話になっております」みたいに。マナーの誕生って、たぶんこういうことなのかもしれないな、と最近は思う。

自戒

偉そうに書いたけど、自分も人のことは言えない。AIの要約を読み切らずに貼ったこともあるし、もらった要望をそのままAIに渡していることもある。頼んだ側は、AIではなく自分に頼んだつもりだったはずだ。

これからもAIは使うし、AIに渡すことも減らないと思う。ただ、AIが言ったことを人に返すときは、一度自分で読んで、自分の言葉で説明できる状態にしてから返したい。AIが言ったことでも、自分の名前で出した時点で、それは自分が言ったことになるのだから。