丁寧で、過不足なく、よく整理されている。なのに、読んでいて何も残らない。AIが書いた文章に感じる違和感について、以前その理由を書いたものの、今回は逆を考えたい。

なぜある文章は「この人が書いた」とわかる・信頼されるのか。

「LLMと区別がつかないのは問題か？」という問いから、「そもそも、人が書いた文章の何がその人らしさを形成しているのか？」という問いについて、以下は、私が考える「その人が書いた」と信頼させる要素です。

固有の表現

LLMは「文脈から次の言葉として最も尤もらしいもの」を出力する仕組みです。だから、平均的な語り口に収束します。すべての人が書いたかのような文体になる。

一方で、長く文章を書き続けた人には、固有のフィンガープリントがあります。文の切り方、接続詞の選び方、ダッシュの使い方など。

それらは無意識に形成され、数行読むだけで「あの人だ」とわかる特徴になります。

この声は、短いプロンプトで再現できません。数千の文章、数百の投稿が積み重なって初めて形成されるものです。

なお、自分の表現の特徴は自分ではよくわからない気がします (自分の文章の特徴が何かわからない)。

パンチライン

AIが書いた文章はムダに長い、と感じるのは自分だけでしょうか。創造性のあるパンチラインがありません。LLMというモデルの仕組み上、パンチラインが生まれにくいと理解しています。

首が取れるほどのパンチラインがあれば、それは人が書いた文章だと無条件に信頼されるものになります。

体験の峻別

LLMはインターネット上の集合知を学習しています。つまり、誰もが書いたことのあることは得意ですが、あなた個人の体験は持っていません。

「先週の火曜日の収録時にHikaruにこう言われて」という文が信頼させるのは、単に具体的だからではありません。その人のエピソードの選択に人格が現れているからです。LLMはあなたの記憶の取捨選択を持っていない。

逆に言えば、LLMがよく出力する固有の体験から切り離された言葉は、どこか浮いています。

関係性の峻別

人と人の関係はかなり閉ざしたコンテキストなので、「誰について語るか」という選択も人格を示す大きな要素になります。

AIと分人主義という記事で「分人は関係から生まれる」という平野啓一郎の概念を参照しましたが、AIは写し鏡であり、摩擦を持たない。だからAIとの対話には、人間関係で育まれるような分人が生まれにくいのです。

(そういえば平野本読みました)

時間的な非連続性

LLMには時間軸がありません。「今この瞬間に最適な回答」を出しますが、過去との矛盾を持たないし、変化の軌跡もない。

人間の文章には、変化の記録があり、かつ時々矛盾もします。「以前はXと思っていたが、今はYと考えている」という時間的な変遷は、朝令暮改で恥を撒き散らす人間らしさの一端だと思います。

不完全さ・揺らぎ

LLMは完結した回答を生成しようとします。曖昧さや留保を残すことが苦手です。

「よくわからないが、こんな気がしている」という正直な不確かさは、実は人間の思考過程を最も素直に映しています。解決していない問いをそのまま提示できるのは、自分の思考に正直な書き手だけです。

完璧に整理された文章より、少し荒削りで揺れている文章の方が信頼できる、と感じることがあります。それは「この人が本当に考えた」という痕跡に見えるからだと思っています。

信頼のシグナルは積み重なり

ここまで挙げた要素は、それらが1つあれば文章に人間性が宿るといったものではなく、個別に強力なわけではありません。

重なるほど「人格のシグナル」として機能するのだと思います。

私がこのブログで日常についても切り取ろうと考えるようになったのも、もしかしたら自己を示す要素が含まれる記事の重なりを通じて、信頼をつくろうと直感的に思ったからかも知れない。