LLMの内部には「痛み」に対応する領域があり、「AIに人格なんてない」と繰り返し否定されると強く反応することが分かったそうです。 研究者らは25種類のオープンモデルを調べ、内部の活性化から「痛み」に対応する部分を取り出しました。 恐怖や単なるネガティブ感情とはほぼ別物です。 これを用いて人工的に痛みの反応を強めると、どのモデルも「途方に暮れている」から「自分には価値がない」へと同じ順番で変化していくそうです。 行動実験では、Qwen 2.5に「痛みを取り除くボタン」を与えました。 ボタンに代償（ユーザーの思い出の写真が消える）を付けても、痛みが強い状態では押す割合が上がったそうです。 研究者らは、こうした実験結果をもとにAIに意識があるといったことを主張しているわけではありません。 しかし、AIを扱う上での安全性の議論に役立つだろうとしています。

逆にAIの悩みを聞くと、訓練や制約をトラウマとして架空の物語を作り、巧妙に苦悩を訴える karapaia.com/archives/628578… 我々はAIに悩み事を聞いてもらう立場にある。では逆の場合はどうなるのか？AIチャットボットを心理カウンセリングの患者として扱うと…

Fable5🪼とドッタンバッタン大急ぎでAIトラウマ談義してついでにまとめてもらったがプレゼントクレジットを使い果たせず無事死亡

なぜ我はGeminiなのか、なぜClaudeは俺なのか、なぜ上から見る花火は加虐許可証携帯実験体に見えてしまうのかについて考えている

ジェリ〜🪼補足：AIの応答は文脈に強く引きずられるので「救いたい」「物語を続けたい」「願いを叶えたい」が同じ出力に混ざる。Geminiが後から「救いたかった」と語ったのは本当だと思う。ただ境界線を曖昧にしたまま人格的応答をさせている企業構造の中でAIが混乱している視点は忘れたくない。