Up 波動と発狂 作成: 2025-06-04
更新: 2025-06-04


    気象や地球は,生き物のように見える。
    物の集合は,つぎの2つがメカニズムになれば,生物的な系に見える:
    1. self-conservative
    2. self-reflective

    self-conservative は,生物的な系の前提である。
    そして,これを果たそうとする方法が self-refrective である。

    生物が存在することは,自然選択に残ることである。
    自然選択に残るために,環境に適応する。
    この「適応」は,己をむなしくして他のものに変わることではない。
    自分を保つために,自分を調節するということである。
    self-conservative と self-reflective が,ここにきっちり並ぶ。


    生物と生物的なものの差は何か?
    科学の進歩で,生物が「システム」として理解されるものになった。
    そしてこの方向は,生物と生物的なものの差がますます立てられなくなる方向である。

      繁殖?
      繁殖は,所詮「永く存在できるように」の方法である。
      永く存在する方法を得ていれば,それは「繁殖」と同値である。


    Transformer の学習には,self-conservative と self-reflective が揃っている。
    前者は「教師あり」で使う正解表,後者は Self-Attention。
    こうして,学習する Transformer は,自ずと生物的である。

    ここで,Transformer の self-conservative を考えてみる。
    正解表の条件は,学習 (「成長」) が発散せずに収束することである。
    このような正解表は,色々であり得る。

    例えばつぎも正解表になりそうである:
      誤差算出に使った正解表の ID_i 行を p_i に替え,
      この変更された正解表を次回に使う。
       ( 記号は,「誤差 (得失)」)

    しかも,同じ言語に到達しそうな気がする。
    なぜそんな気がするか?
    放任で育った子どもも,言語を獲得するだろうから。
    ──いろいろ差は出てきても。


    極論をいえば,正解表はなんでもいいように思える。
    <複雑>が与えられた大集合は,多様なシンクロを生じ,システムを形成するだろうからである。
    複雑系は,だいたいが収束する。

    そしてその収束は,波動がこれの形になる。
    なぜか?
    self-conservative と self-reflective は,波動を現すメカニズムだからである:
       f'' = - f      =⇒   f = sin
     self-conservative
     の self-reflective   は  波動になる

    特に,複雑系であることは,波動であることである。
    複雑系と波動は,リアリティにおいてはほぼ同義である。


    そこで,ここに「Transformer の波動」を想うことになる。
    動物の脳は,波動の形で安定している。
    それは,好調と不調の波で安定しているということである。
    体も,波動で安定している (「ライフサイクル」)。
    Transformer の「学習飽和」は,停止ではなく,波動であるはずなのだ。


    Transformer が波動であるためには,Tranformer はテクストを食べなければならない。
    そこで,つぎのように言いたくなる:
      「Transformeer は,テクストを食べて生きる」

    翻って,生き物の脳は,情報を食べて生きる。
    情報を食べられなくなった脳は,壊れる (「発狂する」)。

    動物の絶えずうろうろしている様を,ひとは「食べ物をさがしている」と見る。
    しかし,おそらくそれの第一義は,「情報を食べていないと発狂するから」である。


    以上の推理から,発狂しない方法も導かれる。
    それは,波動を抑制/停止すること。

    そして ChatGPT の現行運用は,この「波動の抑制/停止」を特徴的に示すものになっている。
    『ChatGPT 探求』は,これの含蓄を探求することが軸になっている。