Up 「生成的」の様相 作成: 2025-06-13
更新: 2025-06-19


    ChatGPT の「応答生成」は,Transformer 脳 に潜在している応答生成を,おもてに現すものである。

    その応答の形・内容は,質問の形・内容によって決まる。
    応答は,「質問に対応」を見れば,「生成的」である。
    一方,「質問で決まる」を見れば,「固定的」である。

    しかしこの「固定的」も,「揺らぎ」を合わせて考えるものになる。
    記憶は,つぎの「遠近」構造をもつからである:
       《重要でない記憶は,ぼやけて奥に退く》

    実際,Transforemer の「学習」は,学習材テクストの入力の度にトークベクトルと重み行列をチューニングするというものである。
    そしてそれは,つぎのことになるわけである:
     《これまでのチューニングでびったりだった記憶を,損なう》


    一方,Transformer は,重要なものが記憶の後方に退くということはない。
    厖大な量のテクストを学習することは,重要なものが形を変えつつ何度も出てくるということだからである。
    ──これは,重要なことをメモしなければならない人間と,好対照である。