Up 応答生成のしくみの不明 作成: 2023-06-16
更新: 2025-06-16


    ChatGPT の応答テクストは,大項目から小項目に降りる構成でつくられる。

    この構成のテクストは,「トークンを1つずつ生成」方式で頭から生成するのは,無理である。
    その方式で生成されるのは,パラグラフの大きさまで,と考えることになるからである。
       パラグラフの生成
    したがって応答テクストの作成は,つぎの形になると推理される:
      項目に分けてテクストを生成 → それらを編集

    この編集機能は,Transformer 脳の能力のうちには無い。
    したがって,Transformer 脳とは別に,ChatGPT のどこかに編集担当のユニットがつくられていることになる。
    ──構成の枠組を立てるのも,Transformer 脳ではなく,ChatGPT のユニットなのかも知れない。

    また,ChatGPT の応答をユーザがブラウザで受ける方式では,応答は HTMLテクストとして出力される。
    応答のレイアウトは,HTML のタグによる。
    この HTML の使用も,Transformer 脳の能力には無いと思われる。
    HTML 出力がどうなっているのかも,不明の1つである。。