Up

大数・複雑・冗長

作成: 2025-06-21 更新: 2025-06-25

---

Transformer の処理は，計算するパラメータ量と計算量が厖大であり，そしてプロセスが冗長である。 Transformer は，「大数・複雑・冗長」の世界である。 翻って，「大数・複雑・冗長」は Transformer の成功の要(かなめ) である。 実際，「テクストの糸にトークン点を乗せる」のシステムは，「大数・複雑・冗長」でなければならない。──位置調整は，反応が敏感であってはならない。 そして「大数・複雑・冗長」であれば，系の定常相として，このシステムが自ずと出来上がる。