ChatGPT等で話題になって暫く経つTransformerについての和書。
具体的且わかりやすそうに書かれているのだが、数学用語と図が一致しておらず、文脈からこちらが解釈する必要があり、無駄に時間がかかる点が残念だった。
ベクトルなのか行列なのか分かりづらく、よく読んでみると行列同士の積の説明だった、といった様な箇所が多く、図も行列をベクトルのように記述したりしており非常に読み辛く、絵本の様に初学者に理解させたいのかもしれないが、はっきりいってこの点はほんとに駄目。
また、既存のNNライブラリの使用を前提としているため、計算グラフ等での実装手法が説明されているわけではない。
Attentionの解説についても、このシンプルな計算がなぜ良い注意機構になるのかという理論的な背景もなく、初心者には意味がわからないだろう。
https://www.amazon.co.jp/gp/product/B09PYFZKGY/ref=ppx_yo_dt_b_d_asin_title_351_o09?ie=UTF8&psc=1
