不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
微软会撤离中国吗？
如何评价《三角洲行动》S5 赛季新地图「潮汐监狱」？
PHP初学者，我能不能使用PHP来开发桌面应用？
Linux下监控流量一般使用什么工具？
如何看待《捞女游戏》在线人数峰值近 7 万，仍位居国区热销第一？
现代艺术只考虑意义、不考虑美感吗？
为什么 mac mini 的 m4 版本价格这么低呢？
通过重体力劳动练出来的肌肉和标准健美人员肌肉有什么不同？
Electron 和当下其他的桌面开发方法相比如何？
如何评价《灵笼 2》第六集？
美国投掷 6 枚钻地炸弹袭击伊朗福尔多核设施，钻地弹有多大杀伤力？能摧毁伊朗地下核设施吗？
《三角洲行动》摸金模式单三跑刀最好用的角色是蜂医还是威龙？
微软edge浏览器为什么逐渐被其他的浏览器代替？
华为云有没有实力挑战阿里云？
如何看待英伟达新推出的显卡5090dd？
腰肌劳损怎嘛治啊?
网络小白如何建立一个网站，供别人下载文件（主要是PDF和MP3）?
为什么说纯铜是紫色的，可是我看上去更像纸箱子的颜色啊，是否我自己有色盲呢?
如何评价Orbstack（在Mac上低开销地运行容器和Linux）？
独立开发***能盈利吗？感觉好累...
Fabrice Bellard 是个什么水平的程序员？
GNOME 自带的输入法 iBus 是个怎样的存在?
女生真正的完美身材是什么样子？
2025年6月了，深圳房价咋样？
贫困生买Mac mini m4有错吗？
