不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
如何评价鸿蒙电脑无法编写其自身运行的程序？
《捞女游戏》发售仅一天同时在线超 6330 人，如何看待游戏的销量？
图片无损放大有什么推荐软件？
到底是9800x3d+5070ti还是u7+5080?
仰望u9明明技术实力更强，为什么纽北的成绩没有小米su7ultra好？
为什么都说 Finder 难用？
哪款浏览器的综合性能最优？
Rust怎么写GUI程序？
如何评价林志玲？
python与nodejs哪个性能高？
你为什么对kotlin失去好感?
广东怀集遇历史最大洪水，约 30 万人受灾，积水最深处达 3 米，目前当地情况如何？
自己拥有一台服务器可以做哪些很酷的事情？
Rust、Go、Zig、Dart、C3、C++、C，仓颉、moonbit、凹语言哪个语言更有未来？
《三角洲行动》7.3日新赛季【破壁】，有什么值得期待的？
为什么情侣在一起旅行后容易分手？
你和你老婆是怎么认识的？
PHP初学者，我能不能使用PHP来开发桌面应用？
为什么微软出的软件都那么巨大？
空调现在抽真空15分钟真的还有意义吗？
Node.js是谁发明的?
如何看待《捞女游戏》（现名《情感反诈模拟器》）全平台账号陆续被封禁？
MacBook的诱惑在哪里？
2025 国内公司前端团队都在搞些什么?
谁敢公开一下自己房贷月供，占你收入的多少？对你生活影响大吗？
