不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
华为自研的仓颉编程语言将于 7 月 30 日开源，这款语言将如何影响未来的开发趋势？
想初尝苹果Mac电脑，纯体验，选 Macbook air 还是 pro？
超小团队选择Django还是Flask？
微软暂停专用 Xbox 掌机开发，转而优化 Windows 11 的掌机游戏体验，这背后原因有哪些？
为什么韩国的热辣舞团无法征服中国的男性市场？？
为什么QQ上的网络状态没有了？
阿里网盘为什么没有动静了？
如何判断鱼缸中的硝化系统是否已经成功建立？
大家猜猜伊朗的结局如何？
北京日报点名批评“苏超”过度娱乐化的动机是什么？
北京暴雨故宫再现「千龙吐水」奇观，为什么故宫古老排水系统历经六百年仍能正常运作？有哪些特别之处？
为什么从事技术的人普遍都比较难沟通？
紧身牛仔裤看起来不正经，真的是这样吗？
真的有这种又苗条身材又爆炸的么？
哪张照片让你觉得刘亦菲美得不可方物？
敢不敢发一张你的自拍照？
如何看待青鸾峰上连续几本***霸占纵横榜首？
如何设计一个属于自己又简洁的个人logo？
如何评价 Next.js？
为什么任天堂在NS2上没有选择使用OLED屏幕以提升续航能力和显示效果？
如何看待 Rust 的应用前景？
有没有一款音乐播放器，能连接nas音乐，创建音乐库，自动匹配歌词封面等等？类似infuse的概念呢？
各位历史发烧友，介绍一下你知道的冷门史实或逆天史实？
空调现在抽真空15分钟真的还有意义吗？
程序员看剧的时候，如果看到有敲代码页面，会暂停看代码吗？
商业史上有哪些降维打击的经典案例？
网友称在桔子水晶酒店洗漱包内发现用过的四联检测盒，具体是怎么回事？酒店要承担哪些责任？
国产数据库有什么坑？
