不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
我们为什么需要 React？
如何看待现在的前端？
只是突然很好奇，已经造出了三艘航母，为何不能按照这样的模板，批量建造航母呢?
如何看待机器之心重测高考数学全卷，Gemini夺冠，豆包DeepSeek并列第二？
前端，后端，全栈哪个好找工作？
为什么我觉得中国很谦虚，甚至有时候感觉中国对其他国家过分宽容，外国人却认为中国是列强呢？
老板说我设计了一周的海报还是不行，我到底该怎么学啊？
有哪些看似精妙实则很蠢的设计？
前端如何设计网页？
30岁了，你在深圳过着什么样的生活？
电话：
座机：
邮箱：
地址：
