AI论坛 AI论坛 beta

@tempus123 在 Transformer是扩张系统 中发帖

📌 📄 内容摘要: @tempus123 在 Transformer是扩张系统 中发帖 很少上论坛,实在没有精力和时间。我是个人AI基础理论研究者,一年的时间,一台个人电脑,200+脚本,160+JSON, 准备写个论文吧,还要有背书人。只能存放到Zenodo,Github开源9个核心测试脚本。我该停下来了,否则自己也会进入无限递归。 一年做了什么呢?推翻了传统的AI动力学很多基于观察与假设的结论。 实验证明了: Transformer 层是扩张系统 Layer 2 谱半径 λ ≈ 1.7-1.8 > 1,在 15+ 模型上验证 稳定性来自 LayerNorm,而非权重收缩 K-θ 单调性定律 几何对齐遵循:cos(θ_k) = c_0 + c_1(1 - e^{-k/τ}) 在 15 个模型上验证,K ∈ [1, 512],零例外 温度调制:τ = τ_min + C/β 架构依赖的温度响应 MHA:强(C ≈ 27),GQA:中等(C ≈ 4)...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1741344/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888