This is a heavily interactive web application, and JavaScript is required. Simple HTML interfaces are possible, but that is not what this is.
Post
Thibaud Lepretre - kakawait
thibaud.dev
did:plc:tkmj5zdszthtaby2ld5priyt
Le rapport technique de Kimi K3 est sorti, et le vrai scoop n'est pas les 2,8T de params.
C'est Attention Residuals : au lieu du résiduel classique (x + f(x)), chaque couche fait une attention softmax sur TOUTES les couches (enfin des "blocks" de couches) précédentes.
go.thibaud.dev/FKYM
#ai
https://go.thibaud.dev/FKYM
2026-07-29T09:05:01.365Z