Technologie
Googles TurboQuant-Verfahren: Praxistest auf einer AMD-GPU
Googles TurboQuant komprimiert den KV-Cache großer Sprachmodelle auf 3 Bit. Tests auf einer AMD-Karte zeigen: Das Kernversprechen stimmt — mit Nebeneffekten.
Schlagzeilen quer durchs Spektrum
- «Googles TurboQuant-Verfahren: Praxistest auf einer AMD-GPU» — Heise Online (mitte)