06-03-2024 11:38 via heise.de

Bitknauserei: Lassen sich Paramter von Sprachmodellen auf ein Bit reduzieren?

Um dem Hardwarehunger von großen Sprachmodellen Herr zu werden, setzt man auf Quantisierung. Einen neuen Ansatz stellen Microsoft-Forscher zur Diskussion.
Weiterlesen »