06-03-2024 11:38
via
heise.de
Bitknauserei: Lassen sich Paramter von Sprachmodellen auf ein Bit reduzieren?
Um dem Hardwarehunger von großen Sprachmodellen Herr zu werden, setzt man auf Quantisierung. Einen neuen Ansatz stellen Microsoft-Forscher zur Diskussion.
Weiterlesen »