Unum (Zahlenformat) - Unum (number format)

Unums ( universelle Zahlen ) sind eine Familie von Formaten und Arithmetik, ähnlich dem Gleitkomma , vorgeschlagen von John L. Gustafson . Sie sind als Alternative zum allgegenwärtigen Gleitkomma-Standard IEEE 754 konzipiert und können in der neuesten Version (sogenannte posits ) als Drop-In-Ersatz für Programme verwendet werden, die nicht auf spezifische Eigenschaften von IEEE 754 angewiesen sind.

Typ I Unum

Die erste Version von unums, jetzt offiziell als Typ I unum bekannt , wurde in seinem Buch The End of Error als Obermenge des IEEE-754-Gleitkommaformats vorgestellt. Die beiden bestimmenden Merkmale des unum-Formats vom Typ I sind:

• ein Speicherformat mit variabler Breite sowohl für den Signifikand als auch für den Exponenten und
• ein u-Bit , das bestimmt, ob die Unum einer exakten Zahl ( u  = 0) oder einem Intervall zwischen aufeinanderfolgenden exakten Unums ( u  = 1) entspricht. Auf diese Weise überdecken die Unums die gesamte erweiterte reelle Zahlengerade [−∞,+∞].

Um eine Berechnung mit dem Format durchzuführen, schlägt Gustafson vor, Intervallarithmetik mit einem Paar von Unums zu verwenden, was er als ubound bezeichnet , wodurch garantiert wird, dass das resultierende Intervall die exakte Lösung enthält.

William M. Kahan und John L. Gustafson diskutierten auf der Arith23- Konferenz über Unums .

Typ II Unum

Unums vom Typ II wurden Ende 2016 als komplettes Redesign von Unums eingeführt, das die IEEE-754-Kompatibilität brach.

Typ III Unum (positiv & gültig)

Im Februar 2017 Gustafson offiziell Typ III Unums eingeführt , die besteht aus Setzungen für feste Floating-Point-Ähnliche Werte und Wertsachen für Intervallarithmetik .

Setzen

Posits sind eine hardwarefreundliche Version von unum, bei der die Schwierigkeiten des ursprünglichen Typ-I-Unums aufgrund seiner variablen Größe behoben werden. Ähnliche Größenpositionen im Vergleich zu Floats bieten einen größeren Dynamikbereich und mehr Bruchbits für die Genauigkeit. In einer unabhängigen Studie bestätigten Lindstrom, Lloyd und Hittinger vom Lawrence Livermore National Laboratory , dass Posts Floats in der Genauigkeit übertreffen. Positionen haben eine besonders hohe Genauigkeit im Bereich nahe eins, wo die meisten Berechnungen stattfinden. Dies macht es für den aktuellen Trend im Deep Learning sehr attraktiv, die Anzahl der verwendeten Bits zu minimieren. Es hilft möglicherweise allen Anwendungen, eine Beschleunigung zu erreichen, indem es die Verwendung von weniger Bits ermöglicht (da es mehr Bruchbits für die Genauigkeit hat), wodurch die Netzwerk- und Speicherbandbreite sowie der Energiebedarf reduziert werden und wir der Exascale einen Schritt näher kommen .

Positionen haben Index- und Mantissen-Bitfelder mit variabler Größe, wobei die Aufteilung durch einen "Regime"-Indikator angegeben wird. Gustafson behauptet, dass sie eine bessere Genauigkeit als Standard-Gleitkommazahlen bieten und dabei weniger Bits beanspruchen.

Posits haben ein anderes Format als IEEE 754 Floats. Sie bestehen aus vier Teilen: Vorzeichen, Regime, Exponent und Bruch (auch als Signifikand/Mantisse bekannt). Für eine n- Bit-Position kann das Regime die Länge 2 bis ( n  − 1) haben. Das Format des Regimes ist so, dass es eine Wiederholung eines Bits mit gleichem Vorzeichen ist und durch ein Bit mit einem anderen Vorzeichen abgeschlossen wird.

Beispiel 1:

Beispiel 1 zeigt ein Regime mit 14 Bits mit gleichem Vorzeichen (Bit 0), die durch ein Bit mit unterschiedlichem Vorzeichen (Bit 1) abgeschlossen werden. Da es 14 Bits mit gleichem Vorzeichen gibt, beträgt die Lauflänge des Regimes 14.

Beispiel 2 zeigt ein Regime mit 3 Bits mit gleichem Vorzeichen (Bit 1), die durch ein Bit mit unterschiedlichem Vorzeichen (Bit 0) abgeschlossen werden. Da es 3 Bits mit gleichem Vorzeichen gibt, beträgt die Lauflänge des Regimes 3.

Vorzeichen-, Exponenten- und Bruchbits sind IEEE 754 sehr ähnlich; Stellen können jedoch entweder Exponenten- und Bruchbits oder beide weglassen, wodurch eine Stelle übrig bleibt, die nur aus Vorzeichen- und Regime-Bits besteht. Beispiel 3 zeigt die längstmögliche Regime-Lauflänge für eine 16-Bit-Position, wobei das Regime-Abschlussbit, das Exponentenbit und die Bruchbits die Länge der Größe der Position überschreiten. Beispiel 4 veranschaulicht die kürzestmögliche Lauflänge von 1 für eine 16-Bit-Position mit einem Exponentenbit (Bitwert = 1) und 12 Bruchbits (Bitwert = 100000000001).

Die empfohlenen Positionsgrößen und entsprechenden Exponentenbits und Lagengrößen:

Hinweis : Es wird erwartet, dass 32-Bit-Position ausreicht, um fast alle Anwendungsklassen zu lösen.

Quire

Quire ist eine der nützlichsten Funktionen von Positionen. Es ist ein spezieller Datentyp, der eine "nahezu unendliche" Anzahl von Bits zum Sammeln von Punktprodukten angibt. Es basiert auf den Arbeiten von Ulrich W. Kulisch und Willard L. Miranker .

Gültig

Gustafson hat noch keine vollständige Spezifikation von Valids veröffentlicht, aber sie werden als Unum-Modus vom Typ III beschrieben, der Ergebnisse in einen bestimmten Bereich einschränkt.

Implementierungen

Es gibt mehrere Software- und Hardware-Implementierungen von Posts aus der Community. Der erste vollständig parametrisierte Posit-Arithmetik-Hardware-Generator wurde 2018 vorgeschlagen.

Unum-Implementierungen wurden in Julia untersucht . und MATLAB . Eine C++-Version mit Unterstützung für beliebige Positionsgrößen in Kombination mit einer beliebigen Anzahl von Exponentenbits wird ebenfalls bereitgestellt. Eine schnelle Implementierung in C, SoftPosit, bereitgestellt vom NGA-Forschungsteam basierend auf Berkeley SoftFloat, ist die neueste Ergänzung zu den verfügbaren Software-Implementierungen.

SoftPosition

SoftPosit ist eine Softwareimplementierung von Positionen, die auf Berkeley SoftFloat basiert. Dies ermöglicht einen Softwarevergleich zwischen Positionen und Floats. Es unterstützt derzeit

• Hinzufügen
• Subtrahieren
• Multiplizieren
• Teilen
• Fused-multiply-add
• Fused-Dot-Produkt (mit Lage)
• Quadratwurzel
• Konvertieren Sie die Position in eine vorzeichenbehaftete und vorzeichenlose Ganzzahl
• Konvertieren Sie eine ganze Zahl mit und ohne Vorzeichen in eine positive Zahl
• Position in eine andere Positionsgröße umwandeln
• weniger als, gleich, weniger als gleich Vergleich
• Auf nächste ganze Zahl runden

Hilfsfunktionen

• Konvertieren Sie das Doppelte in eine Position
• Position in Verdoppelung umwandeln
• vorzeichenlose ganze Zahl in posit umwandeln

für 16-Bit-Positionen mit einem Exponenten-Bit und 8-Bit-Positionen mit Null-Exponenten-Bit. Die Unterstützung für 32-Bit-Positionen und flexible Typen (2-32 Bit mit zwei Exponenten-Bits) steht noch aus. Derzeit unterstützt es x86_64-Systeme. Es wurde auf GNU gcc (SUSE Linux) 4.8.5 Apple LLVM Version 9.1.0 (clang-902.0.39.2) getestet.

Beispiele :

Mit posit8_t . hinzufügen

#include "softposit.h"

int main (int argc, char *argv[]){

    posit8_t pA, pB, pZ;
    pA = castP8(0xF2);
    pB = castP8(0x23);

    pZ = p8_add(pA, pB);

    //To check answer by converting it to double
    double dZ = convertP8ToDouble(pZ);
    printf("dZ: %.15f\n", dZ);

    //To print result in binary (warning: non-portable code)
    uint8_t uiZ = castUI8(pZ);
    printBinary((uint64_t*)&uiZ, 8);

    return 0;
}

Schmelzpunktprodukt mit quire16_t

//Convert double to posit
posit16_t pA = convertDoubleToP16(1.02783203125 );
posit16_t pB = convertDoubleToP16(0.987060546875);
posit16_t pC = convertDoubleToP16(0.4998779296875);
posit16_t pD = convertDoubleToP16(0.8797607421875);

quire16_t qZ;

//Set quire to 0
qZ = q16_clr(qZ);

//accumulate products without roundings
qZ = q16_fdp_add(qZ, pA, pB);
qZ = q16_fdp_add(qZ, pC, pD);

//Convert back to posit
posit16_t pZ = q16_to_p16(qZ);

//To check answer
double dZ = convertP16ToDouble(pZ);

Kritik

William M. Kahan, der Hauptarchitekt von IEEE 754-1985, kritisiert Typ-I-Unums aus folgenden Gründen (einige werden in Typ-II- und Typ-III-Standards angesprochen):

• Die Beschreibung von Unums-Umgehungen unter Verwendung der Infinitesimalrechnung zur Lösung physikalischer Probleme.
• Unums können in Bezug auf Zeit und Stromverbrauch teuer sein.
• Jede Berechnung im Unum-Raum ändert wahrscheinlich die Bitlänge der Struktur. Dies erfordert entweder das Entpacken in einen Bereich mit fester Größe oder die Datenzuweisung, die Aufhebung der Zuweisung und die Garbage Collection während unum-Operationen, ähnlich den Problemen beim Umgang mit Datensätzen mit variabler Länge im Massenspeicher.
• Unums bieten nur zwei Arten von numerischen Ausnahmen, leise und signalisierende NaN (Not-a-Number).
• Die Unum-Berechnung kann zu lockere Grenzen aus der Auswahl eines algebraisch korrekten, aber numerisch instabilen Algorithmus liefern.
• Die Kosten und Vorteile von Unum gegenüber Gleitkomma mit kurzer Genauigkeit für Probleme, die eine geringe Genauigkeit erfordern, sind nicht offensichtlich.
• Das Lösen von Differentialgleichungen und das Bewerten von Integralen mit Unums garantieren korrekte Antworten, sind aber möglicherweise nicht so schnell wie Methoden, die normalerweise funktionieren.

Siehe auch

• Karlsruhe Genaue Arithmetik (KAA)
• Q (Zahlenformat)
• Bedeutende Zahlen
• Gleitkomma-Fehlerminderung
• Elias Gamma (γ)-Code
• Tapered Floating Point (TFP)

Verweise

Weiterlesen

• Gustafson, John L. (März 2013). "Präzision der richtigen Größe: Unleashed Computing: Die Notwendigkeit der Präzision der richtigen Größe, um Energie, Bandbreite, Speicher und Strom zu sparen" (PDF) . Archiviert (PDF) vom Original am 06.06.2016 . Abgerufen 2016-06-06 .
• Brückner, Rich (2015-03-02). "Slidecast: John Gustafson erklärt energieeffizientes Unum Computing" . Der reiche Bericht . Innen HPC. Archiviert vom Original am 10.07.2016 . Abgerufen 2016-06-10 .
• Gustafson, John L. (2015). "Das Ende des numerischen Fehlers" (PDF) . Archiviert (PDF) vom Original am 06.06.2016 . Abgerufen 2016-06-06 .
• Gustafson, John L. (2016-06-03) [2016-02-22]. „Ein radikaler Ansatz zur Berechnung mit reellen Zahlen – Unums Version 2.0“ (PPT). Archiviert vom Original am 10.07.2016 . Abgerufen 2016-07-10 .(Hinweis: PDFs werden ohne Notizen geliefert: [5] [6] )
• Gustafson, John L. (2016-06-06). "Ein energieeffizienter und massiv paralleler Ansatz für valide Numerik" (PPT). OCRAR-Seminar. Archiviert vom Original am 10.07.2016 . Abgerufen 2016-07-10 . [7] [8]
• Gustafson, John L. (2016). "Ein radikaler Ansatz zur Berechnung mit reellen Zahlen" (PDF) . SuperFri.org. Archiviert (PDF) vom Original am 10.07.2016 . Abgerufen 2016-07-10 .
• Kulisch, Ulrich W. (2015). "Aktuelle Intervallarithmetik von geschlossenen Intervallen zu zusammenhängenden Mengen reeller Zahlen" (PDF) (Preprint). Institut für Angewandte und Numerische Mathematik – Karlsruher Institut für Technologie (KIT), Deutschland. 15/02. Archiviert (PDF) vom Original am 12.07.2016 . Abgerufen 2016-07-12 .
• Risse, Thomas (2016-03-10). „Unum – eine sinnvolle Erweiterung von IEEE 754“ (PDF) (Präsentation). London South Bank University (LSBU), UK: Institute of Informatics & Automation (IIA), Fakultät EEE & CS, Hochschule Bremen , Deutschland. Archiviert (PDF) vom Original am 12.07.2016 . Abgerufen 2016-07-12 .
• Kahan, William M. (2016-07-15). "Prof. W. Kahans Kommentare zur SORN Arithmetik" (PDF) . Archiviert (PDF) vom Original am 01.08.2016 . Abgerufen 2016-08-01 .
• Hunhold, Laslo (2016-11-08). Das Unum-Zahlenformat: Mathematische Grundlagen, Implementierung und Vergleich mit IEEE 754 Gleitkommazahlen (PDF) (Bachelorarbeit). Universität zu Köln , Mathematisches Institut. arXiv : 1701.00722v1 . Archiviert (PDF) vom Original am 07.01.2017 . Abgerufen 2016-10-23 .
• Sterbenz, Pat. H. (1974-05-01). Gleitkommaberechnung . Prentice-Hall Series in Automatic Computation (1. Aufl.). Englewood Cliffs, New Jersey, USA: Prentice Hall . ISBN 0-13-322495-3.
• Höhle, Skip (2016-08-17). "J-Programmiersprachenimplementierung von 3-Bit-, 4-Bit-, 8-Bit- und 16-Bit-Präzisions-Unums" . Abgerufen 2017-05-03 .(Roger Stokes' Download-Link: http://www.learningj.com/unumslab.zip )
• Ingole, Deepak (2017-09-28). Eingebettete Implementierung von Explicit Model Predictive Control (Dissertation). Slowakische Technische Universität in Bratislava , Slowakei.

Externe Links

• "Konferenz für Arithmetik der nächsten Generation (CoNGA)" . 2017. Archiviert aus dem Original am 04.10.2017 . Abgerufen am 4. November .
• "SoftPosition" . 2018 . Abgerufen 2018-06-13 .
• "Beitrag zum Community-Quellcode" . 2018 . Abgerufen 2018-06-13 .
• "Anatomie einer Positionszahl" . 2018-04-11 . Abgerufen 2019-08-09 .