Diit.cz - Novinky a informace o hardware, software a internetu

Diskuse k AMD Instinct MI200 / Aldebaran podporuje až 128 GB HBM2E

LukasL34 | 14. 6. 2021 - 13:11

Co je FP64? Pamatuji si odněkud že PS4 Pro má 4Tflops v FP32, což prý nemuselo stačit a nějaký hlavoun ze Sony tvrdil že to nevadí protože v FP16 to má přes 8 Tflops.
Ale co to má být? Bitové operace? Je snad většina PS4 Pro her šestnáctibitových?

+1
0
-1
Je komentář přínosný?
Zbyněk71 | 14. 6. 2021 - 16:53

Formát s plovoucí desetinnou čárkou s dvojitou přesností (někdy nazývaný FP64 nebo float64 ) je formát čísla počítače, který obvykle zabírá 64 bitů v paměti počítače. Viz Wikipedia. Jedná se o výkon výpočtů v této číselné přesnosti.

+1
0
-1
Je komentář přínosný?
IT Joker | 14. 6. 2021 - 22:53

FP64 je to, čemu se v programovacích jazycích často říká double (např. v C++, C#), dneska to často je výchozí datový typ pro čísla v plovoucí čárce (např. JavaScript standardně používá FP64 na všechno v plovoucí čárce).
FP32 se v programovacích jazycích často nazývá float, single nebo real.
FP16 se, pokud vím, taková specialita implementovaná pro zrychlení výpočtů kterým nevadí snížená přesnost.

+1
0
-1
Je komentář přínosný?
LukasL34 | 15. 6. 2021 - 14:03

Díky za vysvětlení

+1
0
-1
Je komentář přínosný?

Pro psaní komentářů se, prosím, přihlaste nebo registrujte.