Moc nerozumím tomu, že BFloat16 by měl dosáhnout stejné přesnosti jako jeho 32bitová varianta. Nemělo tam být spíše to, že má stejný rozsah (cca +- 10^38), ale menší přesnost (menší počet desetinných míst)? Ono u neuronových sítí se na přesnost moc nehraje, je to stejné jako u člověka, takže ty cca 2 platné číslice (7 bitů) stačí.
+1
+1
-1
Je komentář přínosný?
Moc nerozumím tomu, že
radek-holecek (neověřeno) https://diit.cz
13. 8. 2018 - 07:08https://diit.cz/clanek/xeony-2018-2019-budou-14nm/diskuseMoc nerozumím tomu, že BFloat16 by měl dosáhnout stejné přesnosti jako jeho 32bitová varianta. Nemělo tam být spíše to, že má stejný rozsah (cca +- 10^38), ale menší přesnost (menší počet desetinných míst)? Ono u neuronových sítí se na přesnost moc nehraje, je to stejné jako u člověka, takže ty cca 2 platné číslice (7 bitů) stačí.https://diit.cz/clanek/xeony-2018-2019-budou-14nm/diskuse#comment-1173741
+
Bez toho, aby som hájil autora skúsim niečo
Ja to skôr chápem tak, že vzhľadom na približnosť výsledkov a zovšeobecňovanie v neurónových sieťach, 32 bit float je nevyužitý a nemá znateľný vplyv na výsledky inferencie oproti 16-im bitom, Tak sa to v coprorate speach napíše tak, ako je to v článku...
+1
+1
-1
Je komentář přínosný?
Bez toho, aby som hájil
Peter Fodrek https://diit.cz/profil/fotobanew
13. 8. 2018 - 09:05https://diit.cz/clanek/xeony-2018-2019-budou-14nm/diskuseBez toho, aby som hájil autora skúsim niečo
Ja to skôr chápem tak, že vzhľadom na približnosť výsledkov a zovšeobecňovanie v neurónových sieťach, 32 bit float je nevyužitý a nemá znateľný vplyv na výsledky inferencie oproti 16-im bitom, Tak sa to v coprorate speach napíše tak, ako je to v článku...https://diit.cz/clanek/xeony-2018-2019-budou-14nm/diskuse#comment-1173759
+
A do jaké patice s jakým chipsetem se to bude cpat? X99 asi ne co?
+1
0
-1
Je komentář přínosný?
A do jaké patice s jakým
Kazaxx https://diit.cz/profil/david-k
13. 8. 2018 - 12:36https://diit.cz/clanek/xeony-2018-2019-budou-14nm/diskuseA do jaké patice s jakým chipsetem se to bude cpat? X99 asi ne co?https://diit.cz/clanek/xeony-2018-2019-budou-14nm/diskuse#comment-1173837
+
Moc nerozumím tomu, že BFloat16 by měl dosáhnout stejné přesnosti jako jeho 32bitová varianta. Nemělo tam být spíše to, že má stejný rozsah (cca +- 10^38), ale menší přesnost (menší počet desetinných míst)? Ono u neuronových sítí se na přesnost moc nehraje, je to stejné jako u člověka, takže ty cca 2 platné číslice (7 bitů) stačí.
Bez toho, aby som hájil autora skúsim niečo
Ja to skôr chápem tak, že vzhľadom na približnosť výsledkov a zovšeobecňovanie v neurónových sieťach, 32 bit float je nevyužitý a nemá znateľný vplyv na výsledky inferencie oproti 16-im bitom, Tak sa to v coprorate speach napíše tak, ako je to v článku...
A do jaké patice s jakým chipsetem se to bude cpat? X99 asi ne co?
Pro psaní komentářů se, prosím, přihlaste nebo registrujte.