Přesnost (počítačová věda) - Precision (computer science)
V informatice je přesnost numerické veličiny měřítkem detailu, ve kterém je kvantita vyjádřena. To se obvykle měří v bitech, ale někdy v desítkových číslicích. Souvisí to s přesností v matematice , která popisuje počet číslic, které se používají k vyjádření hodnoty.
Některé ze standardizovaných přesných formátů jsou
- Formát s plovoucí desetinnou čárkou s poloviční přesností
- Formát s plovoucí desetinnou čárkou s jednou přesností
- Formát s plovoucí desetinnou čárkou s dvojitou přesností
- Čtyřnásobný přesný formát s plovoucí desetinnou čárkou
- Osmičkový přesný formát s plovoucí desetinnou čárkou
Z nich se zřídka používá formát s přesností na osm řádků. Formáty s jednoduchou a dvojitou přesností se nejčastěji používají a podporují téměř na všech platformách. Použití formátu s přesností na polovinu se zvyšuje zejména v oblasti strojového učení, protože mnoho algoritmů strojového učení je ze své podstaty tolerantních vůči chybám.
Chyba zaokrouhlování
Přesnost je často zdrojem chyb zaokrouhlování ve výpočtu . Počet bitů použitých k uložení čísla často způsobí určitou ztrátu přesnosti. Příkladem může být uložení „sin (0.1)“ do standardu IEEE s plovoucí desetinnou čárkou s přesnou přesností. Chyba se pak často zvětšuje, protože se pomocí dat provádějí další výpočty (i když je také možné je snížit).
Viz také
- Aritmetika s libovolnou přesností
- Rozšířená přesnost
- IEEE754 (standard IEEE s plovoucí desetinnou čárkou)
- Celé číslo (informatika)
- Významné údaje
- Zkrácení
- Přibližné výpočty