Tudományos számológépek teszteredményei
Amíg az alapműveletes számológépek - számábrázolási tartományukon belül - szinte kivétel nélkül azonos módszer alapján
végzik el a műveleteket, addig a tudományos számológépek különféle függvények számításához felhasznált iterációs közelítési eljárások
meglehetősen különbözőek, így lehetőség van ezen gépek ilyen számítási pontosságának mérésére és összehasonlítására.
A trigonometriai tesztben - a három általánosan megvalósított szögfüggvény: sin, cos, tg - kiszámítását használjuk fokban történő szögmegadási üzemmódban. A képlet a következő: arcsin(arccos(arctg(tg(cos(sin(60°)))))). Ha az adott géptípus nem képes fokban megadott szögekkel dolgozni, vagy képtelen kiszámítani az eredményt, egy kötőjel szerepel a számítási végeredmény helyett. Az eredmények mindenütt a gép belső pontosságának felelnek meg, a kijelzőn a gép tulajdonságainak függvényében a megadottnál pontatlanabb eredmény is szerepelhet.
| Eredmény | Típusok |
| - |
|
| 59.4715 |
|
| 59.94624 |
|
| 59.987247 |
|
| 59.991158 |
|
| 59.991586 |
|
| 59.991592 |
|
| 59.997798* |
|
| 59.999823 |
|
| 59.999992349 |
|
| 59.9999942989 |
|
| 59.9999963259 |
|
| 59.999998424 | |
| 59.999998858 | |
| 59.9999999938414 | |
| 59.999999997245 | |
| 60.0000000015582 | |
| 60.00000016055 |
|
| 60.00000029128 |
|
| 60.0000005952 | |
| 60.00000059532 | |
| 60.0000006699 |
|
| 60.00000067 |
|
| 60.000000699 |
|
| 60.0000010289 |
|
| 60.0000010291 |
|
| 60.0000010297 |
|
| 60.0000049383 |
|
| 60.0000050142 |
|
| 60.00000545 |
|
| 60.0000071862 |
|
| 60.000009708 |
|
| 60.000009718 |
|
| 60.00001153 |
|
| 60.0000145691 |
|
| 60.000018398 | |
| 60.00001841 |
|
| 60.00004012 |
|
| 60.00006183 |
|
| 60.00006185 |
|
| 60.00007234 |
|
| 60.00009718 |
|
| 60.0001157713 |
|
| 60.00024571 |
|
| 60.00028951 |
|
| 60.00102621 |
|
| 60.00102632 |
|
| 60.00111811 |
|
| 60.0011368342 |
|
| 60.0011368405 |
|
| 60.00115935 |
|
| 60.004611995 |
|
| 60.006046807 |
|
| 60.011803 |
|
| 60.01228245 |
|
| 60.0154861 |
|
| 60.019845215 |
|
| 60.028581744 |
|
| 60.030724 |
|
| 60.055264 |
|
| 60.0632958 |
|
| 60.063296 |
|
| 60.087052 |
|
| 60.08726889 |
|
| 61.157225 |
|
| 61.2093 |
|
| 61.84824 |
|
| 61.852094 |
|
| 61.893424 |
|
| 62.0295 |
|
| 62.5781 |
|
| 62.57928 |
|
| 62.5805 |
|
| 64.4604 |
|
| 67.497 |
|
| 97.497 |
|
Az exponenciális tesztben - az 1-hez közeli értékek hatványsorának gyakorlati határértékének meghatározása történik, a legkisebb kapacitású gépekkel összehasonlítható eredmény érdekében az alábbi képlet alapján: 0.999160000. Ha az adott géptípus nem képes kiszámítani az eredményt, esetleg 0-t ad vissza, egy kötőjel szerepel a számítási végeredmény helyett. Az eredmények mindenütt a gép belső pontosságának felelnek meg, a kijelzőn a gép tulajdonságainak függvényében a megadottnál pontatlanabb eredmény is szerepelhet.
| Eredmény | Típusok |
| - |
|
| 0 |
|
| 2.731791E-70 |
|
| 2.775943E-70* |
|
| 2.8054320E-70 |
|
| 2.805433E-70 |
|
| 3.00216E-70 |
|
| 3.0021E-70 |
|
| 3.006559827E-70 |
|
| 3.00655988E-70 |
|
| 3.0065598E-70 |
|
| 3.00680420639E-70 |
|
| 3.00687733293E-70 |
|
| 3.00688022152E-70 |
|
| 3.00688022153E-70 |
|
| 3.006880419265E-70 | |
| 3.0068804203E-70 |
|
| 3.00688042063787E-70 | |
| 3.006880420988E-70 | |
| 3.0068804211269E-70 | |
| 3.006880421128E-70 |
|
| 3.00688042113E-70 |
|
| 3.00688042141E-70 | |
| 3.006880421E-70 |
|
| 3.00688042238E-70 |
|
| 3.0068804248E-70 |
|
| 3.006880424E-70 |
|
| 3.0068804292-70 | |
| 3.0068804292E-70 |
|
| 3.00688042E-70 |
|
| 3.006880432E-70 |
|
| 3.00688043331E-70 | |
| 3.00688043E-70 |
|
| 3.006880460815E-70 |
|
| 3.00688046081E-70 |
|
| 3.0068804E-70 |
|
| 3.0068806E-70 |
|
| 3.006880701E-70 |
|
| 3.00688090138E-70 |
|
| 3.00688090276E-70 |
|
| 3.006880903E-70 |
|
| 3.00688090603E-70 |
|
| 3.006880906E-70 |
|
| 3.0068809E-70 |
|
| 3.00688102E-70 |
|
| 3.006881E-70 |
|
| 3.006885E-70 |
|
| 3.00688E-70 |
|
| 3.006896298E-70 |
|
| 3.006896579E-70 |
|
| 3.006920635E-70 |
|
| 3.0069206E-70 |
|
| 3.0069206E70 |
|
| 3.0069446892E-70 |
|
| 3.006980772E-70 |
|
| 3.00704091E-70 |
|
| 3.00704092E-70 |
|
| 3.007043E-70 |
|
| 3.00705E-70 |
|
| 3.00709E-70 |
|
| 3.007363E-70 |
|
| 3.007365E-70 |
|
| 3.007737986E-70 |
|
| 3.007E-70* |
|
| 3.011699E-70 |
|
| 3.0166784E-70 |
|