maths.free › Numerical Methods › Floating point and error

Floating point and error

Why 0.1 + 0.2 ≠ 0.3 on a computer, and how error propagates.

Computers store numbers in binary with ~16 significant digits; 0.1 is not representable exactly. Round-off accumulates, and subtracting nearly equal numbers destroys digits (cancellation). Picture it: 255 in binary is 11111111, and 0.1 in binary never terminates. Think it: a stable algorithm keeps error growth linear; conditioning is a property of the problem, stability of the method.

ឧទាហរណ៍​ដែល​បាន​ធ្វើ · 0.1 + 0.2

Evaluate 0.1 + 0.2

0.1 + 0.2

ជំហាន​ដោយ​ជំហាន

  1. 0.3 = \frac{3}{10}

    Add: 0.1 + 0.2 = 3/10.

  2. \frac{3}{10} = 0.3

    Simplify.

បង្ហាញ​ចម្លើយ
0.3

ឥឡូវ​អ្នក ជ្រើស​បញ្ហា ឬ​វាយ​បញ្ចូល ឬ​គូរ​របស់​អ្នក​ផ្ទាល់ ។ ជំហាន​នីមួយៗ រូបភាព ចម្លើយ​ត្រូវ​បាន​លាក់​រហូត​ដល់​អ្នក​សួរ ។

រក្សា​ការ​ធ្វើការ​របស់​អ្នក​ផ្ទាល់

គណនី​ឥត​គិត​ថ្លៃ​បន្ថែម​ចំណាំ​លើ​មេរៀន​នីមួយៗ កំណត់​ហេតុ​នៃ​អ្វី​ដែល​អ្នក​បាន​បញ្ចប់ បញ្ហា​ដែល​អ្នក​បាន​ដោះស្រាយ​នៅ​កន្លែង​មួយ និង​គ្រូ​ដែល​អ្នក​អាច​សួរ​អំពី​ទំព័រ​នេះ ។ គណិតវិទ្យា​ដោយ​ខ្លួន​វា​គឺ​បើក​ចំហ​សម្រាប់​អ្នក​ទាំងអស់​គ្នា ចុះឈ្មោះ​ចូល ឬ​មិន​ចុះឈ្មោះ​ចូល ។

ចុះឈ្មោះ ចូល

និមិត្ត​សញ្ញា​ដែល​បាន​ប្រើ​នៅ​ទីនេះ

ចុច​និមិត្ត​សញ្ញា​ណាមួយ​សម្រាប់​ការ​កំណត់​ពេញលេញ រូបភាព និង​តួអក្សរ​នីមួយៗ​មាន​ន័យ​អ្វី ។

របៀប​: Floating point and error

  1. Add: 0.1 + 0.2 = 3/10.
  2. Simplify.

សំណួរ​ដែល​មនុស្ស​សួរ

Why not just solve exactly?

Most equations have no closed-form solution at all, and many that do are unusable in practice. A numerical method delivers as many correct digits as you need, and a good one tells you how many that is.

Why can Newton's method fail?

If it starts where the tangent is nearly flat it shoots far away; near a repeated root it slows to a crawl; and with several roots it may land on the wrong one. A bracketing method like bisection is slower but cannot fail.

បន្ថែម​ទៀត​ក្នុង Numerical Methods