物理世界是连续的,人的认知是有限的,所以处理的数据都是有限的小数。
基于这个特点,绝大部分数字系统中的处理都是定点
定点的缺点在于表示的数据范围有限,于是就有了浮点数
这样一来,就出现了数据表示误差(一半是天使,一般是恶魔)
特别是在和用户交互过程中,如果没有能有效处理用户的输入,恶魔就敲门了。例如用户输入一个数,再读取回来就发现和输入的不一致(xxx99999)
归根结底,系统中需要一个完善的定点系统,放弃掉基本的整型/浮点数表示。
使用两种方式来表示:指数形式,AAAAA+E,前面表示有限的数据,后面的E表示实际的范围或者单位
分数M/N的形式,进行计算时需要将M/N代入公式成为(M*X)/N的形式,在这个过程中需要防止(M*X)溢出。