目前,高性能处理机的工作主频已经超过1GHz,而且普遍采用超标量和超流水线等技术,在一个周期内能并行执行多条指令。然而,这些指令和指令执行过程中所需要的数据都来自主存储器。一般主存储器采用动态随机访问存储器DRAM实现,其工作速度比处理机慢100倍以上。
  高性能处理机通常有两级Cache,其中,第一级在CPU内部,它的容量比较小,速度很快,第二级在主板上,容量比较大,速度比第一级要低5倍左右。也有部分高性能处理机采用三级Cache,前两级都在CPU内部。本节主要介绍由Cache与主存储器构成的Cache存储系统(以下简称Cache)。
  Cache与上面介绍的虚拟存储器有许多相似的地方。如地址变换方法,替换算法等,但也有许多不同的地方,具体可看表5.2。
表5.2 Cache与虚拟存储器的主要区别
存储系统 Cache 虚拟存储器
要达到的目标 提高(主存)速度 扩大(主存)容量
实现方法 全部硬件 软件为主,硬件为辅
两级存储器速度比 3~10倍
页(块)大小 1~16字 1KB~16KB
等效存储容量 主存储器 虚拟存储器
透明性 对系统和应用程序员 仅对应用程序员
不命中时处理方式 等待主存储器 任务切换

  因为Cache是全部用硬件来调度,因此,它不仅对应用程序员是透明的,而且对系统程序员也是透明的。在一般情况下,无论是应用程序员还是系统程序员都看不到系统中有Cache存在,更不知道是采用了几级Cache。
  Cache与主存储器之间以块为单位进行数据交换。块的大小通常以在主存储器的一个存储周期中能访问到的数据长度为限。如果主存储器采用并行或低位交叉存取方式,在一个主存周期内可以访问到多个字。例如,IBM370/168计算机的主存储器采用4个存储体低位交叉存取方式,每个存储字的字长是8个字节,因此,每块的大小为32个字节。这样,当Cache不命中时,只要等待一个主存周期,CPU就能得到所需要的数据。