概念解释

指令流水线（Instruction pipelining）:

多条指令重叠执行的一种指令执行方式。流水线方式下，一条指令的执行过程被分成若干个操作子过程，每个子过程由一个独立的功能部件来完成。在同一条流水线中，每条指令所包含的操作子过程个数必须一样，每个子过程所花的时间也要设计成相同。因此，一般按最复杂的指令来设计流水段个数，以最复杂的子过程来设计流水段的宽度。现代计算机一般把复杂度相近的指令用同一条流水线完成，而把复杂度相差很大的指令安排在不同的流水线中。

流水线深度（Pipeline Depth）:

流水段的个数称为流水线深度或流水线级数。

指令吞吐量（Instruction throughput）:

单位时间内处理器执行指令的条数。采用流水线指令执行方式能提高指令的吞吐率，但不能缩短每条指令的执行时间。

流水线冒险（Hazard）:

在指令流水线中，如果发生了在下个周期中下一条指令不能执行（如果执行就发生错误）的情况，则说明流水线被破坏，这些流水线被破坏的现象称为流水线冒险。有三种流水线冒险：结构冒险、控制冒险、数据冒险。

结构冒险（Structural hazard）:

在指令流水线中，同一个部件同时被不同指令所使用的现象称为结构冒险，也称为资源冲突（resource conflicts）。

控制冒险（Control hazard）:

在指令流水线中，转移指令或异常等情况改变了程序执行的流程，而使得在目标地址产生前已被取到流水线中的指令无效的现象称为控制冒险，也称为分支冒险（Branch Hazard）或控制相关（Control dependency）或顺序相关（Sequential dependency）。

数据冒险（Data Hazard）:

在指令流水线中，后面指令用到前面指令的结果时，前面指令的结果还没产生的现象称为数据冒险，也称为数据相关（data dependency）。

流水线阻塞（Pipeline stall）/气泡（Bubble）:

流水线中下一条指令不能执行时，就在硬件上加入额外的电路来使得下一条指令延迟若干周期再执行，这种方式称为流水线阻塞或流水线停顿。有时也会形象地称这种做法为在流水线中插入气泡（Bubble）。

空操作（nop）:

空操作就是不做任何动作，而只是在时间上延迟一段时间。有两种情况：（1）为了规整流水线，在某些指令的执行过程中加入空流水段，这种空流水段中的操作称为空操作；（2）为了避免流水线冒险，在相关指令的前后加入nop指令，使得流水线停顿若干时钟，等到需要的信息得到后再继续执行后面的指令。执行nop指令时，因为PC的值不变，所以实际上在各流水段执行的还是原来的指令。

分支条件满足（Branch taken）:

对于条件转移指令（即：分支指令Branch），其执行结果总有两种可能性（即：两个分支或两条执行路径）：一种是条件满足（称为“Branch taken”），此时转到转移目的地址处继续执行；另一种是条件不满足（称为“Branch not taken”），此时则继续取下条指令执行。

分支预测（Branch predict）:

在流水线执行过程中，对每条分支指令进行预测，可以简单地预测总是“Branch Taken”或“Branch not taken”，也可以根据历史情况动态预测，总是把预测发生的分支处下条指令取到流水线中。这样，只要预测成功，流水线就不会发生阻塞。如果预测不成功，则流水线要退回到正确的分支地址处重新启动流水线执行，原先不该取出执行的指令要排除出流水线。

延迟分支（Delayed branch）:

在指令执行过程中，将前面一条与分支指令没有关系的指令放到分支指令后面执行，这样，使得分支指令能在足够的时间内得到测试结果，从而流水线不会发生阻塞现象。这种对指令进行顺序调整的工作在程序编译阶段完成。

转发（Forwarding）/旁路（Bypassing）:

当后面指令要用到前面指令的结果数据时，前面流水段部件中得到的数据直接通过连线传送到后面流水段的部件中，而不等待前面指令的结束。这种方式称为转发或旁路，它能解决部分数据冒险。

流水线寄存器（Pipeline register）:

流水线中，在每个流水段之间用来暂时存放数据信息和控制信息的寄存器。每个时钟到来时，上个时钟内在各流水段内产生的所有数据信息和控制信息被写到相应的流水段寄存器中，并在本时钟内作为下一个流水段部件的输入信息。

超流水线（Superpipelining）:

是指具有更多级流水段的一种流水线。理想情况下，流水线阶段越多，则指令的吞吐率越高，所以一些处理器采用8个或更多流水阶段，称为超流水线。

超标量流水线（Superscalar）:

若干条指令(如整数运算、浮点运算、装入/存储等) 同时启动并独立运行。即：每个时钟周期发射多条指令，有多套取指部件和指令译码部件，并且同时有多条指令执行，所以应有多个执行部件。如：定点处理部件、浮点处理部件、乘/除法部件、取数/存数部件等。超标量流水线是一种多指令发射（Multiple-instruction issue）方式。

动态流水线（Dynamic pipelining）:

动态流水线通过指令相关性检测和动态分支预测等手段，投机性地不按指令顺序执行，当发生流水线阻塞时，可以到后面找指令来执行。动态流水线的通用模型由以下主要单元组成：指令预取和分发单元、执行单元、提交单元。这种调整指令执行顺序的方式称为动态流水线调度（Dynamic pipeline scheduling）。

指令预取（Instruction prefetch）:

在指令执行前，预先把指令取到CPU的指令缓冲器中。这样，在指令执行时，不需要再去取指令，可以很快直接执行指令。流水线指令执行方式中要用到指令预取。

指令分发（Instruction dispatch）:

对指令队列中的指令进行译码，根据译码结果将指令分派到相应的执行单元。用来进行指令译码和分发的部件称为分发单元。

指令发射（Instruction issue）:

通常把指令的预取、译码和分发称为指令发射。

按序发射（in-order issue）:

指令按照原来的顺序进行发射。

无序发射（out-of-order issue）:

指令不按原来的顺序发射，把有冒险可能性的指令推后发射，而把后面无冒险的指令提前发射。

指令执行单元（Instruction execute unit）:

用来对指令进行执行的功能单元部件。在动态流水线中，不同的指令被分派到不同的指令执行单元中。例如：整数运算单元、浮点运算单元、存数单元、取数单元等等。

存储站（Reservation station）:

在动态调度流水线中，每个执行单元都有自己的缓存，用来保存当前执行的指令、操作数和结果等。这个缓存称为存储站。

乱序执行（out-of-order execution）:

在指令执行单元有很多指令同时被执行，而且每种指令所花的执行时间也不一样，所以，无法按照原来的顺序执行指令，所以动态流水线中，指令一定是乱序执行的。

重排序缓冲（Reorder buffer）:

因为指令执行是无序的，所以，需要对执行后的指令重新排序，在指令最后提交前先要将其存放在重排序缓存中。

指令提交单元（Instruction commit unit）:

将指令执行的结果写到结果寄存器或存储单元中以完成指令最后一步操作。提交单元在重排序缓冲中保存所有挂起的指令，根据分支功能单元执行的结果确定预测是否成功，从而确定哪些指令需从重排序缓冲中清除，哪些指令可以写结果以提交。

按序完成（in-order completion）:

指令按照原来的顺序完成。

无序完成（out-of-order completion）:

指令不按照原来的顺序完成。

按序发射按序完成:

指令按照原来的顺序预取、译码和分发，也按原来的顺序完成。

按序发射无序完成:

指令按照原来的顺序预取、译码和分发，但不按原来的顺序完成。

无序发射无序完成:

指令不按照原来的顺序预取、译码和分发，也不按原来的顺序完成。