4. MIPS流水线与冒险

yongruifang2024年3月6日mips大约 4 分钟

目标

了解五级流水线
了解不同的流水线冒险
通过指令顺序调整旁路预测来提高效率

内容

给定一段代码，运行，观察统计信息，找出冒险。
一边调整，一边观察反馈。
enable forwarding: 开启
代码：实现两个矩阵相加

伪代码

for(int i = 0; i < 4; i ++) {
    for(int j = 0; j < 4; j ++) {
        C[i][j] = A[i][j] + B[i][j];
    }
}

转换成MIPS的汇编。

汇编代码

matrix_add.s

.data   
a:          .word   1, 1, 1, 1, 2, 2, 2, 2, 3, 3, 3, 3, 4, 4, 4, 4
b:          .word   4, 4, 4, 4, 3, 3, 3, 3, 2, 2, 2, 2, 1, 1, 1, 1
c:          .word   0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0
LEN:        .word   4
CONTROL:    .word32 0x10000
DATA:       .word32 0x10008

.text   
start:      
    daddi   r17,    r0,         0
    daddi   r21,    r0,         a
    daddi   r22,    r0,         b
    daddi   r23,    r0,         c
    ld      r16,    LEN(r0)
loop1:      
    slt     r8,     r17,        r16
    beq     r8,     r0,         exit1
    daddi   r19,    r0,         0
loop2:      
    slt     r8,     r19,        r16
    beq     r8,     r0,         exit2
    dsll    r8,     r17,        2
    dadd    r8,     r8,         r19
    dsll    r8,     r8,         3
    dadd    r9,     r8,         r21
    dadd    r10,    r8,         r22
    dadd    r11,    r8,         r23
    ld      r9,     0(r0)
    ld      r10,    0(r10)
    dadd    r12,    r9,         r10
    sd      r12,    0(r11)
    daddi   r19,    r19,        1
    j       loop2
exit2:      
    daddi   r17,    r17,        1
    j       loop1
exit1:      
    halt

内容规划

给出一段代码，有意义的代码（比如矩阵加法），带有明显的数据相关，要求通过流水线执行来发现数据相关处，记录统计信息。
对初始代码进行指令序列的调整，以获得性能提升，记录统计信息。
启动forwarding功能以获得性能提升，记录统计信息。
用循环中的连续除法做功能冲突的展示，然后将后续无关指令填充到它们之间，实现优化。
附加实验：用perf记录x86中的数据冒险在指令序列调整前后的事件统计（stall等）

矩阵相加

调整指令序列

ld r16, LEN(r0)
slt r8, r17, r16

ld r9, 0(r0)
ld r10, 0(r10)
daddi r12, r9, r10 
sd r12, 0(r11)
daddi r19, r19, 1 
j loop2

查看diff

启用forwarding

原理是什么

结构相关-连续的除法指令

流水线的结构相关，是指流水线多条指令在同一时钟周期内争用同个功能部件的现象，是因为硬件资源满足不了指令重叠执行的要求而发生的冲突。

连续的除法

在winMIPS64中，我们可以在除法中观察到这种现象。

代码

伪代码

a = a / b;
c = c / d;
e = e + 1;
f = f + 1;
g = g + 1;
h = h + 1;
i = i + 1;
j = j + 1;

MIPS

.data   
a:  .word   12
b:  .word   3
c:  .word   15
d:  .word   5
e:  .word   1
f:  .word   2
g:  .word   3
h:  .word   4
i:  .word   5
j:  .word   6

.text   
start:
    ld      r16,    a(r0)
    ld      r17,    b(r0)
    ld      r18,    c(r0)
    ld      r19,    d(r0)
    ld      r20,    e(r0)
    ld      r21,    f(r0)
    ld      r22,    g(r0)
    ld      r23,    h(r0)
    ld      r24,    i(r0)
    ld      r25,    j(r0)
    ddiv    r16,    r16,    r16
    ddiv    r18,    r18,    r19
    daddi   r20,    r20,    1
    daddi   r21,    r21,    1
    daddi   r22,    r22,    1
    daddi   r23,    r23,    1
    daddi   r24,    r24,    1
    daddi   r25,    r25,    1
    sd      r16,    a(r0)
    sd      r17,    b(r0)
    sd      r18,    c(r0)
    sd      r19,    d(r0)
    sd      r20,    e(r0)
    sd      r21,    f(r0)
    sd      r22,    g(r0)
    sd      r23,    h(r0)
    sd      r24,    i(r0)
    sd      r25,    j(r0)
    halt

两个连续的除法发生了明显的结构相关。
第二个除法为了等待上一个除法指令，阻塞了9个周期。

调整序列

调整指令序列

将其他无关的指令塞入两条连续的除法指令之间。

完整代码

伪代码

a = a / b;
e = e + 1;
f = f + 1;
g = g + 1;
h = h + 1;
i = i + 1;
j = j + 1;
c = c / d;

divide-2.s

.data   
a:  .word   12
b:  .word   3
c:  .word   15
d:  .word   5
e:  .word   1
f:  .word   2
g:  .word   3
h:  .word   4
i:  .word   5
j:  .word   6

.text   
start:
    ld      r16,    a(r0)
    ld      r17,    b(r0)
    ddiv    r16,    r16,    r17
    ld      r18,    c(r0)
    ld      r19,    d(r0)
    ld      r20,    e(r0)
    ld      r21,    f(r0)
    ld      r22,    g(r0)
    ld      r23,    h(r0)
    ld      r24,    i(r0)
    ld      r25,    j(r0)
    daddi   r20,    r20,    1
    daddi   r21,    r21,    1
    daddi   r22,    r22,    1
    daddi   r23,    r23,    1
    daddi   r24,    r24,    1
    daddi   r25,    r25,    1
    sd      r20,    e(r0)
    sd      r21,    f(r0)
    sd      r22,    g(r0)
    sd      r23,    h(r0)
    sd      r24,    i(r0)
    sd      r25,    j(r0)
    ddiv    r18,    r18,    r19
    halt

查看diff