[컴퓨터구조] Lec19 Control Hazards

📢이전까지는 산술 연산과 데이터 전송이 관련된 헤저드였다.

이제는 분기와 관련된 파이프라이닝 헤저드가 있다.

원래 분기를 할 것인가 말 것인가에 대한 결정은 MEM에서 이루어진다.

그런데 이제 인출한 명령어게 늦게 결정되는 문제를 control hazard라고 한다.

 

✅Control Hazard

• 브랜치 헤저드 (브랜치 명령어 떄문에 발생해서)
• 해치된 명령어가 필요한 명령어가 아니기 때문에 해당 클럭 사이클에 실행할 수 없을 때 발생한다.

* 명령어의 왼쪽에 있는 숫자들(40, 41,,)은 명령어 주소이다.

 

분기 명령어는 분기할 것인지를 MEM에서 결정을 한다.

(위 표의 경우 CC4)

근데 다음 명령어가 PC+4이다.

그래서 이러한 CONTROL HAZARD가 발생한다.

 

📌Solution

1. 데이터 해저드 (파이프라인 일부 멈추는 거 - 근데 성능 안 좋음)
2. 브랜치를 예측함 (많이 사용됨)
3. 브랜치를 지연시킴

1️⃣Stall on Branch

기다렸다가 다음 명령어를 fetch한다.

이렇게 하면 3클럭이 낭비가 된다.

그래서 그때까지 bubble이 생기게 한다.

 

(3개의 패널티가 생긴다)

 

🤔브랜치 할지, 말지를 좀 더 앞에서 알면 좋지 않을까?

• 다음 PC 값을 MEM 단계가 아니라 ID 단계에서 선정한다.
• IF 단계에 있는 명령어 한 개만 쓸어내리면 된다.

 

🤩데이터패스 수정

분기 목적지 주소 계산과 분기 조건 검사를 ID 단계에서 실행한다.

패널티를 하나만 버리게 되는 거

1. 분기 덧셈기를 ID 단계로 이동
2. ID 단계에 비교기 추가

😃 제어 신호의 추가

IF/ID 파이프라인 레지스터의 명령어 필드를 0으로 만든다.

인출된 명령어를 nop으로 바꾸는 것

모든 명령어를 다 0으로 바꿈 (nop)

브랜치가 CPI에 미치는 영향

17퍼센트만큼 성능이 떨어짐

 

💡 Average CPI = 1 + 0.17 x 1 = 1.17

 

 

2️⃣Branch Prediction

파이프라인이 길어지면 그 브랜치에 대한 결과가 빨리 나올 수가 없다.

• 실제 분기 결과가 확인될 때까지 기다리는 대신, 분기 결과를 가정하고 그 가정 하에 파이프라인을 진행해 나가는 분기 헤저드 해결 방법 (실제로 사용되는 방법)

⇒ 분기 결과를 예측 > 예측이 맞으면 지연 없이 진행

⇒ 예측 실패 손실 > 예측이 틀렸을 때만 생기는 파이프라인 지연

• 확률기존에 mem에서 했던 건 1.51이제 예측을 하니까 1.085까지 줄게됨1+0.17 x 0.1 = 1.017까지 개선 가능
• 예측을 하는데 좀 더 좋은 기술을 사용하면 정확도를 90%까지 할 수 있음
• 이걸 id로 가져오면 1.17이었고
• 1 + 0.17+ 0.5 = 1.085 까지 줄일 수 있음

 

📌 예측하는 방법이 2가지!!!

 

1. 정적인 예측

• 프로그램이 실행하기 전에 분기 방향을 예측한다.
• 그 전에 실행한 결과를 이용해 예측을 한다.
• 우리 상황에 맞는 예측을 못할 수도 있음

1. 동적인 예측

• 프로그램 실행 시 수집한 정보를 이용하여 분기 방향을 예측한다.
• 프로그램을 실행하면서 하드웨어가 분기 이력을 기록한다. (recording)

 

📍Assume Branch Not Taken

⇒ 분기가 일어나지 않는다고 가정

실제로 분기가 일어나지 않는다면, 파이프라인에 있는 명령어를 그대로 실행한다.

만약 분기가 일어난다면, 인출, 해독된 명령어들은 버리고 분기 목적지에서 실행을 계속한다.

예측이 맞으면 branch not taken으로

예측이 틀리면 버블로 바뀌고 pc+4가 들어옴 (Misprediction Penalty)

 

📍Dynamic Branch Prediction

⇒ 동기 분기 예측

우리가 돌리고자 하는 프로그램에 맞춰 예측을 한다.

명령어 주소를 살펴서 지난 번 실행 시 분기 여부를 검사한다.

지난 번과 같은 방향에서 다음 명령어를 인출한다.

따라서 과거에 한 표가 있어야 함(branch history table)

 

💙BHT (Branch Histroy Table)

• 분기 명령어 주소의 하위 비트에 의해 인덱스 되는 작은 메모리이다.
• BHT를 검사해서 분기 여부를 예측
• 다음 명령어 또는 분기 목적지에서 명령어 인출
• 예측이 틀렸을 때는 파이프라인을 비우고 예측 방향을 바꾼다.

 

🌟2-bit Branch Prediction Scheme

• 예측이 연속 두 번 틀려야 예측 방향을 바꾼다.
• 두 번 틀릴 것은 한 번만 틀리게 한다.

90%까지 성능을 올릴 수 있음

3️⃣Delayed Branch

지연분기

: 다음 순서의 명령어를 항상 실행하고, 실제 분기는 그 명령어를 파이프라인에 넣고 나서 한 사이클 늦게 일어난다.

 

분기 지연 슬롯

• 0지연 분기 명령어 바로 다음 슬롯
• 컴파일러와 어셈블러는 분기 여부와 상관 없이 항상 실행되는 명령어로 채운다.

 

추가적인 하드웨어 필요 없지만

파이프라인이 길어지고 한 번에 명령어가 여러 개 처리되고

많이 찾아야 되는 상황이 생기는데 이래서 쉽지 않음

요새에는 잘 안 쓰임