💾

Lecture 02 : Performance

course

last review

2023/04/10

mastery

rookie

progress

not started

date

2023/03/15

4 more properties

Previous chapter

Lecture 01 : 1.1~1.5

Performance

ThroughPut

Relative Performance

Measuring Execution Time

Elapsed time(a.k.a. Response Time (a.k.a. Wall Clock Time)) : 계산 실행시간

CPU Time

CPU performance and factors

Instruction Performance

Classical CPU Performance Equation

시스템의 성능을 측정하는 것은 간단한 일이 아니다.

현대의 소프트웨어는 규모가 크고 복잡하며, 하드웨어는 성능 개선을 위한 여러가지 기법을 사용하고 있어 성능평가가 더욱 어렵다.

Performance

•

두 데스크톱 컴퓨터에서 같은 프로그램을 실행시킨다면, 먼저 끝나는 쪽이 더 빠른 컴퓨터라고 할 수 있을 것이다.

◦

개인의 입장에서는 응답시간(response time) : a.k.a. 실행시간(execution time)이 더 중요할 것이다.

•

그러나 여러 대의 서버를 가지고 여러 사용자의 작업을 처리한다면, 하루동안 더 많은 작업을 처리하는 컴퓨터가 더 빠른 컴퓨터일 것이다.

◦

즉, 서버 입장에서는 처리량(throughput) 또는 대역폭(bandwidth)이 더 중요하다.

ThroughPut

어느 비행기가 가장 좋은가? 각 비행기마다의 수치가 다를 것이다.

•

가장 빠른 비행기는?

•

가장 많은 승객을 태우는 비행기는?

•

가장 긴 여행레인지는?

한명이 빠르게 이동하기 위해서는 콩코드가 더 빠르고 효율적일 것이다.

그렇다면 많은 승객을 빠르게 옮기기 위해서는 어떤게 더 빠르고 효율적인가?

어떤 일을 하는데 단순히 하나의 일만 처리하는 경우도 있으나, 여러 일을 처리하는 경우도 많을 것이다.

ThroughPut은 단위시간동안 얼마나 많은 일을 처리할 수 있는가를 나타내는 것이다.

비행기는 컴퓨터 플랫폼에 대응되고, 승객은 instruction에 대응될 수 있을 것이다.

프로그램은 instruction으로 구성되어있으며, 어떤 프로그램을 러닝시킬때 수많은 명령어가 실행되어야 하고, 많은 명령어를 빠르게 처리해야한다.

Relative Performance

\text{Performance} = \cfrac{1}{\text{Execution Time}}

즉, 상대적으로 성능이 뛰어나다는 이야기는 상대적으로 실행시간이 적다는 이야기와 같다.

혼동을 피하기 위해 컴퓨터 성능을 정량적 비교할때는 “…보다 빠르다”라는 용어만 사용하기로 한다.

또한 성능이 증가하면 실행시간이 감소한다. 둘은 역관계이므로, “성능이 증감한다.” 대신 “성능이 개선된다.”와 같은 표현을 사용하는 것으로 합의한다.

즉, 두 컴퓨터 X와 Y에 대해 X의 성능이 Y의 성능보다 좋다면

성능_\text{X}>성능_\text{Y} \\ \cfrac{1}{실행시간_\text{X}} > \cfrac{1}{실행시간_\text{Y}} \\ 실행시간_\text{Y} > 실행시간_\text{X}

가 된다.

이는 성능을 정량적으로 나타낼 경우 다음과 같이 나타낼 수 있을 것이다.

\cfrac{성능_\text{X}}{성능_\text{Y}}=n

Measuring Execution Time

시간은 성능의 가장 기본적인 척도이다. 같은 작업을 빨리 끝내는 컴퓨터가 가장 빠른 놈이다.

여기서 프로그램 실행시간은 프로그램을 처리하는데 걸린 시간을 초단위로 표시한 것이다.

그러나 우리가 재는 방법에 따라 시간을 여러개로 정의할 수 있을 것이다.

Elapsed time(a.k.a. Response Time (a.k.a. Wall Clock Time)) : 계산 실행시간

한 작업을 끝내는데 드는 전체 시간.

•

프로세싱, I/O, OS 오버헤드, idle Time까지 모두 포함한다.

CPU Time

컴퓨터를 공유하는 경우, 프로세서 하나가 여러 프로그램을 동시에 실행하는 경우가 있다.

이런 환경에서는 프로그램의 Elapsed Time을 최소화하는 것 보다 처리량을 최적화 하는 것이 더 중요할 수 있다.

따라서 Elapsed Time과 구분해서 순수하게 프로세서가 프로그램을 실행하기 위해 소비한 시간을 계산할 필요가 있다.

CPU Time의 정의는 다음과 같다.

프로세서가 주어진 Job에 대해서만 처리하는 시간.

I/O time, 다른 job 할당시간을 제외한 경우

물론 이를 순수하게 추출해내는 건 불가능하다. (Linux의 CPU Time도 100% 정확하지는 않음)

CPU performance and factors

컴퓨터의 성능을 표시할 때

사용자가 사용하는 척도와

설계자가 사용하는 척도가

서로 다른 경우가 많이 있다.

이때 척도간의 상관관계를 구한다면 설계상의 변화가 사용자가 평가하는 성능에 얼마나 영향을 미치는지 알 수 있을 것이다.

CPU Time = CPU Clock Cycles × Clock Cycle Time = CPU CLock Cycles / Clock Rate

•

클락사이클을 줄이거나, 클록 사이클타임을 줄이거나, 클락 레이트를 늘이면 CPU Time 증가!

다만, 이 요소 중 하나를 줄이면 다른 하나가 증가하는 경우가 자주 발생하니 주의하자.

Instruction Performance

앞서 설명한 수식은 프로그램 수행에 필요한 명령어 개수에 관련된 사항이 포함되어있지 않다.

그러나 컴파일러가 실행할 명령어를 생성하고 컴퓨터는 이 명령어를 실행해야 하는 입장이므로, 실행시간은 명령어 수와 관련이 있다.

그러므로 프로그램에 실행에 필요한 클럭 사이클 수는 다음과 같다.

CPU Clock Cycle = Instruction Count × Cycles per Instruction

Cycles per Instruction(CPI)는 프로그램이 실행한 모든 명령어에 대해 평균한 값을 사용한다.

Classical CPU Performance Equation

이걸 적용해서 CPU Time을 재정의하자.

CPU Time = Instruction Count × CPI × Clock Cycle Time = Instruction Count × Cycles per Instruction / Clock Rate

Q : Instruction을 실행하는데 1사이클만 필요하지 않나요?

A : 현재의 컴퓨터는 그렇지 않습니다. 명령어마다 거쳐가는 하드웨어의 개수가 다르다.

•

명령어마다 필요한 만큼의 사이클을 할당하자.

즉, CPI는 반드시 1은 아니다. 여러개가 될 수 있다.

또한 Compiler Optimization Level에 따라서도 성능이 달라질 수 있다!!!

CPI Example

CPU TimeA = Instruction Count * CPI(A) * Cycle Time(A) = I * 2.0 * 250ps = I * 500ps CPU TimeB = Instruction Count * CPI(B) * Cycle Time(B) = I * 1.2 * 600ps = I * 600ps Speed Up = CPU Time(B)/CPU Time(A) = 1.2

Clock Speed에 속지마라!

CPI in More Detale

Clock\space Cycles = \sum^n_{i=1}(CPI_i\times Instruction\space Count_i)

CPI Example

일반 통념 : 코드사이즈가 작으면 빨리 돌아갈 것이다

•

Sequence 1 : IC = 5

◦

Clock Cycle = 2*1 + 1*2+ 2*3 = 10

◦

Avg. CPI = 10/5 = 2.0

•

Sequence 2 : IC = 6

◦

Clock Cycle = 4*1 + 1*2 + 1*3 = 9

◦

Avg. CPI = 9/6 = 1.5

Performance Summary

•

Performance Depends on

◦

알고리즘 : IC, CPI(아마도?)에 영향

◦

프로그래밍 언어 : IC, CPI에 영향

◦

Compiler : IC, CPI

◦

Instruction Set architecture : IC, CPI, T(c)

Next chapter

Lecture 03 : 1.7~1.11