머신러닝을 위한 수학

교재 · 입문자 · Deisenroth · Faisal · Ong

원제 · Mathematics for Machine Learning

벡터 · 내적 · 코사인, 행렬 곱과 shape, 기울기 · 연쇄 법칙을 손계산으로 익히는 수학 최소한

먼저 알아야 할 것

일차함수곱셈 · 덧셈함수 그래프의 기울기선형 회귀 · 경사 하강법 개념

다루는 내용

『머신러닝을 위한 수학』의 선형대수 · 해석기하 · 벡터 미적분 부분을 바탕으로, 딥러닝 수식을 읽는 데 필요한 최소한을 자체 해설로 정리했습니다. 내적 · 노름 · 코사인 유사도, 행렬 곱의 모양 규칙과 신경망 층 크기 읽기, 미분 · 편미분 · 기울기 벡터, 연쇄 법칙과 역전파의 관계, 고윳값 직관을 작은 숫자로 직접 계산합니다.

머신러닝을 위한 수학: 벡터 · 행렬 · 미분 · 연쇄 법칙 최소한

딥러닝 논문의 수식은 대부분 "벡터를 곱해 더하고(선형대수), 손실을 미분해 내려간다(미적분)" 두 가지로 읽힙니다. 이 수업은 『머신러닝을 위한 수학(Mathematics for Machine Learning)』이 다루는 내용 가운데 이 섹션을 읽는 데 꼭 필요한 부분 — 벡터 · 내적 · 노름 · 코사인 유사도, 행렬 곱과 모양(shape), 미분 · 편미분 · 기울기 · 연쇄 법칙, 고윳값 직관 — 을 손계산으로 익힙니다.

항목	내용
출처	Mathematics for Machine Learning · Marc Peter Deisenroth · A. Aldo Faisal · Cheng Soon Ong · Cambridge University Press 2020 · mml-book.github.io
트랙 · 수준	수학 · 기초
이 수업의 범위	책 2장(선형대수) · 3장(해석기하: 노름 · 내적) · 4장(행렬 분해) 일부 · 5장(벡터 미적분)의 핵심 개념을 자체 해설로 정리
먼저 알면 좋은 것	일차함수, 곱셈 · 덧셈, 함수 그래프의 기울기

들어가기 전에

최대우도 추정과 MAP: 손실 함수는 어디서 오나 — 가우시안→MSE · 베르누이→교차 엔트로피 · MAP=L2/L1 정규화를 유도하는 수업
구글 머신러닝 단기 집중 과정으로 배우는 머신러닝 첫걸음 — 이 수업은 그 수업에서 "일단 믿고 쓴" 기울기 공식 $\partial L/\partial w = \frac{2}{N}\sum(\hat{y}-y)x$ 가 어디서 나오는지 보여 줍니다. 선형 회귀 · 손실 · 경사 하강법이라는 말이 익숙하면 충분합니다.

한눈에 보기

벡터의 내적 · 길이(노름) · 코사인 유사도를 계산하고, 그것이 "두 대상이 얼마나 비슷한가"를 재는 데 쓰인다는 것을 압니다.
행렬 곱을 손으로 계산하고, 모양(shape) 규칙 $(m \times n)(n \times p) = (m \times p)$ 로 신경망 층의 크기를 읽을 수 있습니다.
미분 · 편미분 · 기울기(gradient) 벡터의 뜻과, 왜 기울기 반대 방향이 '가장 빨리 내려가는 방향'인지 압니다.
연쇄 법칙(chain rule)으로 합성 함수를 미분하고, 그것이 역전파(backpropagation)의 전부라는 것을 봅니다.
고윳값 · 고유벡터가 "행렬이 방향을 바꾸지 않고 늘이기만 하는 축"이라는 직관을 얻습니다.

1. 벡터: 숫자 여러 개를 한 묶음으로

직관(해설용 비유): 벡터는 "특성을 순서대로 적은 카드"입니다. 집 한 채를 (면적, 방 수, 역까지 거리)로 적으면 숫자 세 개짜리 벡터가 됩니다. 단어 하나를 숫자 768개로 적은 것이 임베딩 벡터입니다.

\mathbf{a} = \begin{pmatrix} a_1 \\ a_2 \\ \vdots \\ a_n \end{pmatrix} \in \mathbb{R}^n

기호	뜻
$\mathbf{a}$	굵은 소문자는 벡터
$a_i$	$i$ 번째 성분(숫자 하나)
$\mathbb{R}^n$	실수 $n$ 개로 된 벡터 전체 — " $n$ 차원"

벡터끼리는 같은 자리끼리 더하고, 숫자 하나를 곱하면 모든 성분에 곱합니다. $(1, 2) + (3, 1) = (4, 3)$ , $2 \cdot (1, 2) = (2, 4)$ 입니다.

내적: 두 벡터를 숫자 하나로

단계: ① 같은 자리 성분끼리 곱합니다. ② 그 곱을 모두 더합니다.

\mathbf{a}^\top \mathbf{b} = \sum_{i=1}^{n} a_i b_i

선형 회귀의 예측 $\hat{y} = w_1x_1 + \dots + w_nx_n + b$ 는 사실 내적 $\mathbf{w}^\top\mathbf{x} + b$ 입니다. 신경망의 뉴런 하나도 같은 계산을 합니다.

노름: 벡터의 길이

\lVert \mathbf{a} \rVert_2 = \sqrt{\sum_{i} a_i^2} = \sqrt{\mathbf{a}^\top\mathbf{a}}, \qquad \lVert \mathbf{a} \rVert_1 = \sum_i |a_i|

$\lVert\cdot\rVert_2$ 는 피타고라스 정리로 잰 보통의 길이(L2 노름), $\lVert\cdot\rVert_1$ 은 성분 절댓값의 합(L1 노름)입니다. $(3, 4)$ 의 L2 노름은 $5$ , L1 노름은 $7$ 입니다. 뒤에서 배우는 L2 정규화는 가중치 벡터의 L2 노름 제곱을 손실에 더하는 것입니다.

코사인 유사도: 방향이 얼마나 같은가

\cos\theta = \frac{\mathbf{a}^\top\mathbf{b}}{\lVert\mathbf{a}\rVert_2\,\lVert\mathbf{b}\rVert_2}

값	뜻
$1$	같은 방향 — 아주 비슷함
$0$	직각 — 관련 없음
$-1$	반대 방향

숫자로 해 보기(해설용): $\mathbf{a} = (1, 2, 2)$ , $\mathbf{b} = (2, 0, 1)$ 이면 내적은 $1\cdot2 + 2\cdot0 + 2\cdot1 = 4$ , 길이는 $\lVert\mathbf{a}\rVert = \sqrt{1+4+4} = 3$ , $\lVert\mathbf{b}\rVert = \sqrt{5} \approx 2.236$ 입니다. 코사인은 $4 / (3 \times 2.236) \approx 0.596$ 입니다.

이번에는 지어낸 2차원 '단어 벡터'로 해 봅니다. 고양이 $(0.9, 0.8)$ , 강아지 $(0.8, 0.9)$ , 자동차 $(0.1, -0.5)$ 라고 합시다. 고양이-강아지의 코사인은 $1.44 / 1.45 \approx 0.993$ , 고양이-자동차는 $-0.31 / (1.204 \times 0.510) \approx -0.505$ 입니다. 의미가 가까운 단어끼리 코사인이 큽니다.

왜 내적을 그냥 쓰지 않고 길이로 나누나: 내적은 벡터가 길수록 커집니다. 긴 문서의 벡터가 무조건 "더 비슷하다"고 나오면 곤란하므로, 길이를 나눠 방향만 비교합니다. 검색 · RAG에서 문서 유사도를 잴 때 코사인을 주로 쓰는 이유입니다.

2. 행렬: 벡터를 다른 벡터로 바꾸는 표

직관: 행렬은 "입력 벡터를 받아 출력 벡터를 내는 변환 규칙표"입니다. 신경망 한 층은 행렬 하나와 편향 벡터 하나입니다.

행렬 곱의 단계: 결과의 $(i, j)$ 칸 = 왼쪽 행렬의 $i$ 번째 행과 오른쪽 행렬의 $j$ 번째 열의 내적입니다.

(\mathbf{A}\mathbf{B})_{ij} = \sum_{k=1}^{n} A_{ik} B_{kj}, \qquad \underbrace{\mathbf{A}}_{m\times n}\ \underbrace{\mathbf{B}}_{n\times p} = \underbrace{\mathbf{A}\mathbf{B}}_{m\times p}

기호	뜻
$\mathbf{A}$	굵은 대문자는 행렬
$A_{ik}$	$i$ 행 $k$ 열의 숫자
$m \times n$	행 $m$ 개, 열 $n$ 개라는 모양(shape)
$\mathbf{A}^\top$	전치 — 행과 열을 뒤집은 행렬

모양 규칙: 왼쪽의 열 수와 오른쪽의 행 수가 같아야 곱할 수 있고, 결과는 (왼쪽 행 수) × (오른쪽 열 수)입니다. 코드에서 가장 흔한 오류 "shape mismatch"가 이 규칙을 어긴 것입니다.

숫자로 해 보기(해설용):

\mathbf{A} = \begin{pmatrix} 1 & 0 & 2 \\ 0 & 1 & 1 \end{pmatrix},\quad \mathbf{x} = \begin{pmatrix} 1 \\ 2 \\ 3 \end{pmatrix},\quad \mathbf{A}\mathbf{x} = \begin{pmatrix} 1\cdot1 + 0\cdot2 + 2\cdot3 \\ 0\cdot1 + 1\cdot2 + 1\cdot3 \end{pmatrix} = \begin{pmatrix} 7 \\ 5 \end{pmatrix}

$(2\times3)(3\times1) = (2\times1)$ 입니다. 3차원 입력을 2차원 출력으로 바꾸는 '층'이라고 볼 수 있습니다. 같은 $\mathbf{A}$ 에 $\mathbf{B} = \begin{pmatrix} 1 & 2 \\ 0 & 1 \\ 3 & 0 \end{pmatrix}$ 를 곱하면 $\mathbf{A}\mathbf{B} = \begin{pmatrix} 7 & 2 \\ 3 & 1 \end{pmatrix}$ 입니다( $2\times3$ 곱하기 $3\times2$ = $2\times2$ ).

신경망 층 읽기: 입력 784개(28×28 이미지)를 은닉 뉴런 128개로 보내는 층의 가중치 행렬은 $128 \times 784$ 이고, 가중치 수는 $128 \times 784 = 100{,}352$ 개, 편향은 128개입니다. 미니배치 64장을 한꺼번에 넣으면 입력 $(64 \times 784)$ 에 $\mathbf{W}^\top (784 \times 128)$ 을 곱해 $(64 \times 128)$ 이 나옵니다.

왜 행렬로 쓰나: 뉴런 수천 개의 내적을 한 줄로 적을 수 있고, GPU는 행렬 곱을 아주 빠르게 처리하도록 만들어져 있습니다. 딥러닝이 GPU로 빨라진 이유가 여기에 있습니다.

3. 미분 · 편미분 · 기울기

직관: 미분은 "입력을 아주 조금 바꿨을 때 출력이 몇 배로 변하는가"입니다. 그래프에서 그 점의 접선 기울기입니다.

f'(x) = \lim_{h \to 0} \frac{f(x + h) - f(x)}{h}

숫자로 해 보기(해설용): $f(x) = x^2$ 이면 $f'(x) = 2x$ , $x = 3$ 에서 $6$ 입니다. 정의대로 $h = 0.001$ 을 넣어 보면 $(3.001^2 - 9)/0.001 = 6.001$ 로 거의 같습니다. 이렇게 작은 $h$ 로 근사하는 방법(수치 미분)은 코드로 기울기를 검사할 때도 씁니다.

자주 쓰는 미분 규칙은 많지 않습니다.

함수	미분
$x^n$	$n x^{n-1}$
$e^x$	$e^x$
$\log x$	$1/x$
$\sigma(x) = 1/(1+e^{-x})$	$\sigma(x)(1 - \sigma(x))$
$c \cdot f(x)$	$c \cdot f'(x)$
$f(x) + g(x)$	$f'(x) + g'(x)$

편미분과 기울기 벡터

변수가 여럿이면 하나만 움직이고 나머지는 상수로 둔 채 미분합니다. 이것이 편미분(partial derivative) $\partial f/\partial w_i$ 입니다. 모든 편미분을 모은 벡터가 기울기(gradient) $\nabla f$ 입니다.

\nabla f(\mathbf{w}) = \left( \frac{\partial f}{\partial w_1}, \dots, \frac{\partial f}{\partial w_n} \right)

숫자로 해 보기(해설용): $f(w_1, w_2) = w_1^2 + 3w_1w_2$ 에서 $\partial f/\partial w_1 = 2w_1 + 3w_2$ , $\partial f/\partial w_2 = 3w_1$ 입니다. $(1, 2)$ 에서 기울기는 $(8, 3)$ 입니다. 수치 미분으로도 $(8.001, 3.000)$ 이 나옵니다.

왜 기울기 반대 방향으로 가나: 기울기 벡터는 함수가 가장 빨리 커지는 방향을 가리킵니다. 따라서 그 반대 $-\nabla f$ 가 가장 빨리 작아지는 방향입니다. 경사 하강법 $\mathbf{w} \leftarrow \mathbf{w} - \eta\nabla L$ 은 이 사실 하나에 기대고 있습니다. 위 예에서 $w_1$ 쪽 기울기(8)가 $w_2$ 쪽(3)보다 크므로, $w_1$ 을 바꾸는 것이 손실에 더 큰 영향을 줍니다.

4. 연쇄 법칙: 역전파의 전부

직관(해설용 비유): 톱니바퀴 세 개가 맞물려 있을 때, 첫 바퀴를 1도 돌리면 마지막 바퀴는 (1→2 비율) × (2→3 비율)만큼 돕니다. 단계마다의 변화율을 곱하면 전체 변화율이 됩니다.

L = f(g(w)) \ \Rightarrow\ \frac{dL}{dw} = \frac{dL}{dg}\cdot\frac{dg}{dw}

단계: ① 계산을 작은 조각으로 나눕니다. ② 조각마다 미분합니다(위 표로 충분합니다). ③ 출력 쪽에서 입력 쪽으로 곱해 나갑니다.

숫자로 해 보기(해설용) — 첫걸음 수업의 공식 확인: 예제 하나 $(x, y) = (2, 5)$ , 모델 $\hat{y} = wx$ , 손실 $L = (\hat{y} - y)^2$ 입니다. 조각으로 나누면 $u = wx - y$ , $L = u^2$ 입니다.

$dL/du = 2u$ , $du/dw = x$
따라서 $dL/dw = 2u \cdot x = 2(wx - y)x$

$w = 1$ 이면 $u = -3$ , $dL/dw = 2 \cdot (-3) \cdot 2 = -12$ 입니다. 수치 미분 $(L(1.001) - L(1))/0.001 \approx -11.996$ 과 맞습니다. 예제가 $N$ 개면 평균을 내므로 $\frac{2}{N}\sum(\hat{y}_i - y_i)x_i$ 가 됩니다. 첫걸음 수업에서 쓴 공식 그대로입니다.

한 단계 더 — 시그모이드 뉴런: $z = wx$ , $p = \sigma(z)$ 일 때 $dp/dw = \sigma(z)(1 - \sigma(z)) \cdot x$ 입니다. $w = 0.5$ , $x = 2$ 이면 $z = 1$ , $p \approx 0.731$ , $dp/dz \approx 0.197$ , $dp/dw \approx 0.393$ 입니다.

mermaid

12345678flowchart LR
  W[w] --> Z["z = w·x"]
  X[x] --> Z
  Z --> P["p = σ(z)"]
  P --> L["손실 L"]
  L -. "∂L/∂p" .-> P
  P -. "× ∂p/∂z" .-> Z
  Z -. "× ∂z/∂w = x" .-> W

실선은 앞으로 계산하는 순전파, 점선은 미분값을 곱하며 거꾸로 전하는 역전파입니다.

왜 이것이 중요한가: 신경망은 수백 층짜리 합성 함수입니다. 연쇄 법칙을 출력 쪽에서부터 한 번 훑으면 모든 가중치의 기울기가 한꺼번에 나옵니다. 이것이 역전파이고, 파이토치(PyTorch)의 loss.backward()가 하는 일입니다. 변수가 벡터일 때는 곱하는 값이 야코비안(Jacobian) 행렬이 될 뿐 원리는 같습니다.

5. 고윳값 · 고유벡터 직관 (짧게)

직관: 행렬을 곱하면 대부분의 벡터는 방향이 바뀝니다. 그런데 어떤 특별한 방향의 벡터는 방향은 그대로이고 길이만 늘거나 줄어듭니다. 그 방향이 고유벡터(eigenvector), 늘어나는 배율이 고윳값(eigenvalue)입니다.

\mathbf{A}\mathbf{v} = \lambda\mathbf{v}

숫자로 해 보기(해설용): $\mathbf{A} = \begin{pmatrix} 2 & 1 \\ 1 & 2 \end{pmatrix}$ 에서 $\mathbf{A}(1, 1)^\top = (3, 3)^\top = 3(1, 1)^\top$ 이므로 고윳값 3, $\mathbf{A}(1, -1)^\top = (1, -1)^\top$ 이므로 고윳값 1입니다. 이 행렬은 $(1,1)$ 방향은 3배로 늘이고, $(1,-1)$ 방향은 그대로 둡니다.

어디에 쓰이나: 데이터가 가장 많이 퍼진 방향을 찾는 주성분 분석(PCA)은 공분산 행렬의 고유벡터를 구하는 일입니다. 손실 곡면이 어떤 방향으로 가파르고 어떤 방향으로 완만한지(최적화가 어려운 이유)도 고윳값으로 설명합니다. 책 4장 행렬 분해가 이 내용을 다룹니다.

연습 문제

1. $\mathbf{a} = (2, 1)$ , $\mathbf{b} = (1, 3)$ 의 내적, 각 L2 노름, 코사인 유사도를 구하세요.

풀이: 내적 $2 + 3 = 5$ , $\lVert\mathbf{a}\rVert = \sqrt{5}$ , $\lVert\mathbf{b}\rVert = \sqrt{10}$ , 코사인 $5/\sqrt{50} = 5/7.071 \approx 0.707$ 입니다(45도).

2. 입력 512차원, 출력 10차원인 층의 가중치 행렬 모양과 가중치 · 편향 개수는?

풀이: $10 \times 512$ 행렬, 가중치 $5{,}120$ 개, 편향 $10$ 개, 합 $5{,}130$ 개입니다.

3. $f(w_1, w_2) = 3w_1^2 + w_2^2$ 의 $(1, -2)$ 에서 기울기는? 학습률 $0.1$ 로 경사 하강법 한 걸음을 가면 어디로 가나요?

풀이: $\nabla f = (6w_1, 2w_2) = (6, -4)$ 입니다. $\mathbf{w} \leftarrow (1, -2) - 0.1(6, -4) = (0.4, -1.6)$ 입니다. $f$ 는 $7$ 에서 $0.48 + 2.56 = 3.04$ 로 줄었습니다.

4. $L = (\sigma(wx) - y)^2$ 를 $w$ 로 미분한 식을 연쇄 법칙으로 쓰세요.

풀이: $dL/dw = 2(\sigma(wx) - y)\cdot\sigma(wx)(1 - \sigma(wx))\cdot x$ 입니다.

스스로 점검

$(3 \times 4)$ 행렬과 $(3 \times 4)$ 행렬은 곱할 수 있나요?
- 답: 없습니다. 왼쪽 열 수 4와 오른쪽 행 수 3이 다릅니다. 한쪽을 전치해 $(3\times4)(4\times3)$ 으로 만들면 곱할 수 있습니다.
코사인 유사도가 0이면 두 벡터는 어떤 관계인가요?
- 답: 직각(직교)입니다. 한 벡터 방향으로 다른 벡터의 성분이 전혀 없어 '관련 없음'으로 읽습니다.
역전파는 미적분의 어떤 규칙을 반복 적용하는 것인가요?
- 답: 연쇄 법칙입니다. 출력 쪽에서부터 단계별 미분값을 곱해 각 가중치의 기울기를 구합니다.

용어 정리

용어	쉬운 뜻
벡터(vector)	숫자를 순서대로 묶은 것
내적(dot product)	같은 자리끼리 곱해 모두 더한 값
노름(norm)	벡터의 길이(L2) 또는 성분 절댓값의 합(L1)
코사인 유사도(cosine similarity)	두 벡터의 방향이 얼마나 같은지, −1~1
행렬(matrix)	숫자를 행과 열로 배열한 표 · 선형 변환
모양(shape)	행렬 · 텐서의 크기, 예: $64 \times 784$
전치(transpose)	행과 열을 뒤바꾸기
미분(derivative)	입력을 조금 바꿀 때 출력이 변하는 비율
편미분(partial derivative)	변수 하나만 움직일 때의 미분
기울기(gradient)	모든 편미분을 모은 벡터, 가장 가파르게 오르는 방향
연쇄 법칙(chain rule)	합성 함수의 미분 = 단계별 미분의 곱
역전파(backpropagation)	연쇄 법칙으로 출력에서 입력 쪽으로 기울기를 전하는 계산
야코비안(Jacobian)	벡터 함수의 편미분을 모은 행렬
고윳값 · 고유벡터(eigenvalue · eigenvector)	행렬이 방향을 안 바꾸고 늘이기만 하는 축과 그 배율

더 깊이 보려면

책은 1부 수학의 기초(2장 선형대수, 3장 해석기하, 4장 행렬 분해, 5장 벡터 미적분, 6장 확률과 분포, 7장 연속 최적화)와 2부 머신러닝의 핵심 문제(8장 모델이 데이터를 만날 때, 9장 선형 회귀, 10장 PCA, 11장 가우시안 혼합 모델, 12장 SVM)로 되어 있습니다. 이 수업의 1~2절은 2 · 3장, 3~4절은 5장, 5절은 4장에 해당합니다. 6장 확률은 이 섹션의 확률과 통계 최소한, 9장 선형 회귀는 CS229 수업의 정규 방정식과 이어 읽으면 좋습니다.

다음에 볼 것

중간 점검: 수학 트랙 (문제 12개와 풀이) — 수학 트랙을 마쳤다면 12문제로 이해를 점검합니다
확률과 통계 최소한 — 기댓값 · 분산 · 베이즈 정리 등, 손실 함수와 강화학습을 읽는 데 필요한 확률 언어를 배웁니다.
스탠퍼드 CS229 머신러닝 강의 노트 — 이 수업의 벡터 · 미분 도구로 로지스틱 회귀의 기울기를 직접 유도합니다.
신경망과 딥러닝 — 행렬 곱과 연쇄 법칙이 실제 신경망의 순전파 · 역전파로 어떻게 쓰이는지 봅니다.

라이선스

출처

원문: https://mml-book.github.io/ (2020 · Deisenroth · Faisal · Ong)

AI 원리부터 이해하기 · 수학 모듈

수학 모듈 학습

이 글은 수학 모듈의 학습 자료입니다. 전체 9개 자료 중 8번째입니다.

모듈 전체 학습하기 패키지 전체 로드맵 보기

AI 기초 과정은 현재 진도 저장을 지원하지 않습니다.

출처·원문

원문 보기

요약만

저작권 보호(무료 PDF)