본문으로 건너뛰기
메뉴
AI 학습
학습
릴리스 노트
릴리스
도메인 자료
도메인
강의 교안
교안
검색
전체 자료 검색
검색
로그인
화면을 불러오는 중입니다
AI 원리부터 이해하기
현재 모듈
MODULE 05
딥러닝 기초
논문·교재·강의를 아래 순서대로 읽으며 개념을 익힙니다.
자료
29
건
첫 자료부터 시작
학습 기록
AI 기초 과정은 현재 저장·진도 기록을 지원하지 않습니다.
학습 로드맵
자료 순서대로 학습
01
퍼셉트론: 뇌의 정보 저장과 조직에 관한 확률 모델
무작위로 연결된 켜짐/꺼짐 단위가 강화만으로 자극을 구별·일반화함을 확률로 분석한 신경망의 원점
논문 · 입문자 · 첫 학습 자료
선수 지식 · 확률과 이항분포 · 정규분포의 누적확률 · 신경세포(뉴런)의 발화 개념 · 가중합과 임계값 · 지도학습의 뜻
02
다층 퍼셉트론: 은닉층 · 활성화 함수 · 손실 함수
XOR · 순전파 · 활성화 함수 비교 · 보편 근사 정리 · 출력층-손실 짝을 손계산으로 익히는 MLP 수업
강의 · 입문자
선수 지식 · 퍼셉트론 · 행렬 곱 · 로지스틱 회귀 · 소프트맥스 · 교차 엔트로피
03
역전파를 계산 그래프로 손계산하기
계산 그래프 · 마디별 기울기 규칙 · 2층 신경망 손계산 · 수치 기울기 점검으로 익히는 역전파
강의 · 입문자
선수 지식 · 연쇄 법칙 · 편미분 · 다층 퍼셉트론 순전파 · 행렬 곱
04
오차 역전파로 표현 학습하기
출력 오차의 미분을 연쇄 법칙으로 거꾸로 전해 은닉 단위까지 학습시키는 역전파를 보인 논문
논문 · 입문자
선수 지식 · 편미분과 연쇄 법칙 · 경사 하강법 · 시그모이드 함수 · 퍼셉트론 · 가중합
05
신경망과 딥러닝
시그모이드 뉴런부터 역전파 네 방정식 · 교차 엔트로피까지 손계산으로 배우는 수업
교재 · 입문자
선수 지식 · 편미분 · 연쇄 법칙 · 행렬 곱 · 시그모이드 함수 · 경사 하강법
06
옵티마이저와 학습률 스케줄: SGD · 모멘텀 · RMSProp · Adam · AdamW
SGD · 모멘텀 · AdaGrad · RMSProp · Adam · AdamW와 웜업 · 코사인 스케줄을 직접 돌려 비교
강의 · 준전문가
선수 지식 · 경사 하강법 · 역전파 · 지수 이동 평균 · 학습률
07
Adam: 확률적 최적화 방법
기울기 평균과 제곱 평균을 따로 기억해 파라미터마다 걸음 크기를 맞추는 옵티마이저
논문 · 준전문가
선수 지식 · 경사 하강법 · 확률적 경사 하강법(SGD) · 모멘텀 · 지수 이동 평균 · AdaGrad · RMSProp
08
초기화 · 정규화 · 규제: 깊은 신경망을 안정적으로 학습시키기
기울기 소실·폭발 원인과 Xavier·He 초기화, 배치·레이어 정규화, 드롭아웃, 기울기 클리핑을 계산으로
강의 · 준전문가
선수 지식 · 역전파 · 분산의 성질 · 다층 퍼셉트론 · 옵티마이저
09
드롭아웃: 특징 검출기의 공동 적응 막기
학습 때 은닉 뉴런 절반을 무작위로 꺼서 서로 기대지 못하게 해 과적합을 줄인 방법
논문 · 준전문가
선수 지식 · 순전파 신경망 · 역전파 · 확률적 경사 하강법 · 과적합 · 일반화 · 소프트맥스 · 앙상블(모델 평균)
10
배치 정규화
층 입력을 미니배치마다 평균 0·분산 1로 맞춰 큰 학습률로 빠르게 학습하게 한 방법
논문 · 준전문가
선수 지식 · 평균 · 분산 · 표준화 · 미니배치 SGD · 역전파(연쇄 법칙) · 시그모이드 · ReLU 활성화 함수 · 합성곱 신경망
11
레이어 정규화
한 예제 안의 같은 층 뉴런들로 평균·분산을 구해, 배치 크기와 무관하게 정규화하는 방법
논문 · 준전문가
선수 지식 · 배치 정규화 · 평균 · 분산 · 표준화 · 순환 신경망(RNN · LSTM · GRU) · 행렬 곱
12
신경망 학습 디버깅과 실험 관리 레시피
초기 손실 ln C · 한 배치 과적합 · 0 입력 기준선 · 학습률 훑기 · 시드와 체크포인트로 하는 학습 디버깅
강의 · 준전문가
선수 지식 · 역전파 · 옵티마이저 · 학습률 · 초기화 · 정규화 · 드롭아웃 · 학습 · 검증 데이터 나누기
13
직접 해 보기: 넘파이로 신경망을 처음부터 만들기
NumPy만으로 2층 신경망을 짜 손글씨 숫자를 분류하는 실습(실행 확인, 테스트 정확도 0.9556)
강의 · 입문자
선수 지식 · 다층 퍼셉트론 · 역전파 · 미니배치 SGD · NumPy 배열 연산
14
합성곱 신경망 기초: 합성곱 · 패딩 · 스트라이드 · 풀링
합성곱 손계산 · 출력 크기 공식 · 패딩 · 스트라이드 · 채널 · 풀링 · 수용 영역 · 파라미터 수
강의 · 입문자
선수 지식 · 다층 퍼셉트론 · 텐서의 모양 · 역전파
15
스탠퍼드 CS231n 강의 노트(합성곱 신경망)
합성곱 한 칸 · 출력 크기 · 파라미터 수 · 풀링 · 수용 영역을 손계산으로 익히는 CNN 수업
강의 · 입문자
선수 지식 · 행렬 곱 · 완전 연결 층 · ReLU · 소프트맥스 분류 · 파이썬 · NumPy
16
문서 인식을 위한 기울기 기반 학습 (LeNet)
국소 연결·가중치 공유·하위 표본화로 된 합성곱망 LeNet-5와 MNIST 비교, 수표 판독까지 다룬 논문
논문 · 입문자
선수 지식 · 역전파 · 행렬 곱과 내적 · 시그모이드와 tanh · 이미지의 픽셀 격자 표현 · 과적합
17
깊은 합성곱 신경망으로 ImageNet 분류하기 (AlexNet)
ReLU·드롭아웃·데이터 증강·GPU 2장으로 학습한 8층 CNN이 ImageNet 기록을 크게 깬 논문
논문 · 입문자
선수 지식 · 합성곱 신경망(LeNet) · 역전파 · 소프트맥스와 교차 엔트로피 · 과적합 · 모멘텀 경사 하강
18
아주 깊은 합성곱 신경망 (VGG)
3×3 필터만 쌓아 깊이를 19층까지 늘리면 이미지 인식이 크게 좋아짐을 보인 논문
논문 · 준전문가
선수 지식 · 합성곱 · 풀링 · ReLU 활성화 · 소프트맥스 분류와 교차 엔트로피 · 드롭아웃 · 가중치 감쇠 · AlexNet
19
잔차 학습으로 깊은 신경망 학습하기 (ResNet)
층을 건너뛰는 지름길로 '차이만' 배우게 해 152층 망도 쉽게 학습되게 한 논문
논문 · 준전문가
선수 지식 · 합성곱 신경망 · 역전파와 기울기 소실 · 배치 정규화 · VGG · 경사하강법 · 모멘텀
20
전이 학습과 자기지도 학습: 남이 배운 표현 빌려 쓰기
특성 추출 · 미세조정 · 층별 학습률과 대조 학습(NT-Xent) · MAE를 손계산으로 익히는 전이 학습 수업
강의 · 준전문가
선수 지식 · 합성곱 신경망 · ResNet · 소프트맥스 · 교차 엔트로피 · 코사인 유사도 · 과적합과 검증
21
객체 검출: 경계 상자 · IoU · NMS · mAP
경계 상자 · IoU · 앵커와 상자 회귀 · NMS · AP/mAP를 손계산하고 R-CNN과 YOLO를 비교하는 수업
강의 · 준전문가
선수 지식 · 합성곱 신경망 · 정밀도 · 재현율 · 전이 학습 · 넓이 계산
22
이미지 분할: 의미 분할 · 인스턴스 분할 · U-Net
의미 · 인스턴스 · 파노픽 분할, 전치 합성곱 크기, FCN · U-Net · Mask R-CNN · SAM, IoU · Dice · PQ
강의 · 준전문가
선수 지식 · 합성곱 · 패딩 · 스트라이드 · 객체 검출과 IoU · 전이 학습 · 교차 엔트로피
23
비전 트랜스포머 · CLIP · 멀티모달 모델 한 번에 보기
ViT 패치 토큰 · 파라미터 계산, CLIP 대칭 대조 손실 · 제로샷 손계산, LLaVA로 보는 VLM 구조
강의 · 준전문가
선수 지식 · 셀프 어텐션 · 트랜스포머 · 임베딩과 코사인 유사도 · 소프트맥스 · 교차 엔트로피 · 대조 학습
24
직접 해 보기: PyTorch로 합성곱 신경망 학습하기
sklearn 8×8 숫자로 PyTorch CNN을 학습 · 평가 · 증강 · 과적합 관찰 · 저장까지 실제 실행
강의 · 준전문가
선수 지식 · 합성곱 · 풀링 · 교차 엔트로피 · Adam · 학습 · 검증 · 테스트 나누기 · 파이썬 기초
25
딥러닝 문서로 배우기 (D2L)
소프트맥스 · 교차 엔트로피 · ReLU MLP · 자동 미분 · PyTorch 학습 루프를 한 번에 익히는 수업
교재 · 입문자
선수 지식 · 역전파 · 행렬 곱 · 교차 엔트로피 개념 · 파이썬 · PyTorch 기초
26
딥러닝 이해하기
손실 함수를 최대우도로 만드는 조리법 · 깊이의 이점 · He 초기화를 숫자로 익히는 수업
교재 · 준전문가
선수 지식 · 최대우도 추정 · 정규분포 · 로그 · 소프트맥스 · 교차 엔트로피 · 역전파
27
딥러닝 (Goodfellow)
L2 · L1 · 조기 종료 · 드롭아웃부터 모멘텀 · Adam까지 정규화와 최적화를 손계산으로 익히는 수업
교재 · 준전문가
선수 지식 · 과적합 · 검증 데이터 · 경사 하강법 · 미니배치 SGD · 편미분
28
Distill 해설 글 모음
고윳값 분해로 경사 하강과 모멘텀의 수렴 속도를 계산해 보는 Distill 모멘텀 글 수업
글 · 준전문가
선수 지식 · 경사 하강법 · 고윳값 · 고유벡터 · 모멘텀 갱신식 · 2차 함수
29
중간 점검: 딥러닝 기초 트랙 (문제 15개와 풀이)
퍼셉트론 · 역전파 · 옵티마이저 · 정규화 · CNN · 전이 · 검출 · 분할 · ViT를 15문제로 점검
강의 · 준전문가
선수 지식 · 딥러닝 기초 트랙 수업 · 역전파 · 연쇄 법칙 · 합성곱 신경망 · 옵티마이저
18
MLOps·배포
19
피지컬 AI
패키지 전체 보기
다음 모듈
NLP·트랜스포머
