본문으로 건너뛰기
메뉴
AI 학습
학습
릴리스 노트
릴리스
도메인 자료
도메인
강의 교안
교안
검색
전체 자료 검색
검색
로그인
화면을 불러오는 중입니다
AI 원리부터 이해하기
현재 모듈
MODULE 07
LLM 활용·에이전트
논문·교재·강의를 아래 순서대로 읽으며 개념을 익힙니다.
자료
19
건
첫 자료부터 시작
학습 기록
AI 기초 과정은 현재 저장·진도 기록을 지원하지 않습니다.
학습 로드맵
자료 순서대로 학습
01
Hugging Face LLM 강좌
트랜스포머 세 갈래 · pipeline 내부 · Trainer 미세조정 · LoRA를 코드와 숫자로 배우는 수업
강의 · 입문자 · 첫 학습 자료
선수 지식 · 파이썬 · 트랜스포머 구조 · 토크나이저 · 다음 토큰 예측과 소프트맥스
02
프롬프트 설계와 인컨텍스트 학습: 제로샷 · 퓨샷 · 생각의 사슬
제로샷 · 퓨샷 · 생각의 사슬 · 자기 일관성과 실무 프롬프트 구조를 정리하는 수업
강의 · 입문자
선수 지식 · 다음 토큰 예측 · GPT-3 퓨샷 학습 · 조건부 확률 · 이항 분포 기초
03
생각의 사슬 프롬프팅 (Chain-of-Thought)
예시에 풀이 과정을 넣기만 해도 큰 언어 모델의 추론 성능이 크게 오른다는 논문
논문 · 입문자
선수 지식 · 대형 언어 모델 · 퓨샷 프롬프팅 · 탐욕적 디코딩
04
자기 일관성으로 생각의 사슬 추론 높이기 (Self-Consistency)
생각의 사슬을 여러 번 샘플링해 가장 많이 나온 답을 고르는 단순한 디코딩 방법
논문 · 준전문가
선수 지식 · 생각의 사슬 프롬프팅 · 탐욕적 디코딩 · 샘플링 · 다수결 · 조건부 확률
05
생각의 나무: 숙고하며 문제 풀기 (Tree of Thoughts)
생각을 여러 갈래로 만들고 스스로 평가하며 나무를 탐색해 어려운 문제를 푸는 프레임워크
논문 · 전문가
선수 지식 · 생각의 사슬 프롬프팅 · 자기 일관성 · BFS · DFS 탐색 · 휴리스틱
06
미세조정: 전체 미세조정 · 지시 미세조정(SFT) · LoRA · QLoRA
언제 미세조정할지와 SFT · 전체 미세조정 · LoRA · QLoRA를 메모리 계산으로 비교하는 수업
강의 · 준전문가
선수 지식 · 교차 엔트로피 손실 · 프롬프트와 인컨텍스트 학습 · 행렬 곱과 랭크 · Adam 옵티마이저
07
LLM 평가: 벤치마크 · pass@k · LLM 심판 · 데이터 오염
MMLU · pass@k · SWE-bench · LLM 심판 · 데이터 오염 · 신뢰구간으로 LLM 평가를 배우는 수업
강의 · 준전문가
선수 지식 · 퍼플렉서티 · 학습 · 검증 · 시험 데이터 분리 · 이항 분포와 표준오차 · 조합(이항 계수)
08
환각: 왜 생기고 어떻게 줄이나
환각의 종류 · 원인 · 측정 · 탐지 · 줄이는 법을 기댓값 계산과 함께 정리하는 수업
강의 · 입문자
선수 지식 · 다음 토큰 예측 · LLM 평가 기초 · 기댓값 · RAG 개념
09
검색 증강 생성 (RAG)
검색기(DPR)와 생성기(BART)를 함께 미세조정해 문서를 보고 답을 생성하는 RAG의 원조 논문
논문 · 준전문가
선수 지식 · seq2seq 생성 모델(BART) · 밀집 검색(DPR) · 잠재 변수 · 주변화 · 빔 서치
10
도구 사용 · 함수 호출 · 구조화 출력
도구 정의 · 함수 호출 왕복 · 도구 선택 · 제약 디코딩 · 보안을 정리하는 수업
강의 · 준전문가
선수 지식 · JSON과 JSON 스키마 · 소프트맥스 확률과 정규화 · ReAct 개념 · 프롬프트 주입
11
ReAct: 추론과 행동을 함께
생각·행동·관찰을 번갈아 쓰게 해 추론과 도구 사용을 결합한 LLM 에이전트 프롬프트
논문 · 준전문가
선수 지식 · 생각의 사슬(CoT) · 퓨샷 프롬프팅 · 자기 일관성 · 정책 · 관찰 · 행동 개념
12
Toolformer: 스스로 도구 쓰는 법을 배우는 언어 모델
도움이 된 API 호출만 골라 학습해 언어 모델이 스스로 도구 쓰는 법을 배우게 한 논문
논문 · 준전문가
선수 지식 · 다음 토큰 예측 · 교차 엔트로피 · 퓨샷 프롬프트 · 미세조정 · API 개념
13
에이전트 설계: 루프 · 워크플로 · 메모리 · 멀티에이전트 · MCP
워크플로 패턴 · 에이전트 루프 · 오류 누적 · 메모리 · 멀티에이전트 · MCP를 정리하는 수업
강의 · 준전문가
선수 지식 · 도구 사용 · 함수 호출 · ReAct · 프롬프트 체이닝 · 임베딩 코사인 유사도
14
직접 해 보기: 도구를 부르는 에이전트 루프 만들기
모의 LLM으로 도구 호출 에이전트 루프를 파이썬 표준 라이브러리만으로 구현하는 실습
강의 · 준전문가
선수 지식 · 파이썬 기초 · 도구 사용 · 함수 호출 · 에이전트 루프와 종료 조건 · 프롬프트 주입
15
Reflexion: 말로 하는 강화학습 에이전트
실패를 글로 반성해 기억에 쌓고 다음 시도에 쓰는, 가중치를 안 바꾸는 에이전트 학습법
논문 · 전문가
선수 지식 · ReAct · 생각의 사슬 · 강화학습 정책 · 보상 · 단위 테스트
16
생성형 에이전트: 사람 행동을 흉내 내는 시뮬레이션
기억·반성·계획을 붙인 LLM 에이전트 25명이 가상 마을에서 사람처럼 사는 시뮬레이션
논문 · 전문가
선수 지식 · LLM 프롬프팅 · 임베딩 · 코사인 유사도 · 지수 감쇠 · RAG식 검색
17
MemGPT: 운영체제처럼 기억을 관리하는 LLM
프롬프트를 RAM, DB를 디스크처럼 다뤄 LLM이 스스로 기억을 옮기게 한 장기 기억 시스템
논문 · 전문가
선수 지식 · 문맥 창 · 함수 호출 · RAG · 벡터 검색 · 가상 메모리
18
SWE-bench: 실제 깃허브 이슈를 풀 수 있는가
실제 깃허브 이슈 2,294개를 실제 테스트로 채점하는 저장소 단위 코딩 벤치마크
논문 · 전문가
선수 지식 · 깃허브 이슈 · PR · 패치(diff) · 단위 테스트 · BM25 검색
19
중간 점검: LLM 활용 · 에이전트
LLM 활용 · 에이전트 트랙 14문제 중간 점검 — 개념 · 계산 · 설계 판단, 풀이 포함
강의 · 준전문가
선수 지식 · LLM 활용·에이전트 트랙 수업들 · 이항 확률 · pass@k · 에이전트 루프
18
MLOps·배포
19
피지컬 AI
패키지 전체 보기
다음 모듈
RAG·검색