AI 규제 · 저작권 · 책임 있는 AI 개요: EU AI법 · 한국 AI 기본법 · NIST AI RMF · 모델 카드

AI 규제 · 저작권 · 책임 있는 AI 개요: EU AI법 · 한국 AI 기본법 · NIST AI RMF · 모델 카드

AI를 만들거나 서비스에 넣는 사람이 알아야 할 규칙의 큰 그림입니다. 위험 수준에 따라 의무를 달리하는 EU AI법, 2026년 1월 시행된 한국 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」, 자율 표준인 NIST AI 위험관리 프레임워크, 생성형 AI와 저작권의 쟁점, 그리고 이 모든 요구에 답하는 실무 도구인 모델 카드 · 데이터시트를 정리합니다. 이 글은 법률 자문이 아니며, 2026-10-22 기준 공식 출처로 확인한 내용만 담았습니다. 법은 자주 바뀌므로 실제 적용 전에는 원문과 전문가 확인이 필요합니다.

들어가기 전에

• AI 공정성: 편향 지표와 불가능성 정리 — 규제가 요구하는 '편향 점검'의 실제 내용
• 프라이버시와 보안 — 데이터 보호 · 적대적 공격 · 프롬프트 인젝션
• 법률 지식은 필요 없습니다. 조문은 원문 표현을 짧게 옮기고 쉬운 말로 풀었습니다.

한눈에 보기

• "위험이 클수록 의무가 무겁다"는 위험 기반 규제의 공통 구조를 압니다.
• EU AI법의 네 단계 위험과 단계별 적용 날짜(2026년 개정 반영)를 압니다.
• 한국 AI 기본법의 '고영향 인공지능'과 생성형 AI 결과물 표시 의무를 원문으로 확인합니다.
• NIST AI RMF의 네 기능(Govern · Map · Measure · Manage)으로 조직의 AI 위험 관리를 짭니다.
• 생성형 AI 결과물의 저작권에 대해 공식 기관이 무엇을 말했고 무엇은 아직 열려 있는지 구분합니다.

1. 위험 기반 규제라는 생각

직관(해설용 비유). 자전거 · 승용차 · 여객기는 모두 탈것이지만 안전 규제의 무게가 다릅니다. 사고가 났을 때 피해가 클수록 사전 검사 · 기록 · 자격 요건이 무거워집니다. AI 규제도 대부분 용도와 피해 가능성 에 따라 의무를 나눕니다. 같은 이미지 분류 모델이라도 사진 앱 필터에 쓰면 가볍고, 채용 서류 선별에 쓰면 무겁습니다.

단계(실무에서 생각하는 순서, 해설용).

1. 내 AI가 무엇에 쓰이는지(용도 · 영역) 적습니다.
2. 그 용도가 법이 정한 금지 · 고위험(고영향) · 투명성 대상 에 해당하는지 확인합니다.
3. 해당 단계의 의무(위험 관리 · 문서화 · 사람 감독 · 고지 · 표시)를 목록으로 만듭니다.
4. 의무를 증거(문서 · 로그 · 평가 결과) 로 남깁니다. 모델 카드가 여기서 쓰입니다.

2. EU AI법(Regulation (EU) 2024/1689)

EU 집행위원회 공식 페이지(2026-10-19 갱신)를 기준으로 정리합니다. AI법은 2024년 8월 1일 발효 되었고, 위험을 네 단계로 나눕니다.

적용 일정. 한꺼번에 시행되지 않고 단계별로 적용됩니다.

2026년에 바뀐 점: AI 옴니버스. 집행위원회는 2025년 11월 19일 AI법을 단순화하는 개정안('AI Omnibus')을 내놓았고, 2026년 5월 7일 정치적 합의를 거쳐 2026년 7월 27일 발효 되었습니다. 이에 따라 고위험 의무 적용이 위 표처럼 2027년 12월 · 2028년 8월로 늦춰졌고, 금지 9번이 추가되었습니다. 2024년에 나온 해설 자료의 날짜(예: "고위험 의무 2026년 8월")는 이제 맞지 않을 수 있으니 주의합니다.

범용 AI(GPAI) 모델. 공식 페이지는 매우 강력하거나 널리 쓰이는 범용 모델이 '시스템적 위험'을 낳을 수 있어 제공자가 그 위험을 평가 · 완화해야 한다고 설명합니다. 집행위원회는 2025년 7월 범용 AI 행동 강령(Code of Practice) 등 세 가지 도구를 공개했습니다. 행동 강령은 자율 준수 도구입니다.

3. 한국 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」

국가법령정보센터 원문 기준입니다. 법률 제20676호로 2025년 1월 21일 제정 · 공포 되었고, 부칙 제1조에 따라 "공포 후 1년이 경과한 날"인 2026년 1월 22일 시행 되었습니다(소관: 과학기술정보통신부). 2026년 1월 20일 일부 조문(제2조 등)이 개정되었습니다.

숫자로 해 보기(해설용). 공포일 2025-01-21에서 1년이 지나는 날은 2026-01-21이고, '경과한 날'은 그다음 날이라 2026-01-22입니다. 법 조문의 "~이 경과한 날부터 시행"은 이렇게 읽습니다.

고영향 인공지능(제2조제4호). "사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템"으로서 법이 정한 영역에서 쓰이는 것입니다. 영역에는 에너지 공급, 먹는물 생산, 보건의료, 의료기기 · 디지털의료기기, 원자력 시설, 범죄 수사 · 체포를 위한 생체인식정보 분석, 채용 · 대출 심사 등 개인의 권리 · 의무에 중대한 영향을 미치는 판단 · 평가, 교통 등이 들어 있습니다.

사업자의 주요 의무.

숫자로 해 보기(해설용): 누적 연산량 어림. 제32조의 '누적 연산량'은 보통 학습에 든 부동소수점 연산 수(FLOP)로 셉니다. 트랜스포머 학습 연산량은 스케일링 법칙 논문에서 쓰는 어림식 $C\approx 6ND$(파라미터 수 $N$ × 학습 토큰 수 $D$ × 6)로 가늠할 수 있습니다. 70억($7\times10^9$) 파라미터를 2조($2\times10^{12}$) 토큰으로 학습하면 $6\times7\times10^9\times2\times10^{12} = 8.4\times10^{22}$ FLOP입니다. 실제 기준값은 대통령령을 확인해야 하며, 이 수업에서는 기준 숫자를 적지 않습니다.

4. NIST AI 위험관리 프레임워크(AI RMF 1.0)

미국 국립표준기술연구소(NIST)가 2023년 1월 26일 공개한 자율(voluntary) 프레임워크입니다. 법이 아니라 조직이 AI 위험을 관리하는 방법의 표준 틀이며, 2024년 7월 26일 생성형 AI 프로파일(NIST AI 600-1)이 추가되었습니다. NIST 페이지는 AI RMF가 현재 개정 중이라고 밝히고 있습니다.

법(EU · 한국)이 "무엇을 해야 하나"를 정한다면, NIST AI RMF는 "어떻게 체계적으로 할까"에 대한 실무 지도로 쓰기 좋습니다.

5. 생성형 AI와 저작권: 공식 기관이 말한 것

저작권은 나라마다 법이 다르고, 소송과 정책이 진행 중 인 분야입니다. 여기서는 공식 문서가 밝힌 것만 옮기고 확정적인 판단은 하지 않습니다.

미국 저작권청. 「Copyright and Artificial Intelligence」 보고서를 세 부분으로 냈습니다. 1부 디지털 복제(2024-07-31), 2부 저작권 보호 가능성(2025-01-29), 3부 생성형 AI 학습(2025-05-09 사전 공개판)입니다. 2부 발표문의 요지는 다음과 같습니다.

• 결과물은 사람이 충분한 표현적 요소를 결정한 경우 에만 보호됩니다.
• 프롬프트를 입력한 것만으로는 해당하지 않습니다.
• 사람이 만든 저작물이 결과물에 드러나거나, 사람이 결과물을 창작적으로 배열 · 수정한 경우에는 그 부분이 보호될 수 있습니다.
• AI를 창작 보조로 쓰거나 AI 생성물을 더 큰 사람의 작품에 넣는 것 자체가 보호를 막지는 않습니다.

한국. 한국저작권위원회는 2026년 2월 26일 「생성형 인공지능의 저작물 학습에 대한 저작권법상 공정이용 안내서」를 발간했습니다. 학습 데이터 이용이 공정이용에 해당하는지는 이 안내서와 같은 공식 자료를 원문으로 확인하고, 구체적 사안은 전문가 판단을 받아야 합니다.

실무에서 할 수 있는 것(해설). 학습 · 미세조정 데이터의 출처와 라이선스를 기록하고, 생성물을 상업적으로 쓸 때는 사람이 어떤 창작적 기여를 했는지 남겨 두며, 앞의 한국 AI 기본법 제31조에 따른 AI 생성물 표시 를 지킵니다.

6. 책임 있는 AI의 실무 도구: 모델 카드와 데이터시트

모델 카드(Model Cards). Mitchell 외(FAT* 2019)가 제안한 "학습된 모델에 붙이는 짧은 문서"입니다. 의도한 사용 맥락, 평가 절차, 그리고 문화 · 인구 집단 · 교차 집단별 성능 을 적게 합니다.

데이터시트(Datasheets for Datasets). Gebru 외(CACM 2021)가 제안한 데이터셋 문서로, 만든 동기 · 구성 · 수집 과정 · 권장 용도 등을 기록합니다.

두 문서는 EU의 문서화 의무, 한국 기본법 제34조의 '문서 작성 · 보관'과 설명 방안, NIST의 Map · Measure 기능에 그대로 쓸 수 있는 증거가 됩니다.

1234567891011flowchart LR
  A[AI 시스템 기획] --> B[용도 · 영역 정리]
  B --> C{위험 단계 판정<br/>금지 · 고위험/고영향 · 투명성 · 최소}
  C -->|금지| X[출시하지 않음]
  C -->|고위험 · 고영향| D[위험 관리 · 사람 감독<br/>설명 방안 · 영향평가]
  C -->|투명성| E[AI 사용 고지<br/>생성물 표시]
  C -->|최소| F[자율 관리]
  D --> G[모델 카드 · 데이터시트<br/>로그 · 평가 기록]
  E --> G
  F --> G
  G --> H[NIST RMF 식 운영<br/>Govern · Map · Measure · Manage]

연습 문제

1. 다음은 EU AI법 기준 어느 단계에 가깝나요? (가) 고객센터 챗봇 (나) 지원자 이력서 자동 선별 (다) 스팸 메일 필터
   • 풀이: (가) 투명성 위험(챗봇임을 알림) (나) 고용 영역이라 고위험 (다) 최소 위험입니다. 실제 판정은 법 조문과 부속서를 확인해야 합니다.
2. 한국 AI 기본법에서 생성형 AI로 만든 홍보 이미지를 제공할 때 확인할 조문은?
   • 풀이: 제31조 제2항(생성형 AI 결과물 표시), 실제와 구분하기 어려운 이미지라면 제3항(명확한 고지 · 표시)입니다.
3. 파라미터 130억, 학습 토큰 1조인 모델의 학습 연산량을 $6ND$ 로 어림하세요.
   • 풀이: $6\times1.3\times10^{10}\times10^{12} = 7.8\times10^{22}$ FLOP입니다.
4. 2024년 자료에 "EU 고용 분야 고위험 의무는 2026년 8월부터"라고 적혀 있습니다. 2026-10 기준 공식 페이지와 비교하면?
   • 풀이: AI 옴니버스(2026-07-27 발효)로 부속서 III 고위험 의무는 2027-12-02로 늦춰졌다고 공식 페이지가 밝힙니다.

스스로 점검

1. 위험 기반 규제에서 의무의 무게를 정하는 것은 모델 기술인가요, 용도인가요?
   • 답: 주로 용도와 피해 가능성입니다. 같은 기술이라도 채용 · 대출 · 의료처럼 사람의 권리와 안전에 영향을 주는 곳에 쓰이면 의무가 무거워집니다.
2. NIST AI RMF는 법적 의무인가요?
   • 답: 아닙니다. 자율적으로 쓰는 프레임워크이며, 법 준수를 체계적으로 준비하는 실무 지도로 활용합니다.
3. 미국 저작권청 2부 보고서 기준으로 "프롬프트만 잘 써서 만든 이미지"는 보호되나요?
   • 답: 저작권청은 프롬프트 입력만으로는 사람의 저작으로 보지 않는다고 밝혔습니다. 사람이 표현적 요소를 결정하거나 결과물을 창작적으로 수정 · 배열한 부분이 있어야 그 부분이 보호될 수 있습니다.

용어 정리

더 깊이 보려면

• EU 집행위원회 AI Act 페이지: digital-strategy.ec.europa.eu/en/policies…
• 국가법령정보센터 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」: law.go.kr/lsInfoP.do
• NIST AI RMF: nist.gov/itl/ai-risk-management-framework
• 미국 저작권청 Copyright and AI: copyright.gov/ai

다음에 볼 것

• ML 프로젝트 수명 주기: 데이터 · 실험 관리 · 재현성 — 문서화 · 기록을 실제 개발 흐름에 넣는 법
• 헌법적 AI: AI 피드백으로 무해성 학습 — 원칙(헌법)을 모델 학습에 반영하는 기술
• 거버넌스와 정책: 사내 AI 사용 지침 · 데이터 분류 · 섀도 AI — 규제 요구를 사내 지침으로 옮기기(AX)

라이선스

본문은 KAITABASE 자체 해설입니다. 법령 · 공식 문서의 내용은 각 기관의 원문을 짧게 인용 · 요약했습니다. 연산량 어림과 위험 단계 예시는 해설용이며 법적 판단이 아닙니다. 법률 자문 아님 · 2026-10-22 기준 확인.

출처

• European Commission, AI Act (Regulatory framework on AI), 2026-10-19 갱신: digital-strategy.ec.europa.eu/en/policies…
• 국가법령정보센터, 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(법률 제20676호): law.go.kr/lsInfoP.do
• NIST, AI Risk Management Framework: nist.gov/itl/ai-risk-management-framework
• U.S. Copyright Office, Copyright and Artificial Intelligence: copyright.gov/ai · Part 2 발표: copyright.gov/newsnet/2025/1060.html
• 한국저작권위원회, 생성형 인공지능의 저작물 학습에 대한 저작권법상 공정이용 안내서(2026): copyright.or.kr/information-materials/pub…
• Mitchell 외 (2019), Model Cards for Model Reporting, FAT* 2019: arxiv.org/abs/1810.03993
• Gebru 외 (2021), Datasheets for Datasets, CACM: arxiv.org/abs/1803.09010