생성형 AI LLM 심화 실무과정 : 총 66시간 

 

 

Module A: Generative AI 원리와 개발 (18hr)

 

Session 1 (3 hrs) — Introduction to Deep Generative Models I

  •     1. Introduction (discriminative vs generative, inverse problems)
  •     2. Preliminaries (probabilistic ML, posterior inference)
  •     3.Approximate Inference (MCMC) 
  •     4.[실습] MCMC – 간단한 예제를 통한 확률분포 추정실습 (Colab)

 

Session 2 (3 hrs) — Introduction to Deep Generative Models II

    1. Estimating Probability Distribution
    2. Overview of Deep Generative Models I ( AR / VAE / Flwo / GAN )
    3. Overview of Deep Generative Models II l( Diffusion )
    4. [실습] 사전학습 생성모델 기반 생성·분석 및 인사이트 (Colab)

 

Session 3 (3 hrs) — Transformer Basic

  •     1. Elements of Transformer (encoder-decoder, embeddings, context length)
  •     2. Attention & Self-Attention (QKV)
  •     3. Multi-Head Attention
  •     4.[실습] Attention – 실습과 시각화를 통해 Attention 원리이해 (Colab)

 

Session 4 (3 hrs) — Transformer

    1. Positional Encoding / Residuals & Layer Norm
    2. Decoding (greedy/beam/top-k/top-p, temperature)
    3.Appendix (Scaled Dot-Product, SwiGLU)
    4.[실습] Attention과 디코딩 – 경량 사전학습 LM 활용 생성 (Colab)

 

Session 5 (4 hrs) — LLM Pretraining

  •     1. Introduction LLM
  •     2.LLM Development Lifecycle Overview
  •     3. Pretraining (data filtering, MLM/CLM/span corruption, three architectures, scaling)
  •     4.[실습] Hugging Face 오픈소스 LLM downstream task (Colab)

 

Session 6 (3 hrs) — Vision

    1. CNN Basics (fundamental operations and layers)
    2. Representative CNN Architectures(AlexNet, VGG, GoogLeNet, ResNet)
    3. Training CNNs (data augmentation, preprocessing, Batch Norm)
    4. From CNN to ViT (patch embedding, CNN vs ViT)
    5. [실습] ViT 기반 이미지 피처 분석 및 downstream task (Colab)



Module B: LLM 도메인특화와 sLLM fine tuning (15hr)

  • Session 1: LLM 작동 원리와 도메인 확장 전략   
  •     1. LLM 작동 원리와 Reasoning 능력
  •     2. 도메인 LLM 확장 전략
  •     3. Prompt Engineering
  •     4. [실습] Zero-shot, Few-shot, Chain-of-Thought 실험
  •         (환경: Google Colab)

 

  • Session 2: Context Engineering과 추론 성능 향상
  •     1. Context Engineering
  •     2. In-Context Learning
  •     3. Test-Time Scaling
  •     4. [실습] Self-Consistency 기법 실험 (환경: Google Colab)

 

  • Session 3: Instruction Tuning 데이터 구조와 구축
  •     1. Instruct Tuning이란 무엇인가
  •     2. Instruct Tuning 데이터 구조
  •     3.도메인 데이터 수집과 전처리
  •     4. Train, Validation, Test Split
  •     5. [실습] 바이브 코딩 개념 및 실습 1 (환경: Claude Code)

 

  • Session 4: Instruction Tuning 데이터 확장과 학습
  •     1. Teacher LLM으로 데이터 확장하기
  •     2. 좋은 데이터를 고르는 방법
  •     3. Supervised Fine-Tuning
  •     4. [실습] 바이브 코딩 개념 및 실습 2 (환경: Claude Code)

 

  • Session 5: sLLM 학습 및 서비스 운영
  •     1. PEFT와 LoRA
  •     2. SFT 이후 Alignment
  •     3. sLLM으로 서비스 운영하기
  •     4. 전체 과정 요약



Module C: LLM RAG (15hr)

 

Session 1 (3 hrs) 강의

  •     1. LLM의 한계와 RAG 필요성, LLM 서비스= Agent
  •     2. Tools, Memory, Context, Harness Engineering
  •     3. RAG Pipeline: 구축 및 운영 프로세스, RAG Examples

 

Session 2 (3 hrs) 강의

  •     4. Advanced RAG: Small-to-Big, Hybrid Retrieval
  •     5. Advanced RAG: 질의변환, ReRanker, 성능평가
  •     6. SQL-RAG / Text2SQL 소개, RAG System – Case Study

 

Session 3 (3 hrs): 강의+ 실습(Colab + GPU 사용/ LLM API 사용)

  •     7. LangChain 프레임워크 및 LCEL, RAG 벤치마크
  •     8. (실습) OpenAI API 플랫폼 소개
  •     9. (실습) RAG 기본 구성 따라가기

 

Session 4 (3 hrs): 실습

  •     10. (실습) 문서 로딩, 정제, Chunking, (실습) Embedding, Retrieval
  •     11. (실습) BM25 & Hybrid Retrieval, (실습) Meta-data filtering, Augmentation
  •     12. (실습) Generation, Evaluation

 

Session 5 (3 hrs): 실습

  •     13. (실습) LangChain으로 RAG 파이프라인 구성하기
  •     14. (실습) 문서 로딩, 정제, Chunking, (실습) Embedding, Retrieval,
  •     15. (실습) RAG 프롬프트 작성, LCEL Chain, (실습) 검색 성능 평가
  •     16. (실습) MMR 다양성 조정, Reranker, (실습) 검색 결과 후처리, 프롬프트 실험



Module D: LLM Graph RAG (18hr)

 

Session 1: Sparse, Dense retrieval 원리 및 구현 (실습환경:Google Colab)

    1. Sparse Retrieval의 어휘 가중치·길이 정규화 및 역색인 관련도 계산”
    2. Bi-Encoder 구조와 Contrastive Learning 기반 검색 모델
    3. (실습) 질의·문서 표현과 유사도 계산 방식 구현 및 검색 모델 동작 분석

 

Session 2: 정보 검색 심화 (실습환경: Colab + OpenAI API)

    4. Cross-Encoder 구조와 ColBERT식 Late Interaction 모델
    5. 다국어 정보 검색과 언어 간 표현 정렬
    6. (실습) 검색 모델별 관련도 계산 방식 비교 및 검색 결과 분석

 

Session 3: 코드 생성과 Structured Reasoning (실습: Colab+OpenAI API)

    7. LLM 기반 코드 생성과 실행 피드백
    8. 자연어 질의 해석, Schema Linking 및 SQL 생성
    9. SQL 및 프로그램을 활용한 구조적 추론
    10. (실습) 코드 생성 및 Text-to-SQL 수행과 실행 결과 기반 평가 및 추론

 

Session 4: 정보 추출과 지식 구조화 (실습환경: Colab + OpenAI API)

    11. 품사 태깅과 개체명 인식
    12. 관계 추출과 비정형 텍스트의 구조화
    13. 지식 그래프 구축과 그래프 기반 검색
    14. (실습) 개체명 인식과 관계 추출을 통한 지식 그래프 구축

 

Session 5: Graph RAG 구축 (실습: Colab+OpenAI API)

    15. Graph RAG의 구조, 일반 RAG와의 차이
    16. 그래프 기반 검색과 LLM 생성의 결합
    17. 구조화된 지식을 활용한 질의 응답
    18. (실습) 지식 그래프 기반 Graph RAG 구현

 

Session 6: Graph RAG 응용과 최신 LLM 최적화(실습: Colab+OpenAI API)

    19. 실무 데이터를 활용한 Graph RAG 파이프라인 구현
    20. 프롬프트 최적화와 LLM 학습 방법 개요
    21. (실습) Graph RAG 결과 분석 및 시스템 개선