[내배캠 베이스캠프] AI Literacy | 생성형 AI와 LLM의 원리

 

 

 

LLM이란?

 

LLM의 개념

 

Large Language Model (거대 언어 모델)

인간의 언어를 이해하고 답변해 주는 AI 모델

 

 

LLM의 원리

 

간단하게 표현한 임베딩 예시

 

1. 인간의 언어를 수치화(벡터화)해서 이해 → 임베딩이라고 함

2. 임베딩을 완료한 정보를 바탕으로 트랜스포머 알고리즘을 돌려서 문장을 해석

 

 

Fine-tuning (미세 조정)

 

‣ 개념: LLM의 답변 최적화를 위해 외부 지식 베이스를 활용하는 기술

‣ 방법: 새로운 데이터셋 학습, 답변 자유도 값 수정, 답변 최대 길이 수정 등

‣ 장점: 비교적 작업 속도가 빠름

‣ 단점: 결과를 보는 데까지 시간이 오래 걸림

 

 

RAG (검색 증강 생성)

 

‣ 개념: LLM의 답변 최적화를 위해 매개변수를 조정하는 활동

‣ 방법: 웹에 있는 내용 참고, 서버의 문서 내용 참고, 핸드폰의 그림 참고 등

‣ 장점: 별도의 학습이 필요 없음

‣ 단점: 설계・구축・적용・유지보수 작업 등 많은 리소스 필요

 

→ 두 방법 모두 사용 필요