[내배캠 베이스캠프] AI Literacy | 프롬프트 기초, AI 윤리 저작권

 

프롬프트란?

 

프롬프트 요소

 

- 지시 (Instruction): LLM이 수행해야 하는 명령

- 입력 값 (Input): LLM이 받아 들일 값, 그림, 글 등등

- 문맥 (Context): 추가적인 정보, 어조, 말

- 출력 지시자 (Output Indicator): 출력 틀, 양식

- 예시 (Example): 사용자가 원하는 추가적인 예시

 

매개변수 요소

 

- 자유도 (Temperature): LLM의 답변 자유도를 설정하는 값, 높으면 거짓말할 수 있고 낮으면 추론 능력이 떨어짐

- 최대 토큰 수: LLM이 소화할 수 있는 최대 토큰 수, 용량이 클수록 높음, 너무 낮으면 소화할 수 있는 문장 길이가 짧아짐

※ 토큰: LLM이 문장을 나누는 기본 단위

 

프롬프트 엔지니어링이란?

 

추론 능력을 향상시키고 LLM 모델에 정체성을 부여하고 사용자 적합성을 이끌어내는 것

 

 

 

프롬프트 기법 종류

 

Zero-Shot Prompting

 

- 정의: 모델에 예시 없이 원하는 작업을 지시하여 사전 학습된 일반적인 지식만으로 문제를 해결하는 방식

- 장점: 별도의 학습을 수행하지 않고 지시문만 명료하게 작성하면 됨, 직관적이고 간편

- 단점: LLM이 기존에 학습한 내용에 의존

 

Few-Shot Prompting

 

- 정의: 프롬프트 내에 소수의 관련 예시를 포함시켜 AI의 성능을 향상시키는 방식

- 장점: 예시를 포함하여 다음 출력 결과를 예상할 수 있음

- 단점: 예시가 명확해야 하며 정확한 답변을 원할수록 더 많은 예시와 예외 처리가 필요함

 

Chain-of-Thought Prompting (COT, 생각의 사슬)

 

- 정의: 복잡한 문제를 해결할 때, 정답을 바로 제시하는 대신 사고 과정을 단계별로 거쳐 추론하도록 유도하는 방식

- 예시: 문제를 단계별로 자세한 사고 과정을 써서 풀어라.

- 장점: LLM이 추론해 나가는 과정을 볼 수 있어서 만약 잘못 추론한 부분이 있으면 피드백하기 쉬움

- 단점: 필요 없는 내용까지 방대해질 수 있으며 답변을 후처리 가공이 필요할 수 있음

 

Tree of Thoughts (TOT, 생각의 나무)

 

- 정의: 복잡한 문제를 해결 과정을 나무처럼 여러 가지 가능성을 탐색하고 최적의 경로를 찾는 방식

- 예시: 다음 문제를 Tree of Thoughts 방식으로 해결하라. 각 단계에서 최소 3가지 대안을 생성하고, 각 대안을 간단히 평가한 뒤 가장 적절한 경로를 선택해 최종 답을 도출하라.

- 장점: 여러 해결책을 구할 수 있음

- 단점: 어느 답이 제일 적절한지 환각은 없는지 검증을 해야 하거나 검증이 어려움

 

Structured Prompting (구조화 지시)

 

- 정의: 구조를 갖춰서 절차지향적으로 프롬프트를 작성하는 방식

- 예시 1: 다음 질문에 반드시 JSON 형태로만 답하라.

- 예시 2:

{
    "system": "너는 A 관련 자료 보고서를 작성하는 전문가이다.",
    "user": "위 자료를 바탕으로 보고서를 만들어라."
    "data": "1. 보고서 양식은 '요약보고서'이다.",
        "2 날짜는 오늘 날짜로 작성",
        "3, 작성자는 르탄이",
        "4. 속성은 개요, 구성요소, 내용, 근거, 인용",
        "5. 제일 마지막에 결재란"
}

 

- 장점: 기계가 이해하기 쉬운 구조로 프롬프트를 짜주는 것, LLM이 절차를 수행하는데 가장 직관적인 방법

- 단점: 사람이 이해하는 초점을 두기보다 기계의 입장에서 프롬프트를 이해하도록 작성하는데 초점을 둬야 함

 

Generated Knowledge Prompting (지식 생성)

 

- 정의: 응답 정확도와 추론 능력을 향상시키기 위한 프롬프트 엔지니어링 기법

- 예시: 다음 질문에 답하기 전에 먼저 관련 배경지식을 3~5개 생성하라. 그 지식을 기반으로 최종 답을 작성하라. [질문: "왜 바다의 물은 짠가?"]

- 장점: 모델이 지식을 정리하고 사고 기반을 만들기 때문에 정확도와 추론력 향상에 도움

- 단점: 생성된 지식이 부정확할 경우 잘못된 정보를 기반으로 답이 더 크게 틀릴 위험

 

 

 

 

AI와 함께 사는 시대

 

Hallucination (환각)

 

정의: AI가 실제로 존재하지 않거나 잘못된 정보를 보여 주는 것

원인: 학습된 내용에 한계가 있기 때문에 답변 생성에 있어 의도와 벗어난 동작을 하게 됨 → 오류가 아니라 확률과 예측 특성 때문에 발생

해결 방법: 온도 값을 낮추기, 제한점 설계, 추가 학습 등

대응 방법: AI 생성 답변은 반드시 검증하고 검토하고 검수하기

 

개인정보 침해, Red Flag (위험 징후)

 

사례: 해킹 관련 AI가 특정 인물에 대한 정보와 거짓된 정보를 합쳐 답변 생성

대응 방법: 

- 민감한 정보 및 개인정보에 대해서는 AI에 입력 금물

- 후처리를 통해 Red Flag가 보이는 정보는 전부 검열

- 직접적인 허락 구하기

- 반드시 목적에 맞는 범위에서 사용하기

- 의료, 국방, 행정, 금융, 미성년 자료는 더 엄격함 (데이터 3법: 개인정보보호법, 정보통신망법, 신용정보법)

 

저작권과 출처 표기

 

저작물: 저작권법에 의해 독창성과 저작권을 인정받을 수 있도록 보호를 받는 특정 생성물

저작권법: 저작권자의 권리를 보장하고 무분별한 저작물의 남용을 막고 보호하기 위한 법률

저작권 침해: 원 저작권자의 동의 없이 2차 창작물을 생성하거나, 저작물의 정보를 변경 및 활용하는 모든 것

대응 방법

- 반드시 저작권자 출처 표기

- AI 생성물 이용

- 대외용인지 사내용인지 공개 범위 항상 확인

- 출처가 불명확한 정보는 함부로 취득 및 활용하지 않기

- Red Flag가 느껴진다면 검토하고 사용