[AWS] What is Generative AI (GenAI)? - AIF-C01

Keyword: AWS, Generative AI, Foundation Model, LLM, Amazon Bedrock

AWS AI Practitioner(AIF-C01)을 공부하다 보면 Generative AI 관련 개념이 꽤 자주 등장합니다.

특히 이후에 배우게 되는 Amazon Bedrock 같은 서비스는 Generative AI를 기반으로 하기 때문에, 먼저 Gen AI의 기본 개념을 이해하는 것이 중요합니다. 이번 글에서는 공부하면서 정리한 내용을 기반으로 다음 내용을 정리해보겠습니다.

• Generative AI란 무엇인가
• Foundation Model 개념
• LLM (Large Language Model)
• Gen AI가 동작하는 방식
• 이미지 생성 모델의 원리

시험을 준비하면서 이해한 개념을 중심으로 정리해보겠습니다.

---

Generative AI란 무엇인가?

Generative AI(Gen-AI)는 Deep Learning의 한 종류입니다.

AI → Machine Learning → Deep Learning → Generative AI 이렇게 점점 세분화된 개념이라고 보면 이해하기 쉽습니다.

 

Generative AI의 가장 큰 특징은 새로운 데이터를 생성(generate)할 수 있다는 것입니다. 즉, 기존 데이터를 학습한 뒤 학습한 데이터와 비슷한 새로운 데이터를 만들어냅니다. 예를 들어 다음과 같은 데이터를 생성할 수 있습니다.

• Text
• Image
• Audio
• Code
• Video

예를 들어 학습 데이터가 다음과 같다고 가정해보겠습니다: 강아지 이미지 = 만화 스타일 이미지

이 두 데이터를 많이 학습한 Generative Model에게 다음과 같은 요청을 합니다. "cartoon dog를 생성해줘." 그러면 모델은

• dog의 특징
• cartoon 스타일

두 가지 지식을 결합해서 새로운 cartoon dog 이미지를 생성합니다.

이것이 Generative AI의 핵심 개념입니다.즉, 기존 데이터를 단순히 분류하는 것이 아니라 새로운 데이터를 생성하는 AI 입니다.

---

Generative AI 학습 과정

Generative AI 모델은 보통 다음과 같은 과정으로 만들어집니다.

1. 대량의 데이터 학습
2. Foundation Model 생성
3. 다양한 작업 수행

특히 중요한 특징은 Unlabeled Data를 많이 사용한다는 점입니다. 즉 데이터에 정답 라벨이 없어도 대규모 데이터를 학습할 수 있습니다. 이렇게 학습된 Foundation Model은 다음과 같은 다양한 작업을 수행할 수 있습니다.

• Text generation
• Text summarization
• Information extraction
• Image generation
• Chatbot
• Question answering

즉 하나의 모델이 다양한 AI 작업을 수행할 수 있습니다.

---

Foundation Model 이란?

Generative AI에서 핵심이 되는 개념이 바로 Foundation Model입니다. Foundation Model은 말 그대로 다양한 AI 작업의 기반이 되는 모델입니다. 특징은 다음과 같습니다.

• 매우 큰 모델
• 매우 많은 데이터로 학습
• 다양한 AI 작업 수행 가능

예를 들어 우리가 사용하는 ChatGPT도 하나의 Foundation Model을 기반으로 합니다. Foundation Model을 만드는 데에는 엄청난 비용이 들어갑니다. 보통 다음과 같은 특징이 있습니다.

• 수십억 개 이상의 파라미터
• 수십억 개의 학습 데이터
• 수천~수만 개 GPU 사용
• 학습 비용 수천만 달러

그래서 실제로 Foundation Model을 만드는 기업은 많지 않습니다. 대표적인 기업은 다음과 같습니다.

• OpenAI, Meta, Amazon, Google, Anthropic

또한 모델은 크게 두 종류로 나뉩니다.

• Open Source 모델: Meta 모델, Google BERT → 무료로 사용할 수 있습니다.
• Commercial License 모델: OpenAI, Anthropic → 사용 시 비용을 지불해야 합니다.

AWS에서는 이런 다양한 모델을 Amazon Bedrock을 통해 사용할 수 있습니다.

---

Large Language Model (LLM)

LLM은 Large Language Model의 약자입니다. 이름 그대로 대규모 언어 모델입니다. LLM은 다음과 같은 특징을 가집니다.

• 인간처럼 자연스러운 텍스트 생성
• 대규모 텍스트 데이터 학습
• 수십억 개 이상의 파라미터

대표적인 예는 다음과 같습니다. → GPT-4. 보통 LLM은 다음과 같은 데이터를 학습합니다.

• 책, 뉴스 기사, 웹사이트, 문서, 기타 텍스트 데이터

이렇게 학습한 모델은 다양한 언어 관련 작업을 수행할 수 있습니다. 예를 들어 번역 (Translation), 요약 (Summarization), 질문 응답 (Question Answering), 글 생성 (Content Creation) 등이 가능합니다.

---

LLM은 어떻게 동작할까

LLM을 사용할 때 우리는 Prompt를 입력합니다. 예 → What is AWS?

이 Prompt가 모델에 전달되면 모델은 학습한 데이터 기반으로 가장 자연스러운 답변을 생성합니다.

예를 들어 다음과 같은 답변이 생성될 수 있습니다. → “AWS is a cloud computing platform provided by Amazon.”

여기서 중요한 개념이 하나 있습니다. 바로 Non-deterministic 입니다.

---

Non-Deterministic이란? 

LLM의 출력은 항상 동일하지 않습니다. 같은 질문을 해도 답변이 조금씩 달라질 수 있습니다. 예: “What is AWS?”

• 첫 번째 답변: “AWS is a cloud computing platform from Amazon.”
• 두 번째 답변: “AWS is a comprehensive cloud platform offering many services.”

내용은 비슷하지만 완전히 동일하지는 않습니다. 이것이 바로 Non-deterministic 특성입니다.

---

왜 결과가 매번 다를까?

LLM은 다음 단어를 확률 기반으로 선택합니다.

예를 들어 다음 문장이 있다고 가정해보겠습니다. → “After the rain, the streets were.”

모델은 다음 단어 후보를 계산합니다. 그리고 이 중 하나를 확률적으로 선택합니다.

단어	확률
wet	0.40
flooded	0.25
slippery	0.15
empty	0.10

예를 들어 → “flooded” 가 선택되면 문장은 다음과 같이 됩니다.

“After the rain, the streets were flooded.” 그 다음 단어도 같은 방식으로 선택됩니다.

이 과정을 반복하면서 문장이 생성됩니다. 그래서 같은 Prompt라도 항상 동일한 문장이 나오지 않습니다.

---

Generative AI 이미지 생성

Generative AI는 텍스트뿐 아니라 이미지도 생성할 수 있습니다.

예를 들어 다음 Prompt를 입력합니다. → “Generate a blue sky with white clouds and the word "Hello" in the sky.”

그러면 모델이 해당 이미지를 생성합니다. 또한 Image → Image 변환과 같은 작업도 가능합니다.
→ “Transform this image in Japanese anime style.”

즉 실제 사진 → 애니메이션 스타일 으로 변환할 수 있습니다.

---

Image → Text (멀티모달 AI)

이미지에서 텍스트를 생성하는 것도 가능합니다. ex) How many apples do you see?

이미지를 보고 모델이 답합니다. → The picture shows one apple.

이러한 기능을 Multimodal AI라고 합니다.

---

Diffusion Model (이미지 생성 모델)

이미지 생성에 많이 사용되는 방법 중 하나가 Diffusion Model입니다. Diffusion Model은 다음 방식으로 동작합니다.

• Forward Diffusion 이미지에 점점 Noise를 추가합니다.
  • Cat Image → Noise 추가 → 더 많은 Noise → 완전한 Noise
• Reverse Diffusion: 이미지를 생성할 때는 반대로 진행합니다.
  • Random Noise → Noise 제거 → 이미지 형태 생성 → 최종 이미지

즉, Noise에서 시작해서 점점 이미지를 복원하면서 고양이와 컴퓨터가 있는 이미지를 생성합니다.

---

정리

이번 글에서는 AWS AIF-C01을 공부하면서 등장하는 Generative AI의 기본 개념을 정리했습니다.

핵심 내용을 다시 정리하면 다음과 같습니다.

• Generative AI는 새로운 데이터를 생성하는 AI
• 대부분 Foundation Model을 기반으로 동작
• LLM은 텍스트 생성 모델
• 결과는 Non-deterministic
• 이미지 생성에는 Diffusion Model 등이 사용됨

다음 글에서는 Amazon Bedrock 서비스를 중심으로 AWS에서 Generative AI를 어떻게 사용하는지 정리해보겠습니다.