[LLM] What is Large Language Model (LLM)?

LLM 파트 부분에 대한 글을 처음써보네요. 앞으로 당분간은 LLM에 관한 글만 올릴거 같아요..
공부를 그쪽으로 하고 있어서. 한번 시작해볼께요.

Large Language Model (LLM)

LLM으로 들어가기 전에, 일단 AI가 어떠한 개념인지 한번 짚고 넘어가야 할 필요가 있습니다.

AI는 인간의 학습 능력, 추론 능력, 지각 능력을 인공적으로 구현하려는, 컴퓨터 과학의 세부 분야중 하나입니다.

즉, AI는 인간의 인지 능력을 모방하여 데이터를 처리하고 분석하는 기술입니다.

 

한번 다이어그램을 보고 어떠한 Flow로 구성되는지 설명을 드리겠습니다.

• INPUT (입력): AI 시스템에 주어지는 데이터 또는 정보입니다. 예를 들어, 텍스트, 이미지, 음성 등이 입력으로 들어갈 수 있습니다.
• 학습, 추론, 지각: 입력된 데이터를 바탕으로 AI가 학습을 통해 패턴을 익히고, 추론을 통해 결론을 내리며, 지각을 통해 환경을 이해하는 과정을 나타냅니다.
  • 학습(학습): 주어진 데이터를 통해 AI가 새로운 정보를 학습합니다.
  • 추론(추론): 학습한 내용을 바탕으로 AI가 결정을 내리거나 예측을 수행합니다.
  • 지각(지각): 주변 환경이나 입력 데이터를 이해하고 해석하는 과정입니다.
• OUTPUT (출력): AI가 입력 데이터를 처리한 후 도출하는 결과물입니다. 출력은 AI가 내린 결론, 예측, 또는 행동이 될 수 있습니다.

그러면 AI에 데한 간략한 설명이 끝났고, 이제 LLM에 대한 설명을 한번 해보겠습니다.

 

LLM, 또는 Large Language Model,은 대규모 자연어 처리 모델입니다.

이러한 모델은 수십억 개의 매개변수를 학습하며, 방대한 양의 데이터를 기반으로 텍스트를 생성하거나 이해하는 데 사용됩니다.

LLM은 인간의 언어 패턴을 학습하여 자연스러운 텍스트 생성을 목표로 하며,

번역, 요약, 대화형 응답 등 다양한 응용 프로그램에서 사용됩니다.

• 대표적인 예: OpenAI의 GPT, Meta의 LLaMA, Google의 BERT 등은 대규모 언어 모델의 일종입니다.

---

Language Model (LM)

LM은 언어 모델로, 텍스트나 언어 데이터의 확률 분포를 학습하는 데 사용되는 모델입니다. 언어 모델은 주어진 단어나 문장의 순서에 따라 다음에 나올 확률을 예측하는 역할을 합니다. 이는 텍스트 생성을 위한 기본적인 메커니즘입니다.

• 확률적 특성: 언어 모델은 자연어에서 특정 단어나 구가 나올 확률을 기반으로 동작합니다. 예를 들어, "The cat is"라는 문장 다음에 나올 단어가 "cute"일 확률이 "dog"보다 높을 수도 있고, "is" 뒤에 "running"과 같은 동사가 나올 확률이 더 높을 수 있습니다.

---

확률 모델

확률 모델은 주어진 변수나 데이터에서 특정 사건이 발생할 확률을 나타내는 함수입니다.

언어 모델은 이러한 확률 모델을 기반으로 텍스트를 생성합니다.

예를 들어, **f(cat)**이라는 함수는 "cat(고양이)"이라는 단어와 관련된 여러 가지 상황에 대해 다양한 확률값을 부여할 수 있습니다.

• 예시:
  • 고양이가 귀여울 확률은 0.35
  • 고양이가 무서울 확률은 0.15
  • 고양이의 털과 관련된 상황은 0.2
  • 고양이 알레르기는 0.1
  • 고양이의 음식과 관련된 경우는 0.2

이렇게 각 상황에 대한 확률을 계산해 언어 모델은 "고양이"와 연관된 다음 단어나 구를 결정합니다.

---

LLM가 LM의 차이

LLM은 LM의 확장된 개념으로, 방대한 데이터와 더 많은 매개변수를 학습한 거대한 언어 모델입니다.

LLM은 더 복잡한 문맥을 이해하고 자연스러운 텍스트 생성을 할 수 있으며, LM은 일반적으로 더 작은 규모의 데이터에 적용됩니다.

LLM은 더 다양한 응용 프로그램에서 활용되며, 그 능력은 AI 기반 언어 생성의 혁신을 가져왔습니다.

What can LLM do?

그러면 LLM은 과연 무슨 일을 할 수 있을까요?

• 기계 번역: LLM은 여러 언어 간의 문장을 번역하는 데 사용할 수 있습니다.
  • 예를 들어, 영어에서 한국어로, 또는 그 반대로 자연스럽게 번역이 가능합니다.
  • 기존의 번역 시스템보다 문맥을 더 잘 이해하며, 더 자연스러운 번역 결과를 제공합니다.
• 음성 인식: LLM은 텍스트뿐만 아니라 음성 데이터를 처리할 수 있습니다.
  • 이를 통해 사용자의 음성 명령을 이해하고 텍스트로 변환할 수 있으며, 음성 기반 응용 프로그램에 응답할 수 있습니다.
• 검색: LLM은 특정 주제에 대한 정보를 검색하고, 검색 결과를 요약하거나 답변을 제공합니다.
  • 이를 통해 사용자는 필요한 정보를 신속하게 얻을 수 있습니다.
• 문자 인식: LLM은 텍스트 데이터뿐만 아니라 이미지를 분석하여 문자나 단어를 인식할 수 있습니다.
  • 예를 들어, 이미지 속의 텍스트를 인식하여 읽고, 이를 바탕으로 응답을 생성할 수 있습니다.
• 자연어 생성: LLM은 인간과 유사한 자연스러운 텍스트를 생성할 수 있습니다.
  • 주어진 주제에 대해 글을 작성하거나 대화를 생성할 수 있으며, 창의적인 콘텐츠도 만들어낼 수 있습니다.

 

이러한 LLM이 할 수 있는 일들은 Prompt Engineering이라는 기법에 의하여 효과적으로 활용됩니다.

그러면 Prompt Engineering은 무엇일까요?

---

Prompt Engineering

Prompt Engineering이란 생성형 인공지능(AI), 특히 LLM을 활용하여 원하는 결과를 얻을 수 있도록 
효과적인 프롬프트를 설계하고 구성하는 과정 을 말합니다.

 

이는 AI의 능력을 최대한 활용하여 더 나은 결과를 얻는 방법을 연구하고 적용하는 기술입니다.

예를 들어, 특정한 질문을 했을 때, 답변의 정확성과 품질을 높이기 위해 프롬프트를 더 구체적이고 명확하게 만드는 것이 바로 Prompt Engineering입니다. 이를 통해 모델이 더 나은 성능을 발휘하고, 사용자는 원하는 결과를 정확하게 얻을 수 있습니다.

• 효율적인 프롬프트 작성: 사용자가 원하는 답변을 정확하게 이끌어내기 위해, 적절한 프롬프트를 작성하는 것이 핵심입니다. 이를 위해서는 LLM의 작동 방식과 자연어 처리 능력을 이해하고, 그것에 맞춰 프롬프트를 설계하는 것이 중요합니다.

그러면 Prompt engineering에 사용되는 Prompt는 과연 어떠한 의미를 가지고 있을까요?

 

What is Prompt?

Prompt란 특정 작업을 수행하도록 LLM(Large Language Model)에게 지시하는 자연어 텍스트를 의미합니다.

 

즉, 사용자가 인공지능 모델에게 작업을 요청할 때 입력하는 명령어 또는 질문입니다.

이러한 프롬프트는 간단한 명령일 수도 있고, 매우 구체적인 설명이나 상황을 포함할 수도 있습니다.

예를 들어:

• "고양이에 대해 설명해 주세요."
• "다음 문장을 영어로 번역해 주세요: 안녕하세요."

이와 같이, 프롬프트는 LLM에게 주어진 문제를 해결하거나 질문에 답변하도록 요청하는 핵심적인 요소입니다.

---

Hyperparameter: Temperature (온도)

Temperature는 언어 모델의 생성 결과물에서 창의성을 조절하는 중요한 하이퍼파라미터입니다.

이 값은 0에서 2 사이의 범위를 가지며, 텍스트 생성에서 다양성의 정도를 조절하는 역할을 합니다.

• 낮은 Temperature (0에 가까운 값):
  • 모델이 더 일관된 답변을 생성합니다. 확률 분포가 매우 날카롭게 표현되며, 가장 높은 확률을 가진 단어들이 자주 선택됩니다.
  • 예를 들어, Temperature가 낮으면 매우 확률이 높은 단어(예: "cake")만 선택되며, 창의성이 낮고 예측 가능한 답변을 얻게 됩니다.
• 높은 Temperature (1보다 큰 값):
  • 모델이 더 창의적이고 새로운 답변을 생성합니다. 확률 분포가 평평해지면서 다양한 선택지가 가능해지고, 다양한 단어가 생성될 확률이 높아집니다.
  • Temperature가 높으면 덜 일반적이지만, 다양한 단어가 선택될 수 있습니다. 예를 들어, "apple"이나 "donut"과 같은 단어도 더 자주 선택될 수 있습니다.

따라서 Temperature는 모델이 얼마나 다양하고 창의적인 응답을 생성할지 결정하는 핵심 요소입니다. 일반적으로 0에 가까운 값은 정확성을, 1보다 큰 값은 창의성을 높이는 방향으로 작동합니다.

---

Hyperparameter: Top_p

Top_p는 누적 확률을 기준으로 텍스트 생성에서 사용할 단어를 제한하는 하이퍼파라미터입니다.

Top-p 샘플링 방식은 확률의 누적 값을 기준으로 단어를 선택하는 방식입니다.

• Top_p가 1에 가까운 경우:
  • 모델은 가능한 모든 단어를 고려하여 텍스트를 생성하며, 확률이 낮은 단어도 선택될 수 있습니다.
  • 이를 통해 더 다양한 결과를 얻을 수 있지만, 때때로 비논리적이거나 부적절한 단어도 선택될 수 있습니다.
• Top_p가 0.5인 경우:
  • 누적 확률이 상위 50% 안에 들어가는 단어들만 선택됩니다.
  • 이는 창의성과 정확성 사이에서 균형을 맞추는 방식으로, 좀 더 제한된 범위 내에서 다양한 답변을 생성할 수 있습니다.

따라서 Top_p 값은 모델이 어떤 범위의 단어들을 사용할지 결정합니다. 이를 통해 텍스트 생성의 다양성과 일관성을 제어할 수 있습니다. Temperature와 Top_p는 종종 함께 조절되며, 두 파라미터를 조합하여 텍스트 생성 결과의 특성을 제어할 수 있습니다.

---

LLM HyperParameter 종류

그러면 LLM에 텍스트 생성을 제어할때 사용되는 Hyperparameter엔 무엇이 있을까요? 한번 알아보겠습니다.

 

Maximum_length

Maximum_length는 모델이 생성하는 텍스트의 최대 길이를 설정하는 하이퍼파라미터입니다.

텍스트 생성 시 형태소(단어 또는 토큰) 단위로 제한을 걸어, 생성된 텍스트가 너무 길어지거나 불필요한 내용이 추가되는 것을 방지합니다.

이 설정은 모델의 종류와 적용되는 상황에 따라 다르게 설정될 수 있습니다.

Frequency Penalty

Frequency Penalty는 동일한 단어가 반복해서 등장할 경우, 그 빈도에 따라 페널티를 부여하는 하이퍼파라미터입니다.

이 페널티는 단조로운 텍스트 생성을 방지하고, 좀 더 다양한 어휘를 사용하는 결과물을 생성하는 데 도움을 줍니다.

예를 들어, "cake"라는 단어가 여러 번 반복되지 않도록 모델은 그 단어의 출현 빈도를 줄이도록 패널티를 적용합니다.

Presence Penalty

Presence Penalty는 단어가 텍스트에 이미 존재하는 경우 그 단어에 페널티를 부과하는 하이퍼파라미터입니다.

이 페널티는 다양성을 강조하기 위한 설정으로, 이미 텍스트에 등장한 단어가 다시 사용되지 않도록 합니다.

이를 통해 모델은 새로운 단어를 선택하여 다양한 화제로 구성된 텍스트를 생성하게 됩니다.

Seed

Seed는 모델이 텍스트를 생성할 때 난수 생성의 일관성을 보장하는 데 사용되는 값입니다.

LLM은 기본적으로 확률 기반으로 단어를 선택하여 텍스트를 생성하기 때문에, 동일한 시드 값을 설정하면 동일한 확률 분포에 기반한 결과가 반복적으로 생성될 가능성이 큽니다.

 

그러나 시드를 설정해도 항상 같은 결과가 나오지는 않으며, 모델의 매개변수가 많을수록 결과는 달라질 수 있습니다.

이는 모델이 사용하는 난수 샘플링이 매우 복잡하기 때문입니다.

또한, LLM은 주로 클라우드 환경에서 실행되기 때문에, 클라우드 하드웨어에 따른 이슈도 있을 수 있습니다.

---

LLM 활용을 위한 기본적인 Tip

한번 이번에는 LLM 활용을 위한 기본적인 Tip에 대하여 설명해 보겠습니다.

 

페르소나 (Persona)

페르소나는 LLM에게 특정 역할을 부여하는 명령입니다. 이 명령을 통해 LLM은 자신이 어떤 역할로 텍스트를 생성해야 할지 명확히 인식하게 됩니다.

예를 들어, IT 기업에서 경력을 가진 시니어 개발자처럼 답변을 생성하라는 요청을 받으면, 그에 맞는 말투와 정보 수준을 기반으로 답변을 생성하게 됩니다. 이를 통해 대화의 맥락과 어조를 조절할 수 있습니다.

구분 기호

구분 기호는 LLM이 입력된 텍스트의 구체적인 맥락을 이해하도록 돕는 도구입니다.

예를 들어, 코드 블록과 질문을 구분하는 기호를 사용함으로써 LLM은 해당 텍스트가 코드인지, 질문인지 명확히 파악할 수 있습니다.

이는 명령어가 혼동되지 않도록 하여, 텍스트의 역할과 맥락을 명확하게 구분할 수 있도록 도와줍니다.

제약사항 및 형식 지정

제약사항 및 형식 지정은 LLM의 확률 계산에 미리 제약을 설정하는 것으로, 생성된 텍스트가 특정 조건을 만족하도록 만듭니다.

예를 들어, 한국어로 답변을 생성하라는 제약을 걸거나, 사족을 붙이지 않고 최대한 간결하게 답변을 요청하는 등의 요구 사항을 설정할 수 있습니다. 이를 통해 결과물이 일정한 형식을 유지하도록 할 수 있습니다.

구체적이고 명확한 지시

LLM에 구체적이고 명확한 지시를 내리면, 모델이 더 정확하고 일관성 있는 결과를 생성할 수 있습니다. 자연어는 동의어나 반의어가 많고, 문장의 해석이 다양한 방식으로 이루어질 수 있기 때문에, 최대한 명확하고 구체적으로 프로포트를 작성해야 합니다.

예를 들어, 특정 오류 해결에 대한 질문을 할 때, 문제의 원인과 상황을 명확하게 설명하고 해결 방법을 구체적으로 요청해야 합니다.

이처럼 명확한 지시가 없으면, LLM이 확률 계산을 할 때 오류가 발생하거나 의도와 다른 결과를 반환할 수 있습니다.