이번달 부터 Cloud, Docker, k8s에 데하여 공부를 해보려고 합니다.. 첫 글이에요!Cloud Computing 개요클라우드는 인프라에 사용되는 서버, 저장소, DB, 네트워크, SW, Data 분석등 사용자가 언제든지 인터넷, 모바일등을 통해 IT서비스를 제공받을수 있는 컴퓨팅 기술입니다. Agile 방법론을 통해 민첩 서비스 도입 & 탄력적인 확장, 축소, 자동화된 서비스 유지관리를 통해 운영비용을 낮추고, 비즈니스 요구사항에 변화를 빠르게 적용할 수 있는 환경을 제공한다는 것이 특징입니다.What is Cloud Computing?미국의 정보기술 연구 & 자문회사 Gartner(가트너)는 클라우드 컴퓨팅 기술을 다음과 같이 정의 했습니다.인터넷 기술을 이용해서 다수의 사용자에게 하나의 서..
LLM에서 MOE 기법을 적용하여 Medical Domain에서 Task를 수행하는 Reference를 찾아보면서 논문을 읽은 내용을 정리해 보려고 합니다.논문 원문 사이트 When MOE Meets LLMs: Parameter Efficient Fine-tuning for Multi-task Medical ApplicationsThe recent surge in Large Language Models (LLMs) has garnered significant attention across numerous fields. Fine-tuning is often required to fit general LLMs for a specific domain, like the web-based healthcare sy..
Large Vision Language Model을 Medical 도메인에 연관된 내용을 공부해보다가 논문을 읽어서 한번 정리해보겠습니다.논문 원문 사이트 Prompting Medical Large Vision-Language Models to Diagnose Pathologies by Visual Question AnsweringLarge Vision-Language Models (LVLMs) have achieved significant success in recent years, and they have been extended to the medical domain. Although demonstrating satisfactory performance on medical Visual Questio..
이번엔, BART Model에 대하여 공부한 내용을 정리해 보겠습니다.What is BART?BART(Bidirectional and Auto-Regressive Transformers) 모델은 Facebook AI(현 Meta AI)에서 2019년에 소개한 sequence-to-sequence 모델입니다. BART는 BERT와 GPT의 장점을 결합한 모델입니다. BERT 모델의 Bidrectional(양방향)으로 언어 Sequence의 Token들을 Attention 매커니즘에 반영하여 문자를 Encoding 하는 내용, GPT의 Generative Decoder를 활용한, 이때까지의 입력을 바탕으로 새로운 출력을 만드는 Generative model 입니다.정리하면, 기본의 Sequence-to-Se..
LLM관련 스터디를 하고 있는데, BERT 모델에 데하여 공부를 해야할 타이밍이여서, 하는김에 내용도 정리해 보도록 하겠습니다.그리고 BERT Model에 데하여 이해를 하려면 Transformer라는 모델에 데하여 어느정도 이해가 필요합니다.아래 참고글 남길테니 한번 보고 이 글을 읽어주세요!! [NLP] Transformer Model - 트랜스포머 모델 알아보기이번 글에서는 Transformer 모델의 전반적인 Architecture 및 구성에 데하여 알아보겠습니다. Transformer: Attention is All You Need Transformer 모델은 2017년에 "Attention is All You Need"라는 논문을 통해서 소개되었습daehyun-bigbread.tistory.c..
이번에는 Quantization(양자화), LoRA & QLoRA에 데하여 한번 알아보겠습니다.Quantization(양자화)? Quantization(양자화)는 딥러닝 모델의 메모리 사용량과 계산 효율성을 향상시키기 위한 기술로, 고정 소수점(fixed-point) 숫자 표현을 사용하여 모델의 가중치와 활성화 값을 표현하는 방식입니다. 이는 훈련된 모델의 정확성을 최대한 유지하면서도 성능을 개선하는 것을 목표로 합니다.Quantization(양자화)의 필요성딥러닝에서 Quantization(양자화)가 필요한 이유에 데하여 한번 알아보겠습니다.메모리 절감: 모델 파라미터의 크기를 줄여 메모리 사용량을 절감합니다.연산 속도 향상: 고정 소수점 연산은 부동 소수점 연산보다 빠르기 때문에 추론 속도가 빨라집니..
이번에는 Model Distillation (모델 증류)에 관한 내용에 데하여 한번 설명해 보도록 하겠습니다.What is Model Distillation (모델 증류)? 모델 증류는 딥러닝에서 큰 모델의 지식을 작은 모델로 전달하여, 작은 모델이 큰 모델의 성능을 최대한 모방하도록 하는 기법입니다.이 방법은 큰 모델(교사 모델, Teacher Model)이 복잡한 패턴과 지식을 이미 학습한 상태에서, 그 지식을 작은 모델(학생 모델, Student Model)에 전달하여 더 효율적인 모델을 만드는 것을 목표로 합니다. Model Distillation (모델 증류)의 필요성그러면 Model Distillation (모델 증류)가 필요한 이유는 무엇일까요?자원 효율성: 대형 모델은 높은 성능을 보이지만..
이번에는 Fine-Tuning (파인튜닝)에 데하여 한번 알아보겠습니다. 파인튜닝(Finetuning)은 딥러닝과 LLM 모두에서 널리 사용되는 방법론으로, 이미 사전 학습된 모델을 특정 작업에 맞게 추가 학습시키는 과정을 의미합니다. 파인튜닝은 기본적으로 동일한 원리를 공유합니다. Fine-Tuning? Fine-Tuning(파인튜닝)은 사전 학습(Pre-training)된 모델을 특정한 작업에 맞게 추가로 학습하는 과정입니다.사전 학습 단계에서는 모델이 일반적인 패턴을 학습하고, 파인튜닝 단계에서는 이 모델을 특정한 목적에 맞춰 최적화합니다.이미 사전 학습을 통해 학습된 모델의 일반적인 지식을 활용하여, 새로운 작업이나 데이터셋에 빠르게 적응하는 것이 목표입니다.Pre-Training vs Fine..
이번 글에선 Retrieve Augmented Generation (RAG)에 데하여 한번 알아보겠습니다.Retrieve Augmented Generation (RAG) RAG(Retrieve-Augmented Generation)은 대규모 언어 모델(LLM)의 한계점을 극복하고 더 정확하고 풍부한 응답을 제공하기 위해 고안된 아키텍처입니다.RAG는 특정 질의에 대해 외부 지식 베이스에서 관련 정보를 검색한 후, 이 정보를 기반으로 텍스트를 생성하는 방식으로 작동합니다.특히 정보가 풍부한 응답을 생성하는 데 유리합니다.RAG ArchitectureRAG(Retrieve Augmented Generation)은 크게 세 가지 단계로 구성됩니다.Retrieve 단계, Augmented 단계, 그리고 Gene..
앞에 LLM 소개 글에서 Prompt Engineering에 관한 소개를 간단히 했습니다. 이번글에서 더 자세히 다뤄보겠습니다.Prompt EngineeringPrompt Engineering이란 생성형 인공지능(AI), 특히 LLM을 활용하여 원하는 결과를 얻을 수 있도록 효과적인 프롬프트를 설계하고 구성하는 과정 을 말합니다. 이는 AI의 능력을 최대한 활용하여 더 나은 결과를 얻는 방법을 연구하고 적용하는 기술 입니다.예를 들어, 특정한 질문을 했을 때, 답변의 정확성과 품질을 높이기 위해 프롬프트를 더 구체적이고 명확하게 만드는 것이 바로 Prompt Engineering입니다. 이를 통해 모델이 더 나은 성능을 발휘하고, 사용자는 원하는 결과를 정확하게 얻을 수 있습니다.효율적인 프롬프트 작성:..
