My Dev &amp; Research Repository

[DL] Deep Learning Model Optimization (딥러닝 모델 최적화)

2024.08.31

Deep Learning Model Optimization (딥러닝 모델 최적화) 기법에 데하여 설명해 보겠습니다. 딥러닝 모델의 성능을 극대화하기 위해서는 다양한 하이퍼파라미터를 최적화해야 합니다. 각 하이퍼파라미터는 모델의 학습 과정에 중요한 영향을 미치며, 적절한 설정이 필요합니다. 아래는 주요 하이퍼파라미터와 그 설정 방법에 대한 상세한 정리입니다. 딥러닝 모델 최적화를 위한 하이퍼파라미터 정리1. 학습률 (Learning Rate)정의: 학습률은 경사 하강법에서 가중치가 업데이트되는 크기를 결정하는 하이퍼파라미터입니다.영향:높은 학습률: 학습 속도가 빨라질 수 있지만, 손실 함수가 최솟값에 도달하지 못하고 발산할 위험이 있습니다.낮은 학습률: 학습 속도는 느려지지만, 손실 함수가 더 안정적으로 ..

📝 NLP (자연어처리)/📕 Natural Language Processing

[NLP] Generative Adversarial Networks (생성적 적대 신경망, GAN)

2024.08.30

생성적 적대 신경망 (GAN)?생성적 적대 신경망(GAN)은 두 개의 신경망인 생성자(Generator)와 판별자(Discriminator)가 경쟁적으로 학습하면서, 현실과 유사한 데이터를 생성하는 모델입니다. GAN은 특히 이미지 생성, 데이터 증강, 비디오 생성 등 다양한 응용 분야에서 매우 유용하게 사용됩니다.아래에서 GAN의 구성 요소, 학습 절차, 변형 모델, 응용 분야, 장점과 단점에 대해 자세히 설명하겠습니다. GAN의 구성 요소생성자(Generator):역할: 생성자는 임의의 노이즈 벡터를 받아들여 현실감 있는 데이터를 생성하는 역할을 합니다. 이 과정에서 생성자는 입력된 노이즈 벡터를 점차 고차원 데이터, 예를 들어 이미지를 생성하는 데 필요한 고차원 벡터로 변환합니다.목표: 생성자의 주..

📝 NLP (자연어처리)/📕 Natural Language Processing

[NLP] AutoEncoder (오토인코더)

2024.08.30

NLP를 오랜만에 공부해보다 AutoEncoder에 대한 내용이 없는거 같아 한번 설명해 보겠습니다.오토인코더(Autoencoder)란?AutoEncoder(오토인코더)는 인공신경망을 기반으로 한 비지도 학습 모델로, 주어진 데이터의 효율적인 표현을 학습하는 데 중점을 둡니다. 이는 데이터를 압축하고 차원을 축소하거나, 노이즈를 제거하고 이상 탐지와 같은 다양한 응용 분야에 사용됩니다. 오토인코더(Autoencoder)의 작동 원리오토인코더는 입력 데이터를 압축하여 잠재 공간(latent space)이라는 저차원 표현으로 변환한 다음, 이를 다시 원래의 데이터로 복원하는 과정을 통해 학습합니다. 이러한 과정은 주로 다음 두 가지 주요 구성 요소로 이루어집니다.인코더(Encoder): 입력 데이터를 저차원..

📇 Machine Learning

[ML] Hyperparameter Tuning (하이퍼 파라미터 튜닝)

2024.08.29

머신러닝 모델을 학습할때 중요한 요소중 하나인 Hyperparamter(하이퍼 파라미터)에 데하여 알아보겠습니다.Hyperparameter? (하이퍼 파라미터란?)하이퍼 파라미터는 머신러닝 모델을 학습하기 전에 설정해야 하는 값으로, 학습 과정 중에는 변경되지 않습니다.이는 모델의 성능과 학습 속도에 큰 영향을 미치는 중요한 요소입니다. Hyperparameter 예시결정 트리의 최대 깊이: 트리가 얼마나 깊게 성장할 수 있는지를 결정하며, 모델의 복잡성을 조절합니다.SVM의 커널 종류: Support Vector Machine에서 사용하는 커널의 종류를 설정하여, 데이터를 변환하는 방법을 정의합니다.신경망의 학습률: 신경망에서 가중치를 업데이트할 때 사용하는 학습률은 모델의 수렴 속도와 학습 품질에 영..

📇 Machine Learning

[ML] Reinforcement Learning (강화 학습) - Q-Learning

2024.08.27

강화 학습 (Reinforcement Learning) 이란?강화 학습은 에이전트가 환경과 상호작용하면서 보상을 최대화하는 행동 정책을 학습하는 방법입니다.에이전트는 주어진 환경에서 최적의 행동을 학습하여 장기적으로 누적 보상을 최대화하는 것을 목표로 합니다.강화 학습의 목적최적의 행동 정책 학습: 에이전트가 주어진 환경에서 최적의 행동을 선택하여 누적 보상을 최대화하는 정책을 학습하는 것이 목적입니다.Q-learning강화학습에서, Q-learning이라는 방법이 있습니다. 한번 자세히 알아보겠습니다. Q-learning은 상태-행동 가치 함수(Q-함수)를 학습하여 최적의 정책을 찾는 강화 학습 방법 중 하나입니다.이 방법은 주어진 상태에서 어떤 행동을 취해야 하는지를 결정하는 데 사용됩니다. Q-le..

📇 Machine Learning

[ML] Recommender System (추천시스템)

2024.08.26

이번에는 Recommend System (추천시스템)에 데하여 알아보겠습니다. 추천 시스템은 사용자와 아이템 간의 관계를 분석하여 사용자에게 적합한 아이템을 추천하는 시스템입니다.이러한 시스템은 다양한 데이터를 활용해 사용자에게 맞춤형 추천을 제공하며, 다양한 분야에서 널리 사용됩니다.추천 시스템의 목적 사용자 만족도 향상: 사용자가 선호할 만한 아이템을 추천하여 만족도를 높이고 사용자 경험을 개선합니다.판매 증대: 적절한 제품 추천을 통해 구매를 촉진하고, 매출을 증대시킵니다.사용자 참여 증대: 맞춤형 콘텐츠를 제공하여 사용자가 더 자주, 더 오래 서비스를 이용하도록 유도합니다.추천 시스템의 종류추천 시스템의 종류는 어떠한 종류들이 있을까요? 한번 알아보겠습니다. 3가지 종류가 있습니다. 자세히 한번 ..

📇 Machine Learning

[ML] Emsemble Methods (앙상블 기법)

2024.08.23

이번엔 Emsemble Methods (앙상블 기법)에 데하여 한번 알아보겠습니다. 앙상블 기법은 여러 개의 예측 모델을 결합하여 단일 모델보다 더 나은 성능을 얻는 방법입니다.이를 통해 예측의 정확도를 높이고, 모델의 안정성을 향상시키며, 과적합을 줄일 수 있습니다.Emsemble 기법의 목적앙상블 기법을 사용하는 목적은 과연 무엇일까요? 예측 성능 향상: 여러 모델을 결합하여 개별 모델보다 더 높은 예측 정확도를 달성합니다.과적합 감소: 다양한 모델의 결과를 결합함으로써 개별 모델이 학습 데이터에 과적합되는 것을 방지합니다.안정성 향상: 모델의 변동성을 줄이고 예측의 일관성을 높이는 데 도움을 줍니다.Emsemble 기법의 종류앙상블 기법은 3가지의 종류가 있습니다. 아래에서 자세히 한번 설명해 보..

📇 Machine Learning

[ML] 연관 규칙 학습 (Association Rule Learning)

2024.08.22

이번에는 연관 규칙 학습 (Association Rule Learning)에 데하여 한번 알아보겠습니다. 연관 규칙 학습은 데이터베이스에서 항목 간의 흥미로운 관계를 찾는 비지도 학습 방법입니다.이 방법은 특정 항목이 나타날 때 다른 항목이 함께 나타날 확률을 계산하여 유용한 패턴을 도출하는 데 사용됩니다.주로 Apriori 알고리즘과 FP-Growth 알고리즘이 널리 사용됩니다.연관 규칙 학습 (Association Rule Learning)의 특징연관 규칙 학습에 특징들에 데하여 알아보겠습니다. 빈발 항목 집합 기반: 연관 규칙 학습은 빈발 항목 집합을 기반으로 유의미한 연관 규칙을 도출합니다. 빈발 항목 집합은 일정 빈도 이상 나타나는 항목들의 집합을 의미합니다.계산 효율성: Apriori와 FP-..

📇 Machine Learning

[ML] t-SNE (t-Distributed Stochastic Neighbor Embedding)

2024.08.20

이번엔 t-SNE (t-Distributed Stochastic Neighbor Embedding)에 데하여 한번 알아보겠습니다. t-SNE는 고차원 데이터를 저차원 공간에 효과적으로 시각화하기 위해 개발된 비선형 차원 축소 기법입니다. 주로 고차원 데이터의 클러스터링 구조를 시각적으로 표현하는 데 사용되며, 데이터 포인트 간의 지역적 유사성을 보존하는 데 강력한 성능을 발휘합니다.t-SNE의 특징t-SNE의 특징은 어떠한 점들이 있을까요?비선형 차원 축소: t-SNE는 고차원 데이터의 비선형 구조를 저차원에서 보존하는 데 특화되어 있습니다. 이는 데이터가 선형적인 구조를 가지지 않는 경우에도 적합한 결과를 제공합니다.지역적 유사성 보존: t-SNE는 데이터 포인트 간의 지역적 유사성을 유지하는 데 중점..

📇 Machine Learning

[ML] Isomap (아이소맵)

2024.08.20

이번에는 Isomap이라는 머신러닝 기법에 데하여 알아보겠습니다. 아이소맵(Isomap)은 비선형 차원 축소 기법으로, 고차원 데이터의 기하학적 구조를 보존하면서 저차원으로 변환하는 방법입니다.이 알고리즘은 지오데식 거리(Geodesic Distance)를 사용하여 데이터 간의 거리를 측정하고, 이를 바탕으로 저차원 공간에서 데이터의 구조를 시각화합니다. Isomap의 특징 비선형 차원 축소: Isomap은 데이터의 비선형 구조를 보존하면서 차원을 축소할 수 있습니다. 이는 PCA와 같은 선형 차원 축소 기법으로는 어려운 데이터의 복잡한 구조를 잘 유지할 수 있습니다.지오데식 거리 기반: 데이터 포인트 간의 실제 거리(지오데식 거리)를 사용하여 데이터의 구조적 관계를 반영합니다. 지오데식 거리는 데이터의..

전체 글

[DL] Deep Learning Model Optimization (딥러닝 모델 최적화)

[NLP] Generative Adversarial Networks (생성적 적대 신경망, GAN)

[NLP] AutoEncoder (오토인코더)

[ML] Hyperparameter Tuning (하이퍼 파라미터 튜닝)

[ML] Reinforcement Learning (강화 학습) - Q-Learning

[ML] Recommender System (추천시스템)

[ML] Emsemble Methods (앙상블 기법)

[ML] 연관 규칙 학습 (Association Rule Learning)

[ML] t-SNE (t-Distributed Stochastic Neighbor Embedding)

[ML] Isomap (아이소맵)

티스토리툴바