본문 바로가기

전체 글418

의사결정나무 의사결정나무(decision tree) 데이터 분류 및 회귀에 사용되는 지도학습 알고리즘 장점 다른 알고리즘에 비해 결과값을 이해하기 쉬움 정확도가 높음 단점 과대적합되기 쉬움 데이터의 특징을 바탕으로 데이터를 연속으로 분리하다 보면 결국 하나의 정답으로 분류 핵심: 의미있는 질문을 하는 것이 중요 → 데이터의 특징 속에서 분류에 큰 영향을 끼치는 특징을 상위 노드로 선택 영향력 크기 비교 방법 - 엔트로피 - 지니계수 의사결정 트리 알고리즘과 정보 엔트로피의 관계 정보를 획득한다=정답에 대한 불확실성이 줄어든다 엔트로피(entropy) : 정보 이론(information theory)에서불확실성을 수치적으로 표현한 값 정보 이득(information gain)=질문전의 엔트로피-질문 후의 엔트로피=불확.. 2022. 7. 25.
ImageNet Classification with Deep Convolutional Neural Networks 리뷰 목차0. Abstract1. Introduction2. The Dataset3. The Architecture3.1 ReLU Nonlinearlity3.2 Training on Multiple GPUs3.3 Local Response Normalization3.4 Overlapping Pooling3.5 Overall Architecture4. Reducing Overfitting4.1 Data Augmentation4.2 Dropout5. Details of learning6. Results6.1 Qualitative Evaluations7. Discussion0. Abstract ImageNet ILSVRC-2010 120만개의 고해상도 이미지를 1000개의 다른 클래스로 분류크고 깊은 합성곱 신경망.. 2022. 7. 22.
선형 회귀 선형 회귀(linear regression) 관찰된 데이터를 기반으로 하나의 함수를 구해서 관찰되지 않은 데이터의 값을 예측 회귀 계수를 선형적으로 결합할 수 있는 모델 회귀계수 1차 함수의 기본 형식을 y=ax1+bx2라고 할 때 a, b를 회귀계수라고 함 선형 결합(linear combination) 선형 대수의 벡터의 합에서 나온 개념 서로 다른 벡터를 더해 새로운 벡터를 얻는 과정 단순히 더하는 것만이 아니라 가중치를 곱한 후 더하는 것도 포함 더 나은 회귀 함수 선택하기(평균 제곱 오차) 데이터포인트에서 함수의 선까지의 거리를 더하는 방법 Square error=(실제값과예측값까지의 거리)2 -> 평균 제곱 오차(MSE, mean squared error): f(θ)=1/n ∑(yi-θxi)2 .. 2022. 7. 18.
SVM SVM(Support Vector Machine) 사용하기 편리하면서 높은 정확도를 보이는 지도학습 알고리즘 결정경계선(decision boundary)를 지정 결정경계: 서로 다른 분류값을 결정하는 경계 N: 데이터의 벡터 공간 결정 경계=N-1차원 그래서 때로는 결정 경계를 초평면(hyperplane)이라고 하기도 함 결정경계선이 데이터포인트에 가까이 위치할수록 조금의 속성 차이에도 분류값이 달라질 수 있어 예측의 정확도가 불안정해짐 Support vector: 결정 경계선을 찾는데 사용되는 개념 Vector: 2차원 공간 상에 나타난 데이터 포인트 Support vector: 결정 경계선과 가장 가까이 맞닿은 데이터 포인트 마진(margin): 서포트 벡터와 결정 경계 사이의 거리 SVM의 목표는 .. 2022. 7. 15.
지도학습 vs 비지도학습 지도학습(Supervised Learning) 정답 레이블(y)을 알려주고 학습이 진행되는 경우 ex) 분류, 회귀 등 장점: 모델의 성능을 평가하기 쉬움 단점: 데이터마다 레이블을 달아야해서 시간이 오래 걸림 비지도학습(Unsupervised Learning) 정답 레이블(y)이 없이 학습이 진행되는 경우 ex) 군집화, 차원축소 장점: 따로 레이블을 제공할 필요가 없음 단점: 모델 성능 평가에 어려움이 있음 2022. 7. 11.
Fast Human Pose Estimation 리뷰 목차 0. Abstract 1. Introduction 2. Related Work 3. Fast human Pose Estimation 3.1 Compact Pose Network Architecture 3.2 Supervision Enhancement by Pose Distillation 3.3 Model Training and Deployment 4. Experiment 4.1 Experimental Setup 4.2 Comparisons to State-Of-The-Art Methods 4.3 Ablation Study 5. Conclusion 0. Abstract 기존 인간 포즈 추정 접근 방식 모델 일반화 성능을 개선하는 방법만 고려 심각한 효율성 문제는 고려하지 않음 문제: 실제 사용에서 확.. 2022. 7. 8.
728x90