dohyeon's log

1. 특정 해상도(416x416)로 inference할거면 특정 해상도로 학습하는게 mAP 측면에서 더 유리하다예를들어, 416x416으로 추론을 진행할 경우, 학습 시 입력 해상도도 416x416으로 맞춰주는게 mAP 측면에서 더 유리합니다.2. 과도한 Data Augmentation은 mAP 측면에서 악영향을 끼칠 수 있다. 3. 모델의 정확도가 예상보다 너무 낮게 나온 경우 전처리 문제를 의심해봐야한다.RGB vs BGR 순서 혼동픽셀 정규화 방식 혼동4. 학습 시 픽셀값 정규화는 Pre-trained Model 학습에 쓰인 데이터셋(ImageNet, COCO 등)의 픽셀 기준으로 정규화해야 한다. (Transfer Learning 하는 데이터셋 기준으로 정규화하면 안된다.)5. 모델 학습용 데이터..

안녕하세요 윤도현입니다. 이번 글에서는 Andrew Ng 교수님의 "Improving Deep Neural Networks: Hyperparameter Tuning, Regularization and Optimization" 강의 week3 개념을 정리해보겠습니다. Chapter 1. Hyper parameter tuning process우리가 모델을 학습할 때 주로 만지는 파라미터를 중요도 순서대로 나열해보면 다음과 같습니다.Learning Rate α모멘텀 βAdam β1, β2, εhidden unitmini-batch sizenum layerslearning rate decay이렇게 많은 파라미터를 수정해가면서 모델 성능이 가장 뛰어난 파라미터 조합을 찾는게 일반적인 접근방식 입니다.그렇다면 ..

안녕하세요 윤도현입니다. 이번 글에서는 Andrew Ng 교수님의 "Improving Deep Neural Networks: Hyperparameter Tuning, Regularization and Optimization" 강의 week2 개념을 정리해보겠습니다. Chapter 1. Mini-batch gradient descentmini-batch gradient descent는 경사하강법의 한 형태로, 전체 데이터셋으로 경사하강을 취하는 방법(batch GD)과 단일 데이터로 경사하강을 취하는 방법(SGD) 그 중간점에 있는 방법론입니다.전체 데이터셋을 작은 배치(32,64,128...)로 나눠서 각 배치마다 gradient를 계산해 업데이트하는 방법론입니다.Batch GD를 실행하기 위해서는 GP..

안녕하세요 윤도현입니다. 이번 글에서는 Andrew Ng 교수님의 "Improving Deep Neural Networks: Hyperparameter Tuning, Regularization and Optimization" 강의 week1 개념을 정리해보겠습니다. Chapter 1. Train/Val/Test setsTrain/Val/Test sets의 비율은 100~10,000개의 데이터 규모에서는 60:20:20을 권장합니다.그러나 1,000,000개와 같이 엄청 큰 규모에서는 Val/Test를 10,000개로 맞추고 나머지를 모두 Train Set으로 구성하는게 좋습니다. 이에 따라 Train/Val/Test 비율은 98:1:1 과 같이 구성될 수 있습니다.Chapter 2. Bias / Vari..

안녕하세요 윤도현입니다. 이번 글에서는 2025년 회고글에서 언급하였던 딥러닝-하이퍼파라미터 튜닝 지식의 빈 구멍을 매꾸기 위해 Coursera에 있는 Andrew Ng 교수님의 "Improving Deep Neural Networks: Hyperparameter Tuning, Regularization and Optimization" 강의를 수강하고 개념을 정리해보았습니다. 총 3개의 글로 나눠서 작성하였습니다.week1 - Practical Aspects of Deep Learningweek2 - Optimization Algorithmsweek3 - HyperParameter Tuning, Batch Normalization and Programming Framework

올해는 제게 세번째로 큰 이벤트가 있던 해였습니다. 첫번째는 수능이었고, 두번째는 대학원 진학이었으며 세번째는 취업이었습니다. 취업이 제 인생에서 세번째로 큰 이벤트가 된 이유는 단순히 '일자리를 구했다'는 것이 아니라, 6년이라는 긴 학생의 신분을 벗고 처음으로 사회라는 정글에 발을 내딛은 해이기 때문입니다. "수능"이 어떤 학문을 공부할지 정하는 갈림길이었고, "대학원 진학"이 연구자의 길로 들어서는 관문이었다면, "취업"은 그동안 배운 것을 실제 세상의 문제에 적용하는 첫 발걸음이었습니다. [인생에서 세번째로 큰 이벤트 "취업"]결론부터 말하자면 정말 좋은 팀원분들+회사를 만나 AI Researcher로서 첫 커리어를 시작하게 되었습니다. 옛날부터 "첫회사가 너의 커리어를 좌우한다"라는 말 때문에 ..

안녕하세요 윤도현입니다. 이번 글에서는 빛의 물리적 특성에 대해 알아보겠습니다. 관련글[0] [머신비전 시스템] 조명 0 - 머신비전을 위한 조명[1] [머신비전 시스템] 조명 1 - 빛의 물리적 특성[2] [머신비전 시스템] 조명 2 - 조명의 유형[3] [머신비전 시스템] 조명 3 - 다양한 조명 기술[4] [머신비전 시스템] 조명 4 - 이미지에 영향을 미치는 피사체의 특성[5] [머신비전 시스템] 조명 5 - 상황에 맞는 조명 선택방법 머신비전에서는 특정 색상의 단색광뿐만 아니라 자외선이나 적외선도 사용합니다. 이러한 빛은 사람의 눈에는 보이지 않지만 산업용 카메라로 쉽게 포착할 수 있습니다. 1. 빛의 성질빛은 파동과 입자의 성질을 동시에 가집니다. 파동성이란 어떤 물질이나 신호 등이 물결처럼 ..

안녕하세요 윤도현입니다. 이번 글에서는 머신비전 시스템의 중요한 요소중 하나인 조명에 대해 알아보겠습니다. 앞으로 저는 최종적으로 "우리 상황에 맞는 올바른 조명을 선택"하기 위한 배경지식을 정리할 예정입니다.목차는 다음과 같습니다. [1] 빛의 물리적 특성[2] 조명의 유형[3] 다양한 조명 기술[4] 이미지에 영향을 미치는 피사체의 특성[5] 상황에 맞는 조명 선택방법 화이팅~!

"한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다." 이번달 한빛미디어 서평 도서에 평소 읽어보고 싶던 『윌 라슨의 엔지니어링 리더십』이 있어 읽어보게 되었습니다. 리뷰에 앞서 이 책을 한마디로 정리하면 다음과 같습니다. 앞으로의 커리어를 고민하는 주니어 개발자, 테크 리드로써의 직무 전환을 앞둔 시니어 개발자 모두에게 추천하고 싶은 책 최근 저는 AI 리서치 엔지니어로 커리어를 시작하면서 5년 뒤에는 내가 어떤 개발자가 되야할까 자주 고민하게 되었습니다. 그 고민의 끝은 테크 리드로 성장해서 하나의 연구조직을 이끌고 싶다는 것이었습니다. 주변에 있는 CTO님, 다른 회사에서 테크 리드로 일하는 선배들을 보면서 처음에는 "어느정도 기술 역량이 뛰어나면 리드가 될 수 있지 않을까?" ..

보호되어 있는 글입니다.