불량 데이터는 정상 데이터보다 현저히 적은 수를 가질 수 밖에 없다. 이와 같이 데이터의 밸런스가 맞지 않는 경우, under-sampling을 수행하거나, weighted loss를 필요로 한다. 아래 내용은 불량 여부를 판단하는 이미지 모델에 weight binary cross entropy를 만든 것이다. 이 때 keras을 활용하였으며, 모델은 ResNet50을 구현되었다. 1. 모델 정의 from keras.applications.resnet import ResNet50 from keras.layers import Input, Dense from keras.models import Model model_input = Input(shape=train_X.shape[1:]) model = ResNe..

Dacrew를 시작한 김에 조금 더 공부해보고 싶어서, 2기를 계속하기로 했다. 수업을 다 들어서, 이제 학기 중엔 방학과 비슷하게 바쁠 것이라 생각했는데 이래저래 수업에 관여하다보니 더 정신이 없다. 그래서 생각보다 많은 시간을 투입하고 있지는 못하고 있지만, 그래도 다시 힘내서 끝까지 잘 마무리해봐야겠다. 많은 사람이 모이다 보니 생각과는 다른 점도 있지만 시너지도 아주 큰 것 같다. 짧은 시간 내 공부를 할 수 있어서 나름대로 만족 중 우선은 이번에 진행하는 내용을 잘 정리하려고 다양한 방식을 시도해볼 예정이다. 아무래도 데이콘 측에서도 요구사항들이 이전과는 달라, 어떻게 진행할지 고민이 많이 된다. 우선 글을 전체 커리큘럼 글을 매번 수정하자니 계속 글이 위로 올라와서, 조금 그렇다. 그리고 코드..

🌟 본 포스팅은 데이콘 서포터즈 “데이크루" 1기 활동의 일환입니다. 🌟 8주차 데이크루 활동은 제가 아는 딥러닝 모델 구조를 살펴보고, 파이토치에서 딥러닝 모델의 시각화 방법을 정리하였습니다. 이번 주 다룬 딥러닝 모델 구조는 ResNet의 skip과 autoencoder입니다. 요즈음 건강상 이유로 글을 적는데 시간을 견딜 체력이 안되서 슬프네요. 공부와 이런 정보 공유를 잘 하기 위해서는 더더욱 체력과 건강관리를 해야할 필요성을 느끼는 요즘입니다. 👉Residual Net(Short cut) 간단히 살펴보기 Skip(ResNet 핵심요소) 간단히 살펴보기 dacon.io 간단히 살펴보기 시리즈로 Skip 구조에 대해 정리해보았습니다. Skip구조는 제가 딥러닝을 공부하면서, 모델 구조의 중요성을 ..

🌟 본 포스팅은 데이콘 서포터즈 “데이크루" 1기 활동의 일환입니다. 🌟 이번주는 글이 많이 늦었습니다. 주말에 데스크탑을 사용할 수가 없어 노트북을 챙겼는데, 노트북과 휴대폰을 거의 동시에 바꿨더니 계정 접속이 안되서 더 늦어졌네요.. 7주차에는 제가 지금 공부하고 있는 것들에 대해 정리해보았습니다. 제가 연구하고 있는 RNN 기반 모델의 수식을 살펴보고, 트랜스포머의 기본 방법론인 어텐션, 차원축소를 위해 공부하고 있는 NMF까지 정리했습니다. 👉 딥러닝 수식으로 살펴보기[3편]: GRU 딥러닝 수식으로 살펴보기[3편]: GRU dacon.io RNN, LSTM에 이어, RNN을 기반으로 하는 유명 모델인 GRU를 수식으로 다뤄 보았습니다. GRU라는 모델이 있는 것은 알았지만, 항상 많이 사용해서 ..

🌟 본 포스팅은 데이콘 서포터즈 “데이크루" 1기 활동의 일환입니다. 🌟 이번주는 원했던 주제에 대해 자세하게 이해가 되지 않아 고민이 많았던 한 주였습니다. 그래서 결국, 그 주제에 대한 글은 차후로 미루고 다른 연구를 위해 다시 꼼꼼히 공부하고 있던 딥러닝 모델의 수식들을 우선적으로 정리를 해보려고 합니다. 이번주는 가트너의 기술트렌드 마지막편, RNN과 LSTM을 수식으로 살펴보는 글을 가지고 왔습니다. 가능한 말로 풀어써서 정리를 하고 싶었는데 잘 이해가 되는지 모르겠습니다. 여유가 있을 때 꼭 수식을 그림으로 표현하여 글을 수정하고 싶네요.. ;) 👉 가트너의 2022년 기술트렌드(Cloud-Native Platforms, AI Engineering, Generative AI) 가트너의 2022..

🌟 본 포스팅은 데이콘 서포터즈 “데이크루" 1기 활동의 일환입니다. 🌟 이번주 글은 건강상의 문제로 조금 늦어졌습니다. 잘 정리를 해보려고 준비하고 있었는데, 제 때 작성하지 못하게 되어 아쉽네요. 이번주에 다루는 주제는 1. 항공사 고객 만족도 예측 경진대회 참여 2. 논문리뷰 3. 가트너의 기술트렌드입니다. 👉 범주형 데이터를 활용한 'class' 별 성능 비교 실험 (항공사 고객 만족도 예측 경진대회) 범주형 데이터를 활용한 `class` 별 성능 비교 실험(public: 0.931) 항공사 고객 만족도 예측 경진대회 dacon.io 이번에 항공사 고객의 만족 여부를 예측하는 대회에 참가해보았습니다. 이번엔 정말 잘 좀 해보려고 했는데, 몸이 안받쳐주네요. :( 어찌되었든 데이터를 간단히 살펴보고..