[calculus] 2차시 지수함수, 로그함수, 역삼각함수

[calculus] 1차시 집합과 함수

[wanted 채용 공고 분석] 7. 한글 키워드 분석

기술 스택 분석에 이어 한글 명사만 추출하여 데이터 분석가 채용 공고에 빈출한 키워드는 무엇인지 분석해 본다. 각각의 용어로서 고유명사로 쓰인 알파벳과 달리 한글은 명사를 직접 형태소 분석기를 통해 추출하고 결과를 탐색하여 불용어 사전까지 작성해야 한다. 분류(Classification)과 같은 머신러닝을 적용하지 않는 프로젝트이며 기술 스택이나 분석 방법과 같은 영어로 된 용어말고 어떤 키워드들이 빈출하는 지 알아보기 위한 과정이다. 따라서 형태소 분석기를 이용하며 명사만을 가져오는 것을 목적으로 한다. 0. 모듈 & 라이브러리 #### konlpy 설치 (jpype, java_home 환경변수 설정, 시스템파일 수정), wordcloud 설치 과정은 따로 기재하지 않았습니다. ##### import ..

[wanted 채용 공고 분석] 6. 기술 스택 분석(3) - 결과 분석

지금 까지 크롤링부터 데이터 전처리, 시각화에 이르기까지 많은 과정을 거쳐왔다. 이제 최종으로 시각화된 자료를 바탕으로 데이터를 분석하는 단계이다. 본 프로젝트는 목표는 채용 플랫폼 원티드에서 데이터 분석가 채용 공고들을 분석하여 '데이터 분석가'로 취업하려면 어떤 역량을 갖춰야 하는 지 알아보는 것이다. 드디어 정제된 데이터와 시각화 결과들로 필요 기술 스택과 업무들을 영어 키워드로 알아 볼 수 있게 되었다. 수집한 채용 공고는 총 58개이다. 두루뭉술하게 데이터 역량을 갖춘 사람이 아닌 회사별로 데이터 분석가 포지션을 특정하여 올린 공고들이다. 따라서 데이터 셋이 조금 작더라도 질적인 측면에서 보다 목적적합하다고 판단된다. 위의 barplot을 살펴보면 크게 기술 스택과 분석 방법으로 나뉘어 있음을 ..

[wanted 채용 공고 분석] 5. 기술 스택 분석(2) - 데이터 시각화

저번 포스팅까지 정규표현식과 nltk tokenizer를 이용하여 전처리를 완료했다. 또한 빈도 수 분석을 위해 Counter 함수로 빈도수를 체크하고 각 항목을 딕셔너리 형태로 저장하였다. 이제 전처리가 완료된 데이터를 시각화하여 분석을 진행한다. 현직 데이터 분석가에 따르면 실제로 시각화 과정이 다른 팀과의 협업, 혹은 프레젠테이션 과정에서 상당히 중요하다고 한다. 모두가 데이터와 분석 방법론에 대한 지식을 갖춘 것은 아니다. 다른 부서, 혹은 의사 결정자에게 공들인 프로젝트를 알기 쉽게 설명하기 위해서는 다양한 시각화 방법을 익혀야 하며 전략적으로 사용할 수 있어야 한다. 개인적인 toy project가 아니라 실제 비즈니스 의사결정에 데이터 기반 인사이트를 제공하기 위해서 분석 과정과 결과를 효과..

[wanted 채용 공고 분석] 4. 기술 스택 분석(1) - 데이터 전처리

지금까지 selenium을 이용하여 원티드에서 공고들을 크롤링하였고 주요업무, 자격요건, 우대사항 등으로 나누어 데이터 프레임으로 저장하였다. 우선, 프로젝트의 목적인 데이터 분석가 직무의 요구 스택들을 알아보기 위하여 수집된 데이터를 전처리하는 과정이 필요하다. 데이터 전처리는 수집된 데이터에서 어떤 요소를 활용하고 어떻게 적용할 지에 따라서 달라진다. 예를들어 머신러닝이나 딥러닝 등을 적용하는 경우에는 알고리즘에 맞게 데이터를 전처리 하며 텍스트 분석을 목적으로 하는 경우에 텍스트 안에서 세부적으로 어간추출이나 불용어 사전 작성 등의 과정이 있다. 이 프로젝트에서 첫번 째로는 기술 스택을 알아보는 목적이므로 이에 따라 어떤 데이터 전처리 이슈가 발생하고 해결방법은 어떠했는 지 정리해 본다. 0. 모듈..

Day 24

머신러닝 스칼라, 벡터, 행렬, 텐서의 개념 내적(Dot product)의 이해 경사하강법(Gradient decending) 다중회귀 : 보스턴 주택가격 예측 실습 사이킷런으로 시작하는 머신러닝 사이킷런(scikit-learn) 머신러닝의 개요 사이킷런을 이용한 붓꽃 데이터 분류 tain_test_spilt : 데이터 나누기 교차검증과 GridSearchCV K-mooc 미적분학 1강 : 위치벡타와 Dot-product Bloging wanted 채용 공고 분석 프로젝트 : 데이터 수집(1)(2)

머신러닝 개요

1. 머신 러닝(ML : Machine Learning) 개념 데이터에서 지식을 추출하여 예측하는 자기 학습 알고리즘과 관련된 인공지능의 하위분야로 머신러닝 출현 애플리케이션을 수정하지 않고도 데이터 기반으로 패턴을 학습하고 결과를 추론하는 알고리즘 기법 여러 특징(feature)를 가지는 복잡한 데이터를 기반으로 숨겨진 패턴을 인지하고 해결한다 알고리즘을 통해 예측 오류를 최소화하기 위한 수학적 기법 적용 데이터에서 효율적으로 지식을 추출하여 예측 모델과 데이터 기반 의사결정 능력을 점진적으로 향상시킴 2. 머신러닝의 세 가지 종류 현재 머신러닝은 지도학습(Supervised Learning), 비지도 학습(Un-supervised Learning), 강화학습(Reinforcement Learning)..

Day 23

머신러닝 입문 numpy 복습 pandas 복습 머신러닝 개요 - 전체적인 흐름과 개요 - 지도학습 : 회귀 입문

Day 22

프로젝트 준비 TIL(Today I Learned)로 개편할 지 고민중