데린이를 위한 데이터레시피

손실함수(Loss Function)의 최소값을 찾는 옵티마이저(Optimizer)의 한 유형 손실함수의 최소값을 찾기 위해 경사가 하강하는 방향으로 조금씩 이동해가면서 검토를 반복하는 기법 (신경망의 연결 가중치 최적화) 기법 설명 특징 확률적 경사 하강법 (SGD, Stochastic Gradient Descending) 매개변수의 기울기를 구해, 기울어진 방향으로 매개변수 값을 갱신하는 일을 반복하여 최적의 매개변수 값을 추출하는 기법 -무작위로 골라낸 데이터에 대한 경사 하강 기법 -(단점)급격한 변곡점이 있는 경우 SGD 한계 모멘텀 (Momentum) 기존에 사용한 기울기의 일정 비율(%)을 현재의 기울기에 반영하는 속도(Velocity)의 개념을 적용하여 진동과 폭을 줄인 경사 하강 기법 -관..

신경망학습은 활성화함수를 이용하여 다층으로 학습을 이어가 계속 학습할 수 있도록하며, 가중치의 매개변수의 최적값을 자동으로 획득함. 이때, 가중치의 매개변수를 최적화하여 손실함수의 결과값을 가장 작게 하는 것이 학습의 목표임 Epoch(딥러닝을 수행하면서 학습데이터가 모두 소진되는 하나의 단위) 10,000개를 100개의 batch_size로 학습할 때, 100회가 1epoch [가중치 초깃값 설정 기법] 유형 설명 활성화 함수 Xaiver(사이베르) 초기값 앞 계층의 노드가 n개 일 때, 표준편차가 1/√n인 정규분포를 이용 선형함수 He 초깃값 앞 계층의 노드가 n개 일 때 표준편차가 √("2/" n) 인 정규분포를 이용 ReLU 비용함수(Cost Function), 손실함수 - 신경망 성능의 “나쁨..

-시냅스의 전기 신호 전달을 모방하여, 세타에 따라 출력값을 조정 및 다음 노드로 전달 하는 함수 -입력 신호의 총합 을 그대로 사용하지 않고, 입력 신호의 총합이 활성화를 일으키는지 아닌지를 정하는 역할로, 입력 신호를 규칙에 따라 출력 신호로 변환하는 함수 유형 도식 설명 항등함수 (identity function) -양극성이며 선형 연속 함수임 -입력의 가중합이 그대로 출력됨 경사함수 (ramp function) -단극성이며, 선형 연속 함수임 계단함수 (step function) -단극성 또는 양극성이진 함수이며, 디지털 형태의 출력이 요구되는 경우에 주로 사용됨 시그모이드 함수 (sigmoid function) -단극성 또는 양극성 비선형 연속 함수이며, 신경망 모델의 활성화 함수로써 가장 널리..

아실로마 AI 원칙 23가지 (ASILOMA AI Principles) 인공지능 연구의 목적은 인간에게 유용하고 혜택을 주어야 하며, 인간의 존엄성/권리/자유/이상 등과 양립할 수 있어야 하며, 장기적으로 위험에 대응하고 공동의 이익을 위해 활용되어야 한다는 원칙 2017년 1월에 미국 캘리포니아 아실로마에서 열린 AI컨퍼런스에서 발표된 인공지능 개발 원칙 연구 이슈 (5) + 윤리 가치 (13) + 장기 이슈 (5) 1 연구이슈 원칙 설명 연구 목표 -인공지능 연구의 목표는 방향성이 없는 지능을 개발하는 것이 아니라 인간에게 유용하고 이로운 혜택을 주는 지능을 개발해야 한다. 연구비 지원 -인공지능에 대한 투자에는 컴퓨터 과학, 경제, 법, 윤리 및 사회 연구 등의 어려운 질문을 포함해 유익한 이용을 ..

안녕하세요. 데이터 요리사, 루나 입니다. 인공지능이 어떤 아나운서처럼 똑같이 말을 하기도 하고, 유명화가처럼 그림을 그리기도 하고, 심지어 만화도 노래가사도 창작해냈다는 이야기는 많이 들어보셨을 거에요. 이번시간에는 새로운 컨텐츠를 만들어내는데 사용하는 'GAN(Generative Adversarial Networks)'에 대해서 살펴보겠습니다. 1 GAN이란? 이미지/영상을 생성하는 생성자(Generator)와 이미지의 진짜/가짜를 판별하는 판별자(Discriminator)가 상호 경쟁하며 정확성을 높이는 머신러닝 알고리즘 2 DCGAN(Deep Convolutional GAN) GAN알고리즘을 구성하는 Generator와 Discriminator 의 Fully connected layer를 CNN(..

구분 로지스틱회귀 SVM KNN 결정트리 앙상블 정의 독립 변수의 선형 결합을 이용하여 개별 관측치가 어느 집단에 속하는지 확률을 계산하여 분류 데이터들을 가능한 멀리 두 개의 집단으로 분리시키는 최적의 초평면 기반 분류 새로 입력된 데이터를 거리기반으로 클래스를 설정하여 분류 의사결정규칙을 도표화하여 관심대상이 되는 그룹을 몇 개의 소그룹으로 분류 여러 개의 분류기를 결합하여 성능 개선 개 념 도 주요 개념 - 선형분리 -마진최대화 -커널(데이터 차원수 늘림. 선형커널, RBF커널) -초평면, 서포트벡터, 마진 -하이퍼파라미터(k)값을 어떻게 설정하느냐가 성능을 좌우 -유클리드거리 - 해석이 쉬움 - 배치학습만 가능 - 학습과정 병렬화 가능 - 랜덤포레스트 - 배깅, 부스팅

다중 사용자 환경을 지원하는 데이터베이스 시스템 환경에서 여러 트랜잭션들이 동시에 수행되더라도 데이터의 무결성과 일관성을 보장하며 처리 가능하도록 병행 제어를 수행해야 한다. 다음 각 항목에 대하여 설명하시오. 1. 병행 제어의 필요성 다중 사용자 환경을 지원하는 데이터베이스에서 ACID를 보장하기 위해, 여러 트랜잭션들이 동시에 실행될 수 있도록 하는 병행 제어가 필요 - 병행 제어(동시성 제어)가 어려운 이유는 동시성(Concurrency) 과 일관성(Consistency)은 Trade-off 관계이기 때문 - 동시성을 높이려고 Lock 사용을 최소화 하면 일관성 유지가 어렵고, 일관성을 높이려고 Lock 을 적극적으로 사용하면 동시성이 저하됨 2. 병행 제어를 하지 않는 경우 발생하는 문제점 구분 ..

안녕하세요. 데이터 요리사, 루나 입니다. 분절형 데이터의 차이를 쉽게 파악하는데 도움을 주는 '막대 그래프(Bar plot)'에 대해서 살펴보겠습니다. 1 개념 잡기 수치를 길이로 표현해 절대값을 갖는 막대를 배치 분절형 시간 시각화: 시간에 따른 트렌드와 경향성을 확인 점 : 하나의 점은 X-Y축 좌표의 위치로 표시 가로 축: 시간 순서대로 정렬된 시간의 특정 시점, 범주 세로 축: 그래프의 크기, 범위 2 막대 그래프에 꽂힌 건 무엇인가요? 막대그래프는 일상생활에서 자주 접할 수 있는 그래프라 친근한 느낌이 드는데요, 그렇다고 쉽게 그릴 수 있는 것은 아닙니다. 아래 예제는 어떤 항공사(NK)의 월별 항공편 지연 사례를 막대 그래프로 시각화한 사례입니다. 막대그래프를 그리기위해서 가장 좋은 데이터의..