딥러닝 18

신경망 학습 매커니즘

신경망학습은 활성화함수를 이용하여 다층으로 학습을 이어가 계속 학습할 수 있도록하며, 가중치의 매개변수의 최적값을 자동으로 획득함. 이때, 가중치의 매개변수를 최적화하여 손실함수의 결과값을 가장 작게 하는 것이 학습의 목표임 Epoch(딥러닝을 수행하면서 학습데이터가 모두 소진되는 하나의 단위) 10,000개를 100개의 batch_size로 학습할 때, 100회가 1epoch [가중치 초깃값 설정 기법] 유형 설명 활성화 함수 Xaiver(사이베르) 초기값 앞 계층의 노드가 n개 일 때, 표준편차가 1/√n인 정규분포를 이용 선형함수 He 초깃값 앞 계층의 노드가 n개 일 때 표준편차가 √("2/" n) 인 정규분포를 이용 ReLU 비용함수(Cost Function), 손실함수 - 신경망 성능의 “나쁨..

딥러닝 2021.11.30

활성화 함수(Activation Function)-(1/3)

-시냅스의 전기 신호 전달을 모방하여, 세타에 따라 출력값을 조정 및 다음 노드로 전달 하는 함수 -입력 신호의 총합 을 그대로 사용하지 않고, 입력 신호의 총합이 활성화를 일으키는지 아닌지를 정하는 역할로, 입력 신호를 규칙에 따라 출력 신호로 변환하는 함수 유형 도식 설명 항등함수 (identity function) -양극성이며 선형 연속 함수임 -입력의 가중합이 그대로 출력됨 경사함수 (ramp function) -단극성이며, 선형 연속 함수임 계단함수 (step function) -단극성 또는 양극성이진 함수이며, 디지털 형태의 출력이 요구되는 경우에 주로 사용됨 시그모이드 함수 (sigmoid function) -단극성 또는 양극성 비선형 연속 함수이며, 신경망 모델의 활성화 함수로써 가장 널리..

딥러닝 2021.11.30

인공지능의 연구 목적은 무엇인가? 아실로마 AI 원칙 (ASILOMA AI Principles)

아실로마 AI 원칙 23가지 (ASILOMA AI Principles) 인공지능 연구의 목적은 인간에게 유용하고 혜택을 주어야 하며, 인간의 존엄성/권리/자유/이상 등과 양립할 수 있어야 하며, 장기적으로 위험에 대응하고 공동의 이익을 위해 활용되어야 한다는 원칙 2017년 1월에 미국 캘리포니아 아실로마에서 열린 AI컨퍼런스에서 발표된 인공지능 개발 원칙 연구 이슈 (5) + 윤리 가치 (13) + 장기 이슈 (5) 1 연구이슈 원칙 설명 연구 목표 -인공지능 연구의 목표는 방향성이 없는 지능을 개발하는 것이 아니라 인간에게 유용하고 이로운 혜택을 주는 지능을 개발해야 한다. 연구비 지원 -인공지능에 대한 투자에는 컴퓨터 과학, 경제, 법, 윤리 및 사회 연구 등의 어려운 질문을 포함해 유익한 이용을 ..

딥러닝 2021.11.30

이미지? 음성? 소설책? 무엇이든지 만들어내는 인공신경망, GAN(Generative Adversarial Networks)

안녕하세요. 데이터 요리사, 루나 입니다. 인공지능이 어떤 아나운서처럼 똑같이 말을 하기도 하고, 유명화가처럼 그림을 그리기도 하고, 심지어 만화도 노래가사도 창작해냈다는 이야기는 많이 들어보셨을 거에요. 이번시간에는 새로운 컨텐츠를 만들어내는데 사용하는 'GAN(Generative Adversarial Networks)'에 대해서 살펴보겠습니다. 1 GAN이란? 이미지/영상을 생성하는 생성자(Generator)와 이미지의 진짜/가짜를 판별하는 판별자(Discriminator)가 상호 경쟁하며 정확성을 높이는 머신러닝 알고리즘 2 DCGAN(Deep Convolutional GAN) GAN알고리즘을 구성하는 Generator와 Discriminator 의 Fully connected layer를 CNN(..

딥러닝 2021.11.30

인공지능 개념 정리

인공지능 vs 머신러닝 vs 딥러닝 인공지능(Artificial Intelligence) 인간의 인지, 추론, 학습의 사고과정에 필요한 능력을 컴퓨터 시스템을 통해 구현함으로써 문제를 해결할 수 있는 기술 머신러닝(Machine Learning) 컴퓨터가 수많은 데이터를 스스로 학습하고 알고리즘을 통해 학습의 결과를 도출하는 인공지능의 한 분야의 학습법 딥러닝(Deep Learning) 고도화된 신경망 알고리즘을 적용하여 보다 빠르고 인간과 유사하게 행동하는 컴퓨터 프로그램을 구현한 학습방법 인공지능이 가장 큰 개념으로 머신러닝과 딥러닝을 포함하는 개념이지만, 실제로 요새 '인공지능한다'하면 '딥러닝한다'와 거의 동일한 개념으로 사용될 정도로, 인공지능 연구에서 딥러닝이 차지하는 비중이 커짐 딥러닝이 아..

딥러닝 2020.11.23

자연어 처리 과정 정리하기

ㅈPseudo coding: (국문)영화 데이터 리뷰 -> 감정 분석(긍정, 부정, 중립) 1.크롤링 2.전처리 : 문자만 가져오기, Null, 라벨링 / 데이터 분리(테스트, 트레이닝) 3.토큰화(Konlpy) : 1.사전만들기 1.딕셔너리 형태, k-v, 단어-형태소, 인덱스-단어) 2.불용어제거 1.불용어 리스트 : 1.명사: 직접 만들기 2.형태소분석을 통해서 어미, 조사, .!” 그런거 제거 2.For문을 돌면서 불용어에 포함되지 않으면 새로운 사전에 넣는다 4.벡터화 1.카운트 : CountVecector(BoW), TfIDF 2.예측 : Word2Vec, FastText 3.카운트 + 예측 : Glove 4.(정답값) : One-hot 5.모델링 1.분류 모델 : RandomForestCla..

LIST