반응형 분류 전체보기82 Negative sampling 이란? Word2Vec 모델에서 negative sampling 이란? 단어뭉치(corpus)의 개수가 1000 개 이고 hidden layer크기가 3000이라 하면, W와 , W`의 크기는 1000x3000 이다. Input vector는 one-hot 벡터로 1숫자만 1이고 나머진 모두 0이다. (중심단어, 주변단어)의 pair로 학습이 이뤄지게 되는데, W의 크기가 1000x3000이나 되지만. input vector가 one hot vector이기 때문에 W중 1줄의 parameter만 선택된다. 하지만 backpropagation과정중에 1000x3000(W`)의 parameter가 softmax함수를 취해야 되고, 계산량이 엄청나게 많아진다. 따라서 계산의 효율성을 위해서 negative sampl.. 2020. 12. 9. l1 l2 tv loss 정리 junklee.tistory.com/29 2020. 12. 7. Granger causality Granger는 이 논문를 비롯한 다른 시계열 데이터 모델링에 대한 공헌을 바탕으로 2003년에 노벨 경제학상을 수상했다. 데이터 분석을 할 때, 어떤게 종속변수 어떤게 독립변수인지 알기 어렵다는 점입니다. 인과관계를 구할 수 있는 통계적인 방법이 있어, 소개합니다. 바로 Granger Causality가 그것입니다. Granger는 경제통계를 자신의 과거만으로 설명할 때와 다른 변수의 과거와 같이 설명할 때를 비교하고 두 변수의 인과관계를 분석하는 방법을 제시했습니다. 실증분석에서 두 변수 X와 Y의 인과관계를 분석하려면, X와 Y를 각각 상수항과 시차(p)항을 두고 인과관계의 존재여부를 판단합니다. 2020. 12. 7. 코사인 유사도 (Cosine Similarity) 문서를 유사도를 기준으로 분류 혹은 그룹핑을 할 때 유용하게 사용할 수 있는 코사인 거리(Cosine Distance) 입니다. 코사인 유사도(Cosine Similarity)는 특징 벡터 X, Y 에 대해서 벡터의 곱(X*Y)을 두 벡터의 L2 norm (즉, 유클리드 거리) 의 곱으로 나눈 값입니다. 벡터의 곱(X*Y) ------------------- 벡터의 L2 norm (즉, 유클리드 거리) Cosine Similarity (d1, d2) = Dot product(d1, d2) / ||d1|| * ||d2|| Dot product (d1,d2) = d1[0] * d2[0] + d1[1] * d2[1] * … * d1[n] * d2[n] ||d1|| = square root(d1[0]2 + d1.. 2020. 12. 1. [논문 코드 구현]global local image completion 2020/11/03 - [딥러닝/논문리뷰] - [Image impainting]Globally and Locally Consistent Image Completion import sys, os os.environ["CUDA_DEVICE_ORDER"]="PCI_BUS_ID" os.environ["CUDA_VISIBLE_DEVICES"]='0' import tensorflow as tf import numpy as np import glob import pathlib import matplotlib.pyplot as plt import PIL config = tf.compat.v1.ConfigProto() config.gpu_options.allow_growth = True session = tf.compa.. 2020. 11. 23. [웹크롤링] 랜덤 uger-agent, 랜덤 Proxy IP 우회 class from http_request_randomizer.requests.proxy.requestProxy import RequestProxy from fake_headers import Headers import requests class RANDOM_PROXY: def __init__(self): self.proxy = self.proxy_crate() self.crawling() def proxy_create(self): """ 무작위로 프록시를 생성해서 가져오는 코드 """ self.req_proxy = RequestProxy() proxy = self.test_proxy() # 잘 작동되는 프록시 선별 return proxy def test_proxy(self): """ 가져온 프록시중에서 실제로 작.. 2020. 11. 12. 이전 1 ··· 6 7 8 9 10 11 12 ··· 14 다음 반응형
