IT159 11. LSTM과 GRU 1. RNN ◼ import import torch import torch.nn as nn import torch.optim as optim import numpy as np from sklearn.preprocessing import LabelEncoder from sklearn.feature_extraction.text import CountVectorizer from torch.utils.data import DataLoader, Dataset from sklearn.datasets import fetch_20newsgroups from sk.. 2024. 7. 2. 10. CNN Text Classification 1. CNN Text Classification- 참고 사이트: https://wikidocs.net/book/2155 ◼ import import urllib.request import pandas as pd import numpy as np import matplotlib.pyplot as plt import torch import torch.nn as nn import torch.optim as optim import torch.nn.functional as F from copy import deepcopy from torch... 2024. 7. 2. 09. CBOW Text Classification 1. CBOW Text Classification 더보기"I like studying data analysis." 라는 문장이 주어져있다고 합시다.저희는 studying 이라는 단어의 정보를 주변의 단어의 정보로부터 얻고자 합니다.CBOW 방법은 "studying" 을 주변 단어인 "I", 'like", "data", "analysis" 로 부터 유추됩니다.우선 첫 번째 과정으로, "I", 'like", "data", "analysis" 단어들에게서 정보를 추출해야합니다.정보를 추출한다는 것은 각 단어들을 vector화 시키는 것입니다.각 단어들을 vector화 시키기 위해서 우선 가장 기본적인 방법으로 one-hot encoding을 사용합니다.그리고, look-up table 이라고 불리는 행렬에 .. 2024. 7. 1. 08. RNN 기초 1. 순환 신경망(Recurrent Neural Network) 시계열 또는 자연어와 같은 Sequence 데이터를 모델링하는데 강력한 신경망, 시계열 데이터나 시퀀스 데이터를 잘 처리예) 주식 가격, 텍스트 데이터, 오디오 데이터Sequence: 단어의 문장, 연결되어 있는 정보1. RNN 동작 방식은닉층의 노드에서 활성화 함수를 통해 나온 결과값을 다시 출력층 방향으로 보내면서 은닉층 노드의 다음 계산의 입력으로 보내는 특징셀(cell): 은닉층에서 활성화 함수를 통해 결과를 내보내는 역할을 하는 노드, 이전의 값을 기억하려고 하는 일종의 메모리 역할을 수행은닉 상태( hidden state): 셀이 출력층 방향 또는 다음 시점인 t+1의 자신에게 보내는 값 rnn = torch.nn.RNN(inp.. 2024. 6. 27. 이전 1 2 3 4 ··· 40 다음 LIST
