파이토치(PyTorch) 이해하기 - 자동 미분(Autograd)
2022. 12. 2. 21:44
인공지능/머신러닝-딥러닝
텐서플로우에서 파이토치로 환승(!)하기 위해 기본적인 내용부터 공부를 하고 있다. 아래의 이전 글들을 참고할 수 있다. 텐서플로우(TensorFlow)에서 파이토치(PyTorch)로 환승하기 파이토치(PyTorch) 이해하기 with MNIST 이번 글에서는 파이토치의 autograd, 즉 자동 미분에 대해서 알아보려고 한다. 기본적으로 파이토치에서 제공하는 이 도큐먼트를 기반으로 한다. 자동 미분 먼저 개념적으로 살펴보자. 연산이 수행되면서 데이터가 발생한다. 이러한 모든 연산을 저장하는 그래프가 있고, autograd가 이 그래프를 담당한다. 이때 그래프는 유향 비순환 그래프(일명 DAG) 형태를 띠며, 잎(leaves)은 입력텐서 그리고 뿌리(roots)는 출력텐서다. 그래프의 뿌리부터 시작해 잎을..
파이토치(PyTorch) 이해하기 with MNIST
2022. 11. 24. 18:51
인공지능/머신러닝-딥러닝
지난 글에서 텐서플로우와 파이토치의 차이를 살펴보고 파이토치의 특징과 장단점을 간단하게 알아봤다. 이번 포스팅에서는 파이토치의 MNIST 예제를 통해 파이토치의 작동 방식을 보다 자세히 공부하려고 한다. 코드는 지난 글에서 그대로 가져왔다. 라이브러리 및 config import torch import torchvision import torch.nn as nn import torch.nn.functional as F from torch.utils.data import DataLoader import numpy as np import matplotlib.pyplot as plt - torchvision은 이미지/영상 처리를 위한 파이토치의 라이브러리다. - torch.nn 이 무엇인지에 대해 파이토치에서..
텐서플로우(TensorFlow)에서 파이토치(PyTorch)로 환승하기
2022. 11. 24. 15:51
인공지능/머신러닝-딥러닝
*해당 포스팅은 이 원문을 번역, 정리(요약)한 것입니다. 텐서플로우가 파이토치보다 1년 먼저 나왔지만, 최근 많은 개발자들이 텐서플로우에서 파이토치로 넘어가고 있는 실정이다. 이번 아티클에서는 텐서플로우에서 파이토치로 넘어가는 방법에 대해 이야기하려고 한다. 먼저 각 딥러닝 프레임워크를 사용하는 이유에 대해 살펴본 후, 간단한 예제를 통해 파이토치와 가까워지는 시간을 가져보려 한다. 프레임워크 개요 텐서플로우 2015년 구글에서 발표한 딥러닝 프레임워크. 텐서플로우 2.0로 업데이트되면서 케라스(keras)와 통합되었다. 파이토치 2016년 페이스북에서 발표한 딥러닝 프레임워크. 파이썬 언어와 자연스럽게 어우러진다는 장점이 있다. 파이토치를 텐서 단위의 딥러닝 모델을 GPU 위에서 계산할 수 있는 플랫..
[토이프로젝트] 트위터대답봇 만들기(2)
2022. 8. 30. 01:38
인공지능/Natural Language Process
tweet_reply.py 파일을 새로 만들었다 import tweepy import logging import credentials api_key = credentials.api_key api_secret_key = credentials.api_secret_key access_token = credentials.access_token access_token_secret = credentials.access_token_secret auth = tweepy.OAuthHandler(api_key, api_secret_key) auth.set_access_token(access_token, access_token_secret) api = tweepy.API(auth) # For adding logs in ap..
[토이프로젝트] 트위터대답봇 만들기(1)
2022. 8. 30. 00:50
인공지능/Natural Language Process
문제: 같이 트위터하는 친구들이 너무 쓸데없는 말을 많이 함 sentiment analysis에 따라 안돼/미워/당연 이 세 단어로 대답하는 간단한 트위터봇을 만듦으로써 이 문제를 해결해보려고 한다. 1. 봇 배포를 위해 AWS에 가입한다. 2. 트위터에 가입, https://developer.twitter.com/에서 개발자 계정을 발급 받고 key를 생성한다. - 가입 내용에 개발자 계정의 목적을 상세히 적는다 - App 을 새로 생성한다 - settings에서 User authentication settings를 수정한다 : 읽고 쓰기가 모두 가능하도록 (여기서 삽질을 너무 많이 했다 흑흑) - 대시보드에서 Key를 재생성한다: API Key, API Key Secret, Access Token, ..
[Kaggle] Natural Language Processing with Disaster Tweets(1)
2022. 8. 28. 17:54
인공지능/Natural Language Process
연습겸 전처리를 전혀 거치지 않고 BERT 모델 활용하는 예제를 그대로 썼다 모델 모양은 아래와 같다 m_url = 'https://tfhub.dev/tensorflow/bert_en_uncased_L-12_H-768_A-12/2' bert_layer = hub.KerasLayer(m_url, trainable=True) def build_model(bert_layer, max_len=512): input_word_ids = tf.keras.Input(shape=(max_len,), dtype=tf.int32, name="input_word_ids") input_mask = tf.keras.Input(shape=(max_len,), dtype=tf.int32, name="input_mask") segme..
텐서플로우 자격증 취득 후기
2022. 8. 27. 01:51
인공지능/tensorflow certificate
오늘 구글 텐서플로우 자격증을 취득했다. 취득 목적 및 과정을 간단하게 기록해두고자 한다. 1. 목적 나는 구글 머신러닝 부트캠프의 수료 조건을 충족하기 위해 자격증을 취득했다. Coursera의 Deep Learning Specialization 과정을 수강한 상태였고, tensorflow 및 keras는 능숙하게 다루는 수준은 아니더라도 꽤 익숙한 수준이었다. (물론 개인적으로 pytorch가 더 좋긴 하다) 자신의 텐서플로우 개발 능력을 보여주기 위해 이 자격증을 준비하는 것은 그다지 추천하지는 않는다. 파이썬 및 딥러닝에 대한 지식이 있는 상태에서 (1) 텐서플로우가 어떻게 돌아가는지 간단하게 체험하고 싶은 사람, (2) 단기간에 텐서플로우 모델링을 해보고 싶은 사람, (3) 모종의 동기부여가 필..
텐서플로우 자격증 시험을 위한 개발환경 구축 및 신청
2022. 8. 23. 15:00
인공지능/tensorflow certificate
나는 맥북에어 M1을 사용하고 있고, 옛날 옛적에 온갖 고생 끝에 텐서플로우를 설치했다 현재 텐서플로우 버전... 텐서플로우 자체도 오랜만이고, 로컬에서 돌려본 게 한참 전이라.. 하여튼, 자격증 시험에서 요구하는 텐서플로우 버전은 TensorFlow 2.7.x., 파이썬은 Python 3.8.0이다. 1. 텐서플로우 업데이트 conda activate prj_final # tensorflow 사용할 conda 환경 활성화 pip install tensorflow-metal pip install tensorflow-macos==2.7.0 pip install numpy --upgrade - numpy 업그레이드 해준 이유 : RuntimeError: module compiled against API ve..