[5.4.] Transformers
2022. 8. 14. 17:55
인공지능/DLS
Transfermer Network Intuition [Transformer Network Motivation] - 갈수록 복잡해진 모델 - 모두 sequential 모델 : input 문장을 한 단어/토큰씩 받아들임 - "as if each unit was like a bottleneck to the flow of information" - 예를 들어, 마지막 unit을 계산하기 위해서는 앞 unit들을 먼저 모두 계산해야 함 - transformer : 전체 sequence에 대한 계산을 병렬(in parallel)로 처리하게 됨 [Transfermor Network Intuition] - Attention + CNN - attention based representation과 CNN processi..
2022 구글 머신러닝 부트캠프 7주차 이야기
2022. 8. 13. 22:24
진로/구글 머신러닝 부트캠프
시간이 어찌나 빠른지. 자가격리 끝나고 세상에 나온 지 이틀이 지났다. 어제는 마지막 출근일이었는데, 가는 길에 지하철에서 쓰러질 뻔했다. 살면서 처음이었다. 코로나 후유증이 이렇게 무섭다니. 이제 나는 어떻게 되는가? 모르겠다. 일단 텐서플로우랑 캐글부터 해두고 생각해보자. 주말 안에 강의를 다 들을 것 같다. 혹시 이 글을 읽고 계신 분이 있다면 (있을까?) 덧글 달아주십시오. 프로젝트 뭐라도 같이 해요.
[5.3.] Speech Recognition - Audio Data
2022. 8. 13. 22:20
인공지능/DLS
Speech Recognition [Speech Recognition Problem] input $x$ : audio clip - air pressure against time output $y$ : transcript 전처리 : spectrogram 생성 (시간 x requencies x energies) [Attention model for speech recognition] [CTC cost for speech recognition] (connectionist temporal classification) - input과 output의 길이가 같은 RNN 신경망을 구성하낟 - speech recognition에서는 input time step 이 매우 커질 수 있는데, 초당 100 헤르츠짜리 음성 1..
[5.3.] Various Sequence To Sequence Architectures(2)
2022. 8. 13. 21:07
인공지능/DLS
Attention Model Intuition [The problem of long sequences] 아주 긴 프랑스어 문장이 주어졌다고 해보자 초록 : 전체 문장을 읽고 외워서 활성화값에 store 해라 보라 : 영어 문장을 생성해라 -> 인간이라면 이렇게 하지 않을 것. 문장을 지나며 part by part으로 번역함. 아주 긴 문장을 통쨰로 외우는 것은 아주 어려우므로. 그래서 위 같이 encoder-decoder 로 생긴 모델은 문장이 짧을 때 Bleu Score가 높지만, 문장이 길어질수록 스코어가 떨어짐 *문장이 너무 짧을 때도 해석하기 어려우므로 [Attention model intuition] "When you're trying to generate this output, what par..
다른 블렌더 파일에서 animation(action) 불러오기
2022. 8. 13. 20:28
기타 공부/블렌더
file > append Nonlinear Animation(NLA)로 전환 맨 아래 아마튜어 선택 후 (노란색으로 바뀜) Add Tracks 하면 (활성화시 노란색) NlaTrack 이 생성 - 이것을 활성화 한 상태에서 Add Action Strip 추가하고자 하는 움직임 선택 끝!
EasyMocap with Openpose
2022. 8. 13. 20:27
인공지능/pose estimation
EasyMocap - Internet video with a mirror 테스트 Colab에서 시행한 내용 기반으로 AWS 테스트 진행 openpose 빌드를 위해 이곳의 dockerfile 활용 Command "python setup.py egg_info" failed with error code 1 in /tmp/pip-build-4_z00cyj/opencv-python/ , ModuleNotFoundError: No module named 'setuptools' 등등 opencv 설치 에러 발생으로 opencv-python 지우고, 아래 추가 이곳의 도커파일 GitHub - hmurari/openpose-docker: Openpose Dockerfile working with NVIDIA GPU G..
ROMP inference 를 위한 환경 세팅
2022. 8. 12. 11:20
컴퓨터/Docker
1차 시도 docker image docker pull nvcr.io/nvidia/pytorch:19.10-py3 NVIDIA CUDA 10.1.243 docker container NV_GPU=1 docker run --runtime=nvidia --name bernice-romp --shm-size 4G -it -v $(pwd):/workspace -v $(readlink -f disk1):/disk1 nvcr.io/nvidia/pytorch:19.10-py3 /bin/bash python -V # python import torch print(torch.__version__) print(torch.version.cuda) Python 3.6.9 :: Anaconda, Inc. 1.3.0a0+24ae..
Toon Shader
2022. 8. 12. 11:10
기타 공부/블렌더
[Toon Shader] very simple version shader editor 선택 블렌더 위 캐릭터를 클릭하면 기존 node 가 뜸 선택 박스에서 Material 로 변경 오른쪽 Principled BSDF 삭제 왼쪽 상단 바에서 add > search > Diffuse BSDF, shader to RGB, ColorRamp 추가된 노드들을 연결 ColorRamp의 가운데 바를 조정 KaioToon 활용 기제작된 node [without add-on] 참고 mixamo 에서 받은 모델은 color 맵이 여러개여서 어떻게 해야 할지 모르겠다.