레이블이 TensorFlow인 게시물을 표시합니다. 모든 게시물 표시
레이블이 TensorFlow인 게시물을 표시합니다. 모든 게시물 표시

2017년 3월 14일 화요일

Python, Jupyter

NumPy, SciPy, Pandas, and Matplotlib are fundamental scientific computing and visualization packages with Python.
  • 설치 방법1 : pip를 이용해서 설치하는 방식 
    • $ sudo apt-get update
    • $ sudo apt-get install python-pip
      • $ pip list
    • $ sudo pip install -U numpy
      • (만약 필요하다면 다음을 먼저 수행) 
      • $ sudo apt-get install python-dev
    • $ sudo apt-get install libblas-dev liblapack-dev
    • $ sudo pip install -U scipy
      • (만약 필요하다면 다음을 먼저 수행) 
      • $ sudo apt-get install gfortran
    • $ sudo apt-get install libpng-dev libfreetype6-dev libjpeg8-dev
    • $ sudo pip install matplotlib
    • $ sudo pip install -U scikit-learn
    • $ sudo pip install jupyter
      • (만약 설치후 jupyter가 실행되지 않는다면 다음과 같이 해보기)
        • $ ~/.local/bin/jupyter-notebook
        • 상기 명령이 먹힌다면, ~/.bashrc 에 다음 문장 넣어서 구동하기 export PATH=$PATH:~/.local/bin
      • 그런데, 지금까지 주욱 잘 설치가 되도, 막상 jupyter 구동하면, kernel 찾을 수 없다는 메시지 나올 수 있음
  • 설치 방법2: anaconda3을 이용해서 쉽게 설치
    • 참고 사이트
    • 다음의 사이트에서 원하는 버전의 python installer 선택하여 다운로드
    • 기본적인 conda 명령들
    • exercise
      • $ conda create --name eclc python=3.5 ipykernel
      • $ conda install --name eclc numpy pandas matplotlib scipy pip
      • $ conda info --envs
      • $ source activate eclc
      • $ python -m ipykernel install --user --name eclc --display-name "Python3.5 (eclc)"
      • $ source deactivate
      • $ conda remove --name eclc --all
      • $ jupyter notebook
    • packages
      • pip install 대신에 conda install 을 사용할 것.
        • pip는 anaconda 패키지 위치에 설치되는 것이 아니라 기본 System 패키지 설치 위치에 설치됨
        • 필요한 경우, conda install로 pip를 설치한 뒤, 해당 env에서 pip로 설치
      • $ conda install -n eclc pip
        • $ source activate eclc
        • $ pip install emcee corner
  • 기타
    • virtualenv가 필요한 경우
      • sudo pip install virtualenv
    • pip list 구동시 ImportError 나올 때
      • $ sudo apt-get purge -y python-pip
      • $ wget https://bootstrap.pypa.io/get-pip.py
      • $ sudo python ./get-pip.py
      • $ sudo apt-get install python-pip
    • Jupyter 다중 kernel 설정
      • $ jupyter kernelspec list
    • pytorch 설치 방법
      • $ conda install pytorch torchvision cuda80 -c soumith
    • Checking versions
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
# scipy
import scipy
print('scipy: %s' % scipy.__version__)
# numpy
import numpy
print('numpy: %s' % numpy.__version__)
# matplotlib
import matplotlib
print('matplotlib: %s' % matplotlib.__version__)
# pandas
import pandas
print('pandas: %s' % pandas.__version__)
# statsmodels
import statsmodels
print('statsmodels: %s' % statsmodels.__version__)
# scikit-learn
import sklearn
print('sklearn: %s' % sklearn.__version__)
# tensorflow
import tensorflow
print('tensorflow: %s' % tensorflow.__version__)
# keras
import keras
print('keras: %s' % keras.__version__)
cs

2017년 2월 26일 일요일

TensorFlow

TensorFlow

Reference

Versions

Tensorflow 1.3

  • As of Aug. 2017, Tensorflow 1.3 was released.

    • [CPU] $ pip3 install --upgrade tensorflow
    • [GPU] $ pip3 install --upgrade tensorflow-gpu

Tensorflow 1.0

  • As of Feb. 15, 2017, Tensorflow 1.0 was announced.
  • Python API stability
  • Speedup on multiple GPUs
  • tf.Keras
  • Installation improvements
  • [Experimental] XLA (Accelerated Linear Algebra) is a domain-specific compiler for linear algebra that optimizes TensorFlow computations. 
    • XLA currently supports JIT compilation on x86-64 and NVIDIA GPUs; and AOT compilation for x86-64 and ARM.

TFlearn guide

TensorFlow Installation (GPU)

  • 설치 환경(2017.05.30)
  • 1) CUDA 라이브러리 설치(v8.0)
    • https://developer.nvidia.com/cuda-downloads
      • linux -> x86_64 -> Ubuntu -> 16.04 -> deb(network)
      • 파일 다운로드 후 관련 명령어 수행
  • 2) cuDNN 다운로드(v.5.1)
    • https://developer.nvidia.com/cudnn
      • Nvidia 개발자 계정 필요
      • 다음 명령 실행
        • $ tar xvzf cudnn-8.0-linux-x64-v5.1-ga.tgz
        • $ sudo cp -P cuda/include/cudnn.h /usr/local/cuda/include
        • $ sudo cp -P cuda/lib64/libcudnn* /usr/local/cuda/lib64
        • $ sudo chmod a+r /usr/local/cuda/include/cudnn.h /usr/local/cuda/lib64/libcudnn*
  • 3) 다음 명령 실행
    • $ sudo apt-get install libcupti-dev
  • 4) pip3 설치
    • $ sudo apt-get install python3-pip python3-dev
      • $pip3 -V
  • 5) tensorflow-gpu 설치
    • $ pip3 install tensorflow-gpu # Python 3.n; GPU support
      • $ python3 -c 'import tensorflow as tf; print(tf.__version__)'
  • 기타
    • 실행시 SSE, AVX 등 warning 발생하는 것은 신경쓰지 않아도 됨. TF 소스 자체에서 build하면 해결된다고 하나, 굳이 놔두어도 상관없을 듯.
    • 상기 설치 후 system restart 한 번 해주면, graphic driver 잘 잡힐 듯.
    • IDE로는 py-charm 등 이용.
    • Performance Guide
      • NCHW image data format
    • Winograd conv algorithm 설정(3x3 행렬연산을 위한 tensor 성능 개선)
      • $ export TF_ENABLE_WINOGRAD_NONFUSED=1
    • # Couldn't open CUDA library libcupti.so.8.0. LD_LIBRARY_PATH
      • $ export LD_LIBRARY_PATH=/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH

Library

  • tf.Transform
    • ML 전처리를 위한 TensorFlow 라이브러리 (Beam Preprocessing).
      • Users define a pipeline by composing modular Python functions, which tf.Transform then executes with Apache Beam, a framework for large-scale, efficient, distributed data processing. --> 그렇다면, 런타임(Serving)에 전처리를 위해서는 Apache Beam을 별도로 설치해야 하나? 
      • tf.Transform allows users to compute summary statistics for their datasets.
  • Edward
    • 확률 모델링, 추론을 위한 라이브러리.