[딥러닝] 딥러닝이란? 1

* 본 포스팅은 한국품질재단에서 주최하는 인공지능개발자 양성사업 교육과정 복습 용도로 포스팅되었습니다.

---

* 딥러닝의 개발환경

 

* 클라우드 기반 

 - 아마존(AWS) : 유료

 - MS(Azure) : 유료

  - 정부 과제 수행시 -> 바우처 제공 -> 클라우드로 제공 받음.(고사양)

 - 구글 : colab, colab pro(유료)

  - colab : ubuntu, NVDIA Tesla GPU 지원

* 딥러닝 워크스테이션 서버 기반

 - 구성하기 나름(예산)

 - ubuntu(리눅스) 18.0x(or 20.0x) + anaconda or docker(가상화)

 - NVIDA 제품 RTX를 사용할 텐데 이경우 CUDA라는 지원 기술을 세팅(드라이브 세팅) 난관

 - 메인보드는 4 way, 파워 750~1000 kW 이상

 

* 로컬 PC 기반

 - 사용하는 PC가 NVIDA 제품의 그래픽 카드가 설치되어 있음.

 - CUDA가 돌아갈 수 있게 드라이브 세팅

 - 맥을 사용하는 경우 CUDA 사용 불가

 - AMD에서 제공하는 방식이 불완전해서 미사용

 

* GPU & TPU

 - 최근 kaggle 대회에서 상위권 랭커들의 장비를 보면 GPU의 중요성이 보임. GPU RAM 11G 정도 이상 사용

 - 혹은 8G를 병렬 배열(2 way or 4 way) 구성

 

* GPU

- NVIDA

 - CUDA

  - 딥러닝 학습 시, 장비를 밀접하게 사용할 수 있도록 지원해주는 인터페이스 or 기술

  - 학습시 당사의 제품을 이용할 수 있게 지원(행렬 연산) -> 시간적 이득, 대량의 데이터 학습

  - 쿠다(Compute Unified Device Architecture)

   - GPU에서 수행하는 (병렬 처리) 알고리즘을 C/기타 다른 언어에서 액세스, 사용할 수 있도록 처리해주는 GPU 기술

   - 대부분의 엔진에서 지원

   - GTX, RTX 20, 30, Tesla,...

 

 - AMD

  - RoCM

  - CUDA에 대응하는 인터페이스, 기술

  - 아직은 많이 활성화 X

  - 텐서 플로우(딥러닝 엔진)에서 지원(올해부터)

  - 맥에서도 AMD 그래픽 카드를 이용한 딥러닝 학습이 가능해진다.(단, 자체 애플 쪽에서 지원하는 딥러닝 모듈은 원래부터 가능 -iOS에서 종속적)

 

* TPU

 - 구글 클라우드 환경에서만 사용 가능

 - Tensor Processing Unit

 - CPU에 비해 GPU/TPU의 복잡한 연산은 상대적으로 느리지만, 약한 기능을 병렬로 묶어서 행렬 연산을 수행할 때는 훨씬 더 빠른 성능을 CPU에 비해 내고 있음.

- 딥 마인드의 알파고가 백그라운드에서 연산 수행 시 TPU 5000대로 연산을 수행

 

 

* AI, 머신러닝, 딥러닝

- AI > ML >  DL

- 일반적으로 ML의 지도 학습 하위에 분류 밑에 DL이 포지션을 잡고 있다.(절대적인 것은 아님)

- 2010년부터 급격하게 발전

- 프로젝트 시, DL의 하위 기술을 구체적으로 표현하는 게 좀 더 명확하다. AI(X)

 

* 인공지능

- 약 AI

 - 시기 : ~ 현재, 근 미래

 - 가능 범위 : 한가지만 잘함

 

- 강 AI

 - 시기 : ~ 2040(더 빨라질 수도 있다.)

 - 가능범위 : 여러 가지 일을 동시에 잘함

  - 자율주행 : 머지않아 가까움.(수년 내에 앞 단계로 이동 가능성)

    - 테슬라 자율주행 : 운전자 없이, 8~9개의 카메라를 이용하여 실시간 판단

    - 군사분야 : (드론, 로봇과 연계) + 메타버스(AR/XR)

    - 인간의 지성 수준에 도달한 레벨

 

- 초 AI

 - 시기 : ~2060(더 빨라질 수 도 있음)

 - 가능 범위 : 인간의 지성 초월

  - 인간이 AI의 판단을 이해할 수 없음

 

* History

- 특징 ( 발전 -> 암흑 -> 발전 -> 암흑 -> 발전 -> 발전..)

- 주요 이벤트 

• 1956 : 처음 주장. 존 매카시 주장
• 1980 : 컴퓨터 발전(IBM, 매킨토시)
• 1990 : 역전파 알고리즘 ( y->x 정답에서 입력까지 역으로 이동해서 실제도 도달할 수 있게 가중치를 조정하는 이론 )
• 1997 : IBM 딥블루라는 AI를 만들어서 세계 체스 챔피언을 이겼다
• 2006 : CNN(합성곱 인공 신경망)이 논문으로 처음 등장 -> 딥러닝이라는 용어가 처음 등장
• 2011 : 퀴즈대회 IBM 왓슨(AI)이 우승 -> 의료, 금융진출
• 2012 : 이미지 인식 대회(사진 한 장에서 이미지 1개를 잘 인식하는 대회). 이전에도 있었는데 주류 기술 머신러닝이었다. 딥러닝 기술을 장착한 참가자가 처음 등장(구현했다) -> 이후로 대부분의 참가자는 딥러닝으로 경쟁 -> 2017년도 종료
• 2016 : 알파고 vs 이세돌 : 강화 학습 흥행
  • 알파고 -> 알파고 제로 -> 알파 제로(바둑, 체스, 장기 AI 챔피언을 모두 이김) -> 알파폴드(바이오), 알파 스타(스타크래프트, 기업 생산)
• 현재 : 전통적인 모델(CNN, RNN,..), 강 확 학습(DQN, DDQN,..), 생성 모델(GAN,... 딥 훼이크, 얼굴 생성, 오디오 생성)