Home

엔트로피(Entropy)와 크로스 엔트로피(Cross-Entropy)의 쉬운 개념 설명

엔트로피는 머신러닝을 할 때, loss function(손실 함수) or cost function으로써 많이 사용됩니다. 용어에 대하여는 많이 들어보았지만 직관적으로 다가오지가 않아서 한 번 정리해보았습니다. 1. Entropy 엔트로피는 불확실성의 척도입니다. 정보이론에서의 엔트로피는 불확실성을 나타내며, 엔트로피가 높다는 것은 정보가 많고, 확률이 낮다는 것을 의미합니다. \[H(x)=−\sum_{i=1}^{n} p(x_i) log{p(x_i)}\] 이런 설명과 수식으로는 처음에는 와닿지가 않습니다. 제가 이해한 불확실성이라는 것은 어떤 데이터가 나올지 예측하기 어려운 경우라고 받아들이는 것이 더...

Read more

왜 파일은 데이터베이스에 넣지 않고, 파일 저장소에서 불러올까?

왜 파일은 데이터베이스에 넣지 않고 다른 저장소에서 불러올까? 서버 개발을 하다보면 파일은 데이터베이스가 아니라 다른 저장소를 통하여 제공하는 것을 알 수 있습니다. 만약, 우리의 서버를 모두 아마존에 구축한다고 가정해보겠습니다. 아마존의 경우에 EC2 인스턴스를 사용하여 자신의 서버를 제작하고, RDS를 통하여 데이터베이스를 제작하고, 파일은 S3를 이용하여 저장하는 경우가 많습니다. 그런데 생각해보면 데이터베이스에 넣어도 되는 파일을 왜 우리는 저장소에 따로 넣는 것일까요?? 데이터베이스가 알아서 다 효율적으로 처리하지 않을까요?? 이유는 다음과 같습니다. 데이터베이스 시스템의 소프트웨어의 규모가 크고 복잡...

Read more

컴퓨터 부팅에서 Power-on self-test(POST)란?

POST는 Power-on self-test로 전원인가시에 BIOS가 주변장치를 검사하게 되는데 이 검사과정을 POST라고 합니다. 컴퓨터의 전원을 눌러서 부팅을 하면 검은 화면에 글자들이 주르륵 나오는 것이 보이는데 이것은 바이오스(BIOS)가 컴퓨터 주변 장치를 검사하면서 발생하는 로그를 보여주고 있는 것입니다. POST 과정이 끝나게 되면 부트스트랩 코드를 호출하게 됩니다. 만약 고장난 부분이 생기면 부팅을 멈추고 비프음 등으로 고장난 장치가 무엇인지 알려줍니다. UEFI나 legacy 바이오스에서의 Fast boot 옵션을 설정하면 POST를 생략하고 바로 부트로더를 읽습니다. 현재 나오는 제품들은 해당...

Read more

Chipset(칩셋)이란? 개념 정리

1. What is Chipset? 컴퓨터는 중앙처리장치(CPU), 주기억장치(램), 보조기억장치(하드디스크) 등의 다양한 장치들로 구성되어 있고, 이 장치들은 메인보드(Mainboard), 혹은 마더보드(Motherboard)라고 하는 보드 위에 설치됩니다. 컴퓨터 부품들은 서로 인식하지도, 알아서 조절되지 않습니다. 각각의 기능을 최적으로 수행하면서 사용자에게 좋은 퍼포먼스를 보여주어야 합니다. 메인보드에는 다양한 장치들이 있기 때문에 이들을 제어하고 역할을 조율하는 기능을 갖춰야 합니다. 별도의 장치들을 여러개 설정하면 비효율적이기 때문에, 칩셋(chipset)을 통하여 여러 가지 장치들을 제어합니다. 많...

Read more

PCIe Root Complex, Switch, Bridge 개념

Root Complex CPU와 PCIe bus들 사이의 인터페이스(Interface). 인터페이스는 프로세서 인터페이스, DRAM 인터페이스와 같은 여러 구성 요소와 여러 개의 칩들이 포함될 수 있습니다. 1개 혹은 그 이상의 PCIe 포트와 Root Port 연결 PCIe 계층 영역(hierarchy domain)를 하나의 단일 PCIe 계층(hierarchy)으로 논리적으로 결합합니다. 계층 구조라고 불려지는 하나의 fabric instance는 다음과 같은 구성요소들로 이루어져 있습니다. Rc multiple Endpoints(I/O devices) ...

Read more

PCIe TLP Routing 기본 개념

Transaction Layer Packet 특징 TLP (Transaction Layer Packets)는 라우팅 매커니즘 및 규칙에 따라서 하나의 링크에서 다른 링크로 전달됩니다. TLP가 접근하는 4개의 Address Spaces가 존재합니다. PCIe 장비 사이에서 transactions이 전달될 때, 아래의 4개의 분리된 주소 공간이 사용됩니다. Address Space Transaction Types Purpose Memory Read, Write Transfer data to or from ...

Read more

인텔 '프로젝트 아테나'란? 목표 및 특징 요약

인텔 프로젝트 아테나 개념을 간략하게 요약해서 정리해보았습니다. 목표 및 특징 새로운 노트북 사용 경험을 제공하기 위하여 인텔, 벤더, 제조사가 참여하는 프로그램 대기 상태에서 활성 상태로 즉시 전환되는 얇은 노트북에서 향상된 인공지능 (AI) 성능과 배터리 지속 시간 제공 콘센트가 어디에 있는가를 찾을 필요 없이 들고 다닐 수 있는 노트북 노트북의 고성능 태블릿으로써의 사용 목표 썬더볼트3, 와이파이6, 11세대 통합 GPU를 포함한 i5, i7 기반 16시간 이상 배터리 지속 시간 1초 안에 시스템 대기 모드에서 활성화 출처 블로터

Read more

Window에서 하이브리드 절전(Hybrid Sleep)이란?

윈도우 전원 설정에 들어가보면 하이브리드 절전(Hybrid Sleep)을 설정할 수 있습니다. 하이브리드 절전이란 무엇일까요? 1. 최대 절전(Hibernate) vs 절전(Sleep) 최대 절전과 절전은 어떤 특징을 가지고 있을까요? 1.1. 최대 절전(Hibernate) 최대 절전 모드는 S4 전원 상태로 진입합니다. 최대 절전 모드로 전환되면 RAM을 포함한 주요 구성 요소를 꺼서 에너지를 절약합니다. 최대 절전 모드 옵션은 RAM 데이터를 보조기억장치(SSD, HDD etc..)에 저장합니다. 데이터가 저장되면, PC는 데이터 손실없이 최대 절전 모드로 전환 할 수 있습니다. 사용자가 PC를 최대 ...

Read more

Python pandas error 'Duplicate names are not allowed'

Problem --------------------------------------------------------------------------- ValueError Traceback (most recent call last) <ipython-input-3-30d692425d67> in <module> ----> 1 X_train, X_test, y_train, y_test = get_human_dataset() <ipython-input-2-e8318f86efdb> in get_human_dataset() ...

Read more

MobileNet이란? 쉬운 개념 설명

1. MobileNet이 왜 필요할까요? 사물인터넷이나 5G같은 저전력 통신망, 딥러닝이 발달하면서 모든 곳에서 딥러닝을 활용하려고 많은 시도가 이루어지고 있습니다. 이러한 환경에 맞춰 MobileNet이 등장하게 되었는데요. 고성능 환경과 아닌 환경을 비교해보면서 등장 배경을 살펴보겠습니다. 1.1. 고성능의 환경 데이터 센터 환경에서는 고성능의 CPU가 매우 많이 있기 때문에 연산 처리 성능이 매우 고성능이고, 고성능의 그래픽 카드 다수를 가지고 있을 수 있으며, 메모리도 대용량을 사용할 수 있습니다. 또, 전력 공급이 지속적으로 이루어지기 때문에, 전원을 아끼기 위해 성능을 낮추는 것 보다는 더 높은 퍼...

Read more