일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | ||||
4 | 5 | 6 | 7 | 8 | 9 | 10 |
11 | 12 | 13 | 14 | 15 | 16 | 17 |
18 | 19 | 20 | 21 | 22 | 23 | 24 |
25 | 26 | 27 | 28 | 29 | 30 | 31 |
- mmm
- bayesian
- 미적분 #평균값 정리 #로피탈의 정리 #접선의 방정식
- 미적분 #사인과 코사인의 도함수
- bayesian inference
- 프로그래머를 위한 선형대수 #선형대수 #고유분해 #고윳값 #고유벡터
- 프로그래머를 위한 선형대수 #선형대수 #고유값 #고유벡터 #고유분해
- Media Mix Modeling
- 미적분
- 수리통계
- 시계열분석 #Time-Series Analysis #이상탐지 #Anomaly Detection #Spectral Residual #CNN #SR-CNN
- 프로그래머를 위한 선형대수 #선형대수 #LU분해
- 미적분 #접선의 방정식 #최적화 #뉴턴법 #뉴턴-랩슨법
- Marketing Mix Modeling
- 프로그래머를 위한 선형대수 #선형대수 #고유값 #고유벡터 #야코비 회전법 #QR법 #하우스홀더반사 #행렬회전
- lightweightmmm
- 프로그래머를 위한 선형대수 #선형대수 #행렬계산
- Optimization
- Today
- Total
목록전체 글 (99)
문과생 네버랜드의 데이터 창고

T분포 1) 표준정규분포와 카이제곱 분포의 결합분포를 T분포라고 한다. ${(1)}$ 모평균과 모표준편차를 알기 어려운 상황에서, 자유도라 불리우는 표본의 갯수에 따라 통계적 성질이 결정된다. ${(2)}$ 자유도를 $n \rightarrow \infty$로 할 경우 정규분포로 수렴하므로, 정규분포의 근사 분포로서 주로 활용된다. 2) T분포의 유도 ${(1)}$ pdf의 유도 -. W ~ $N(0,1)$을 따르는 분포라 하고, V ~ $x^{2}(r)$을 따르는 분포라 하자. 두 분포는 서로 독립이다. -. 이 때, 두 분포는 독립이므로, 독립인 분포의 성질에 따라 pdf의 단순 결합이 가능하다. 즉 $$h(w,v) = [\frac{1}{\sqrt{2\pi}}exp(-\frac{w^{2}}{2})] \..
혼합분포? 1) 한 확률변수의 분포가 다른 분포의 영향을 받아 변형될 때 이를 혼합분포라고 한다. 2) 엄밀한 정의는 아래와 같이 나타낼 수 있다. 확률변수들의 열 $x_{1}, x_{2}, ..., x_{n}$이 각각 $pdf \ f_{1}, f_{2}, ..., f_{n}$ 을 가지고, 각각이 받침 $s_{1}, s_{2}, ..., s_{n}$을 각각 가진다고 하자. $p_{1}, p_{2}, ..., p_{n}$은 $\sum_{i = 1}^{n} p_{i} = 1$인 상수라 하자. 이 확률변수들의 결합된 혼합분포의 pdf는 아래와 같이 정의할 수 있다. $$f(x) = p_{1}f_{1} + p_{2}f_{2} + ... + p_{n}f_{n} = \sum_{i = 1}^{n}p_{i}f_{i}$..
표준 다변량 정규분포 1) 표준 다변량 정규분포의 pdf ${(1)}$ $z_{1}, ..., z_{n}$을 i.i.d이고 $N(0,1)$을 따르는 확률변수라고 할 때 -. 이 확률표본들의 확률벡터 Z 의 결합확률밀도함수는 i.i.d에서의 조건에 따라 다음과 같이 나타낼 수 있다. $f_{z}(Z) = \prod_{i = 1}^{n} \frac{1}{\sqrt{2\pi}} exp(-\frac{z^{2}}{2}) = (\frac{1}{2\pi})^{\frac{n}{2}}exp(-\frac{1}{2}\sum_{i=1}^{n}z_{i}^{2})$ -. 위 식을 벡터형식으로 고쳐서 다시 표현하면 아래와 같이 쓸 수 있다. $(\frac{1}{2\pi})^{\frac{n}{2}}exp(-\frac{1}{2}z^{..

정규분포란? 1) 정규분포는 현대 통계학의 추론, 검정 혹은 예측에 필수적인 역할을 담당하고 있는 가장 중요한 분포이다. 2) 온갖 자연계의 자연스러운 현상을 수치적으로 모델링이 가능하다는 장점이 있다. ${(1)}$ 키와 체중 : 사람들의 키, 체중은 평균을 중심으로 멀어질수록 사례수가 적어지는 정규분포를 따른다. ${(2)}$ 시험 성적 : 시험 점수는 보통 평균을 기준으로 극단적인 하한값(낮은 점수)와 극단적인 상한값(만점) 사이에서 정규분포를 그리는 경우가 많다. 3) 통계학적인 측면에서, 정규분포는 중심극한정리(Central Limit Theorem)라는 매우 강력한 이론의 토대이다. ${(1)}$ 중심 극한 정리는 현실에서 볼 수 있는 실현된 표본들의 평균을 많이 수집하면 수집할수록 모집단의 ..

이중적분 1) 다중적분에 들어가기 전에, 이변수 함수의 이중적분을 먼저 살펴보자 2) 이중적분은 이차원의 면을 누적하여 부피를 만들어내는 적분이다. $$\int_{a}^{b}\int_{c}^{d} f(x,y)dxdy $$ 단, f(x,y)는 구간 ${a \leq y \leq b}$, ${c \leq x \leq d}$에서 적분 가능해야한다. ${(1)}$ 일변수 함수의 적분의 선을 더해 면을 구성하는것에서 한단계 더 더 나아간 것이다. 일변수함수의 적분은 선을 모아 면을 만드는 적분이었다. 이중적분은 면을 더해 부피를 만든다. 미분소 직사각형인 $\Delta x \cdot \Delta y = A$를 z방향으로 늘린 직육면체를 도형의 모든 공간에 대하여 누적한다. 3) 이중적분의 성질 $({1)}$ 함수의..
선형 근사1) 일변수에서의 선형근사는 다음과 같이 구했다.$f(x) \approx f(\alpha) + f'(\alpha)(x-\alpha)$2) 이를 다변수로 확장하면 아래와 같은 형식으로 나타낼 수 있다.$f(x,y) = f(x_{0},y_{0}) + \frac{\partial f}{\partial x}(x - x_{0}) + \frac{\partial f}{\partial y}(y - y_{0})$다변수 함수의 뉴턴법1) 일변수 함수의 뉴턴법인 $x_{n+1} = x_{n} + \frac{f(x)}{f'(x)}$ 를 다변수 미적분으로 확대한 방법론2) 이변수 누턴법에 대하여 먼저 고려해보자${(1)}$ 함수가 두개이고, 변수도 두개인 경우를 상정하자.(다변수 뉴턴법은 기본적으로 변수보다 방정식의 갯..
다변수 함수의 연쇄법칙 1) 다변수 함수가 2차 이상의 깊이로 매개변수화 됐을 때를 가정하자. 예를 들면 아래와 같은 상황이다 ${(1)}$ $f[x_{1}, x_{2}, ..., x_{n}]$ 일 때, $x_{1} = x_{1}(t)$, ..., $x_{n} = x_{n}(t)$ -. 즉, $x_{1}, ..., x_{n}$ 가 2차 깊이의 t로 매개화된 상황이다. ${(2)}$ 이 경우, 매개변수 t의변화가 원함수에 영향을 주는 정도를 파악하기 위한 미분법이 필요하다. ${(3)}$ 이와 같은 미분을 $\frac{\partial f}{\partial t}$로 정의할 때 아래와 같이 나타낼 수 있다. $$\frac{df}{dt} = [\frac{\partial f}{\partial x_{1}}, \fr..

편미분이란?1) 일변수 함수 $f(x)$가 아니라, 두 개 이상의 변수를 입력으로 받는 함수 $f(x_{1}, ..., x_{n}$이 존재할 떄${(1)}$ 이 함수에 대한 미분을 어떻게 구할것인가에 대한 문제가 생긴다.${(2)}$ 이 함수에 대하여 오직 한 개의 변수(ex, $x_{1}$의 영향에 대해서만 관심을 갖고 나머지 변수에 대해서는 일단 관심을 끄기로 한다면, 이것을 우린 편미분이라고 부른다. ${(3)}$ 엄밀하게 정의한 편미분은 아래와 같이 나타낼 수 있다.$\frac{\partial f(x_{1}, x_{2}, ..., x_{n})}{\partial x_{1}} = lim_{x_{1} \rightarrow 0} \frac{\Delta f}{\Delta x} = \frac{f(x_{1}..

행렬식이란? 1) 행렬식이란 행렬의 성질을 결정짓기(determinent)위해 n x n 정방행렬을 스칼라 값으로 대응시키는 함수이다. 2) 굉장히 두루뭉술한 설명이지만, 다음과 같은 성질을 파악하는데 활용된다. ${(1)}$ 행렬의 (선형독립)하는 기저로 이루어진 부분공간의 부피(혹은 넓이) -. (벡터곱과 행렬식)에서 설명한 경우는 2차원의 부분공간과 3차원의 부분공간의 부피(혹은 넓이)를 행렬식으로 구한 사례이다. -. (벡터곱과 행렬식) 4번을 보면 행렬식이 0인 경우를 서술했다. 이 경우는 선형대수학의 표현을 빌리면 일부 열공간이 선형독립하지 않아서(즉, 한 벡터가 다른 벡터들의 생성(Span)으로 표현될 수 있어서) 온전한 부분공간을 구성할 수 없고, 따라서 부피(혹은 넓이)가 0으로밖에 표현..

벡터곱이란? 1) 3차원 이하의 공간에서 정의되는 벡터의 곱 ${(1)}$ 기하학적으로 해석하면 이는 2차원에서는 평행사변형의 넓이를, 3차원에서는 육면체의 부피를 나타내는 값이다.(밑의 평행사변형과 벡터곱의 관계 참조) 2) 내적과는 달리, $A X B = |A||B||sin\theta|$의 관계가 성립된다. ${(1)}$ 이 때, 외적의 방향은 벡터 A와 B가 생성하는 평면(Hyperplane)에 수직 방향이다. 3) 벡터곱의 성질 ${(1)}$ 내적과 벡터곱의 덧셈은 각각의 벡터의 Norm의 제곱의 합이다. -. $|A \cdot B|^{2} + |A \ X \ B|^{2} = |A|^{2}|B|^{2}cos^{2}\theta + |A|^{2}|B|^{2}sin^{2}\theta\\|A|^{2}|B..

평면과 평면의 방정식 1) 일변수 함수인 $y=mx + b$에서 변수를 하나 더 추가한 이변수 함수로 확장한 것 ${(1)}$ 일변수 함수에서 $\frac{dy}{dx} = m$으로 간략하게 표현이 가능했으나, 변수가 추가되어 평면으로 확장된 경우 하나의 기울기를 갖는 평면은 매우, 무수하게 많으므로 추가 정보가 필요함 ${(2)}$ 평면을 단 하나로 고정하기 위해서는 다음의 정보가 필요 -. 어떤 평면 $(x_{0}, y_{0}, z_{0})$가 있다고 가정할 때, 이 평면을 고정하기 위해서는 그 평면을 결정지을만한 고유한 벡터가 필요 -. 평면에 대하여 고유한 벡터는 어떤 평면에 대하여 수직인 방향으로 뻗어나가는 '법선 벡터'를 고려 가능 -. 법선벡터는 그 평면에 대하여는 오직 하나만 존재하기 때문..

등비급수 1) 무한급수중의 하나로, 등비수열 $a_{n} = ax^{n}$의 수렴값을 보여준다. ${(1)}$ 이 때, 뒤에 등장하는 테일러전개의 논의를 위하여 a = 1이고, 이 수열이 수렴하는 경우만 다루고자한다 2) 다음의 과정을 거쳐서 등비급수의 수렴값을 알 수 있다. ${(1)}$ 우선, 다음의 식의 모든 항을 $x$에 대하여 미분한다. $$ \frac{d(1 + x + x^{2} + x^{3} + ...)}{dx} = 0 + 1+ 2x + 3x^{2} + ... \\ \frac{d^{2}(1 + x + x^{2} + x^{3} + ...)}{dx^{2}} = 0 + 0 + 2 + 6x + ... \\ \frac{d^{3}(1 + x + x^{2} + x^{3} + ...)}{dx^{3}} = ..

복소수란? 1) 실수 + 허수로 구성된 수를 복소수라고 한다. ${(1)}$ 실수는 허수부가 0인 복소수라고 볼 수 있다. 2) 복소수의 사칙 연산은 아래와 같이 나타낼 수 있다. 사칙연산 규칙 예시 덧셈/뺄셈 실수부는 실수부끼리, 허수부는 허수부끼리 더하고 뺀다 $(3 + 2i) + (6 + 4i)\\ = 9 + 6i$ 곱셈 $i^{2} = -1$ 임에 유의하며 푼다 $(3 + 2i)(6+4i) \\ =18 + 12i + 8i + 8i^{2}\\ = 10 + 20i$ 나눗셈 허수부의 부호가 반대로 바뀐 켤레복소수를 이용한다 $\frac{3+2i}{6+4i}\\ = 3+2i \times \frac{1}{6+4i}\\ = 3 + 2i \times \frac{1}{6+4i} \cdot \frac{6-4i}{..

극좌표란? 1) 우리가 보통 익숙한 3차원의 표준 좌표계(데카르트 좌표계, 직교좌표계)는 x,y(+z)의 2~3개의 축으로 이루어진 좌표계이다. 2) 극좌표란 표준 좌표계에서 각도 $\theta$와 거리 $r$로 좌표를 변환하여 표현한 새로운 좌표를 의미한다. $(x,y)$를 가지는 표준 좌표계와 극좌표의 관계. $(x,y)$는 극좌표상에서 각도 $\theta$와 그 길이 $r$로 변환될 수 있다. 3) 표준좌표는 극좌표로 변환될 수 있고, 반대로 극좌표 또한 표준좌표로 변환될 수 있다. ${(1)}$ 변환을 수행하는 변환식은 다음과 같이 표현할 수 있다. 표준좌표 극좌표변환$\rightarrow$ 극좌표 (x,y) $(\sqrt{x^{2} + y^{2}}, tan^{-1}\frac{y}{x})$ ($r..

로그함수란? 1) $y = b^{x}$라는 함수 관계를 정의할 때, 로그 함수란 $log_{b}(y) = x$이다. ${(1)}$ 즉, b라는 값에 어떤 x를 제곱했을 때 y가 나올까에 대하여 $f^{-1}(y) = x$인 관계를 갖는 함수가 로그함수이다. 2) 로그함수의 특성은 아래와 같다. ${(1)}$ $log_{b}(y \cdot z) = log_{b}(y) + log_{b}(z)$ 이다. -. $y=b^{x}$ 이고 $z=b^{u}$ 일때, $y \ cdot z = b^{x+u}$ 이다. -. 이 때, 로그를 취하면 $log_{b}(y \cdot z) = x + u$이고, 정의에 따라 $x = log_{b}(y)$이고 $u = log_{b}(z)$ 이므로 $$log_{b}(y \cdot z) =..
카이제곱 분포 1) $\alpha = \frac{r}{2}$, $\beta = 2$일 때의 감마분포를 가지는 확률변수 X를 카이제곱분포라고 한다. ${(1})$ 즉, 아래의 pdf를 가진다. $f(x) = \begin{cases} \frac{1}{\Gamma(\frac{r}{2})\cdot 2^{\frac{r}{2}}} x^{(\frac{r}{2}-1)} \cdot e^{-\frac{x}{2}} & \text{ if } 0 < x < \infty\\ 0 & \text{ else } \end{cases}$ 2) 카이제곱분포의 MGF와 이를 이용한 기댓값, 분산은 아래와 같다. ${(1})$ $M(t) = (1-2t)^{-\frac{r}{2}}$, $t < \frac{1}{2}$ ${(2)}$ $E(x)$ ..
정의 1) 일계 미분방정식의 일반해를 구하기 위해 미분방정식을 쉽게 정리해주는 방법론중 하나 2) 구한 일반해를 토대로 조건을 투입하여 실제의 해 y를 구한다. 방법론 1) $\frac{dy}{dt} = cy$의 해를 구하는 방정식을 구하는 경우 아래와 같이 진행할 수 있다. ${(1)}$ 미분 연산자를 이항하여, 좌변에는 $y$만 남도록 하고 우변에는 t만 남도록 만든다(변수의 분리) -. $\frac{dy}{y} = cdt$일 때, 양변에 적분을 취하면 -. $\int \frac{1}{y}\cdot dy = \int c\cdot dt \rightarrow ln(y) = ct + C$ ${(2)}$ 이제, 양변에 지수함수를 취한다 -. $exp(ln(y)) = exp(ct + C) \rightarrow..

감마함수를 이용한 유도 1) $\Gamma(\alpha) = \int_{0}^{\infty} y^{a-1}e^{-y}dy$ 에서 $\alpha = 1$ 일 때 ${(1)}$ $\Gamma(1) = \int_{0}^{\infty}e^{-y}dy = 1$ 이다. -. 적분 결과가 1이기 때문에 이는 충분히 확률변수로 고려할만 하다. 2) $\alpha > 1$의 경우에 대하여 일반화를 시도하면 ${(1)}$ 부분적분(https://www.goteodata.kr/44)을 취해주면 감마 함수에 대한 부분적분. 회차 1,2,3.....에 대하여 $0 ~ \infty]$ 구간에서 적분을 수행하면 모두 0이 되며, 최후의 항에 대하여 $\int_{0}^{\infty}e^{-y}dy = 1$ 이므로, 상수항에 대한 $..

정적분과 부정적분? 1) 부정적분은 어떤 함수를 도함수로 하는 모든 함수(=역도함수)를 구하는 연산이다. ${(1)}$ 구간을 정의하지 않고 적분한다는 의미에서 '부(不)정적분'이라고 한다. ${(2)}$ 즉, 다음과 같이 정의할 수 있다. -. $F'(x) = f(x)$라고 할 때, (단, F'(x)는 x에 대한 F(x) 함수의 미분) -. $\int f(x)dx = F(x) + C$ -. 위와 같은 관계로 정의되는 적분을 '부정적분'이라고 표현한다. 2) 이와 대비되는 정적분은 넓이를 정의하기 위해 상한과 하한을 정의하여 '값'을 구하는 적분이다. ${(1)}$ 상한과 하한에서 상합 S(big S)와 하합 s(small s)가 정의되며 -. 상합 S와 하합 S의 극한이 A로 점차 접근할 때, 이 A값..

적분은 내부 구간으로 쪼개질 수 있다. 1) 다시 말해, b라는 점이 a - c 구간 내에 존재하고, 양 구간을 분할 가능하면 $\int_{a}^{c} v(x)dx = \int_{a}^{b}v(x)dx + \int_{b}^{c}v(x)dx$ 이다. 정확히 한 점에서의 적분은 0과 같다. 1) $\int_{a}^{a}v(x)dx = F(x) - F(x) = 0$ 적분의 진행방향이 바뀌면 부호가 반대로 바뀐다. 1) 즉 $\int_{a}^{b}v(x)dx = -\int_{a}^{b}v(x)dx$ 홀함수와 짝함수의 적분은 다르다 1) 홀함수란 $v(-x) = -v(x)$인 함수를 말하며, 짝함수란 $v(-x) =v(x)$인 함수를 말한다. ${(1)}$ 홀함수의 예시로는 $x, x^{3}, x^{5}$를, 짝..