일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | ||||
4 | 5 | 6 | 7 | 8 | 9 | 10 |
11 | 12 | 13 | 14 | 15 | 16 | 17 |
18 | 19 | 20 | 21 | 22 | 23 | 24 |
25 | 26 | 27 | 28 | 29 | 30 | 31 |
- lightweightmmm
- 미적분 #사인과 코사인의 도함수
- Media Mix Modeling
- 프로그래머를 위한 선형대수 #선형대수 #LU분해
- 미적분 #평균값 정리 #로피탈의 정리 #접선의 방정식
- Optimization
- 수리통계
- 프로그래머를 위한 선형대수 #선형대수 #고유값 #고유벡터 #고유분해
- 프로그래머를 위한 선형대수 #선형대수 #고유값 #고유벡터 #야코비 회전법 #QR법 #하우스홀더반사 #행렬회전
- 미적분 #접선의 방정식 #최적화 #뉴턴법 #뉴턴-랩슨법
- 시계열분석 #Time-Series Analysis #이상탐지 #Anomaly Detection #Spectral Residual #CNN #SR-CNN
- Marketing Mix Modeling
- bayesian
- 미적분
- 프로그래머를 위한 선형대수 #선형대수 #행렬계산
- bayesian inference
- mmm
- 프로그래머를 위한 선형대수 #선형대수 #고유분해 #고윳값 #고유벡터
- Today
- Total
목록전체 글 (99)
문과생 네버랜드의 데이터 창고
선형 근사? 1) 함수의 접선을 찾은 후, 접선을 따르는 근삿값을 기반으로 실제값 y를 추정하는 것 2) 접선 방정식 $Y = f(\alpha) + f'(\alpha)(x-\alpha)$를 이용한다. ${(1)}$ 이 때, $f(x + \Delta x)$의 접선 방정식을 이용한 근사값은 $Y = f(x) + f'(x)\Delta x$ 가 된다. $({2})$ 왜냐하면, $\alpha$가 x 근처에서 매우 미소하게 움직인 무언가라면, 이 자체만으로도 $(x-\alpha) = \Delta x$ 로 볼 수 있기 때문이다. $({3})$ 방법론은 구체적으로 아래와 같다 1 주어진 조건하에 구하려는 값을 함수로 모델링 2 (x = 0 근처에서 정의된) 함수를 접선의 방정식 $Y = f(\alpha) + f'(\a..

마코프 부등식 1) $ A = \{x:u(x) \geq c\}$ 일때, 확률변수 X의 pdf $f(x)$에서 ${(1)}$ $E[u(x)] = \int_{-\infty}^{\infty}u(x) \cdot f(x)dx = \int_{A}u(x) \cdot f(x)dx + \int_{A^{c}}u(x) \cdot f(x)dx$ $({2})$ 이 때, 당연히 $\int_{-\infty}^{\infty}u(x) \cdot f(x)dx > \int_{A}u(x) \cdot f(x)dx$ 이므로, $({3})$ $u(x) = c$로 놓아도, ${1)}$의 정의에 따라 $x \in A$라면 $u(x) \geq c$ 이므로 $\int_{-\infty}^{\infty}u(x) \cdot f(x)dx > c \cdot \..
평균 1) $E(X) = \mu$ 로서, 적률생성함수에서 1차 적률이 바로 평균이다 분산 1) $E(x - \mu)^{2}$ 으로서, 이를 정리하면 $E(x^{2}) - \mu^{2}$ 이다. 2) 위는 다시말해 적률생성함수에서 생성한 2차 적률인 $E(x^{2})$에서 평균의 제곱을 뺀 값이다. 3) 분산에 제곱근을 씌우면 표준편차라고 하며, 값들이 평균으로부터 흩뿌려진 정도를 나타낸다.
덧셈법칙 1) $ f(x) = v(x) + u(x) $ 라고 한다면 $\frac{\Delta f(x)}{\Delta x} = \frac{\Delta v(x)}{\Delta x} + \frac{\Delta u(x)}{\Delta x}$ 이다. ${(1)}$ $\frac{\Delta f(x)}{\Delta x} = \frac{f(x + \Delta x) - f(x)}{\Delta x} = \frac{v(x + \Delta x) + u(x + \Delta x) - v(x) + U(x)}{\Delta x}$ ${(2)}$ 마지막 항을 정리하면 $\frac{v(x + \Delta x) - v(x)}{\Delta x} + \frac{u(x + \Delta x) - u(x)}{\Delta x} = \frac{\Del..
$Sin(x)$의 도함수는 $Cos(x)$이다 1) $\frac{sin{(\Delta x)}}{\Delta x}$ = $\frac{sin{(x + \Delta x)} - sin(x)}{\Delta x}$ 로 표현이 가능하다 2) $sin{(x + \Delta x)}$를 풀기 위해, sin의 덧셈 법칙을 가져오면 ${(1)}$ $sin{(x + \Delta x)} = sin{(x)} \cdot cos{(\Delta x)} + cos{(x)} \cdot sin{(\Delta x)}$ ${(2)}$ ${1)}$과 ${(1)}$로 식을 다시 정리하면 $$\frac{sin{(x + \Delta x)} - sin(x)}{\Delta x} = \frac{sin{(x)} \cdot cos{(\Delta x)} + co..

정의 1) 접선은 기울기를 똑같이 갖는 해당 함수 지점에서의 직선을 말한다 2) 위와 같은 상황에서, 접선의 방정식은 기울기를 동일하게 공유하므로, 2를 가져오면 (1) $g(x) = 2x + 1$ 3) 정리하면, 접선의 방정식은 일반화된 형태로 아래와 같이 표현이 가능하다 ${(1)}$ $g(x) + mx + b$ ${(2)}$ $b = -mx + g(x)$ 법선 1) 법선은 접선과 수직인 직선을 의미한다. 즉, 기울기가 $-\frac{1}{m}$을 갖는 직선이다 ${(1)}$ $h(x) - f(a) = -\frac{1}{m}{(x-a)}$ 할선 1) 할선은 기울기 m을 가지고 두 개 이상의 지점을 지나는 직선이다 (1) 할선은 $c -> a$로 근접할수록 기울기 m을 갖는 접선에 수렴한다

정의 1) 기울기는 변수가 1단위 늘어날때, 함수값이 얼마나 늘어나는지를 보여준다 (1) 즉, 기울기 $\frac{f{(x)}}{x}$ = $\frac{m}{1}$ 2) 미분을 하면 해당 방정식의 순간 변화율을 알 수 있는데, $\Delta{x}$ 일때 함수값 $f(\Delta x)$를 알기 위해선 (1) 함수의 순간 변화율을 알 수 있는 방정식이 필요하다 -> 미분 (2) 순간 변화율을 알고 싶은 지점이 필요하다
In [310]: import numpy as np import matplotlib.pyplot as plt from mpl_toolkits import mplot3d from matplotlib import gridspec import pandas as pd 1. 상태지수¶ 1) 정의¶ (1) 데이터 행렬의 다중공선성 여부를 판단하는 방법¶(2) XtX의 상관 행렬을 구한 후, 그 고유분해를 통해 나오는 고윳값을 이용한다.¶- X의 어떤 상관행렬이 존재한다고 하자.¶ In [291]: X = np.matrix([[4,2,3],[4,2,3],[6,7,0]]) print(X) [[4 2 3] [4 2 3] [6 7 0]] In [292]: #평균을 빼 중심화 해준다. X = X - np.mean(X,axi..
In [5]: import numpy as np import matplotlib.pyplot as plt from mpl_toolkits import mplot3d 7. 고윳값 계산 알고리즘¶ 1) 야코비 회전법¶ (1) 개요¶ - 야코비 회전행렬을 누적해서 곱해 행렬을 대각행렬로 수렴하게하는 알고리즘이다.¶ - 단, 이때 알고리즘의 대상 행렬은 n * n의 실대칭행렬이어야 한다.¶ (2) 야코비 회전행렬의 특성¶ - 야코비 회전행렬의 모양¶ 대각성분은 1과 삼각함수이다. 지정된 숫자에 해당하는 행과 열의 교차 성분에 삼각함수가 들어간다. ex) R(2,4,k)인 야코비 회전행렬이라면, 이 행렬의 (2,2), (2,4), (4,2), (4,4) 성분에 삼각함수가 들어간다. 각 교차 성분에 들어가는 삼각함..
In [2]: import numpy as np import matplotlib.pyplot as plt from mpl_toolkits import mplot3d 6. 고유공간과 대각화¶ 1) 대각화¶ (1) 대각화는 다음의 경우에 활용할 수 있다.¶ 선형계의 발산의 판단 : 행렬A를 대각화 하는 경우, 대각행렬의 요소값을 통해 발산 여부를 판단할 수 있다.(|a| > 1이면 발산한다) 연산의 최적화 : 행렬 A를 연속적으로 적용하는 변환의 경우, 대각화 할 경우 대각행렬만 계속 곱해주면 A를 연속 적용하는것과 같다. (2) 발산 판단 여부의 판단¶ - 대각행렬의 경우¶ In [3]: A = np.diag([5,-3,0.8]) x = np.array(["X_1,X_2,X_3"]) A와 x를 내적하면 I..
In [2]: import numpy as np import matplotlib.pyplot as plt from mpl_toolkits import mplot3d In [3]: # 어떤 행렬을 정의한다. x = np.matrix([[1,5,3],[2,3,6],[3,1,7]]) 5. LU분해¶ 1) 기본 개념¶(1) 기본 개념은, 각각 소블럭의 1행과 1열을 외적하여 행렬로 전개한 값을, 원래 행렬에서 지속적으로 빼서¶(2) a11 성분으로 나누어 1행과 1열을 원래 행렬의 값과 동일하게 만들어 준 후에¶(3) 1행과 1열을 0으로 만들어주면서 지속적으로 축소해준다.¶ 2) 기본 알고리즘¶ In [4]: # 1열에 1행을 외적할 경우, 생성되는 행렬의 1행과 1열엔 a00성분이 중복해서 들어가게 된다. ..
In [2]: import numpy as np import matplotlib.pyplot as plt from mpl_toolkits import mplot3d from mpl_toolkits.mplot3d.art3d import Poly3DCollection 4. 행렬 계산¶ 1) 해의 존재성 여부 판단¶ (1) 행렬의 정칙성¶ 행렬 A가 정방행렬인가? : 이는 변환전 공간과 변환 후 공간의 차원 동일성을 보장한다. 행렬 A가 Full-Rank인가? : 이는 변환후 공간의 차원을 열공간 Im(A)가 모두 차지했음을 보장하고, 또한 변환전 공간의 영공간 ker(A)가 0차원임을 보장한다. (2) 해의 성질¶- Ax = y가 해를 갖기위한 조건은, y가 열공간 Im(A)에 속하는 것이다.¶ In [13..
In [9]: import numpy as np import matplotlib.pyplot as plt from mpl_toolkits import mplot3d from mpl_toolkits.mplot3d.art3d import Poly3DCollection 2. 차원과 공간¶ 1) 열공간과 영공간¶ (1) 영공간¶ 선형변환 결과 변환된 공간에서 영벡터로 수렴하는 변환전 부분공간을 영공간이라고 한다.¶ In [263]: plt.figure(figsize = (20,5)) ax = plt.axes(projection="3d") fig_1 = plt.subplot(1,3,1,projection="3d") fig_2 = plt.subplot(1,3,2) x = [0,1,1,0] y = [0,0,1,1] ..
In [1]: import numpy as np import matplotlib.pyplot as plt from mpl_toolkits import mplot3d 3) 행렬식¶ (1) 행렬식은 부분공간의 선형변환에서의 부피 확대율이다.¶ In [9]: # - 성질 print(np.identity(3)) print("행렬식 : ",np.linalg.det(np.identity(3))) [[1. 0. 0.] [0. 1. 0.] [0. 0. 1.]] 행렬식 : 1.0 성질1 : 단위행렬의 행렬식은 1이다. In [16]: A = np.matrix([[2,3],[4,1]]) B = np.matrix([[4,2],[3,1]]) print(np.linalg.det(np.dot(A,B))) print(np.lina..
In [2]: import numpy as np import matplotlib.pyplot as plt from mpl_toolkits import mplot3d 1. 기본 개념¶ 1) 벡터¶ In [134]: # (1) 수를 나열한것을 벡터라고 부른다. x_2 = np.array([2,5]) # 2차원 벡터 x_3 = np.array([6,3,3]) #3차원 벡터 x_4 = np.array([2.9,0.3,1/7,4,42]) #5차원 벡터 In [17]: # (2) 벡터의 공간은 자유롭게 활용 가능하다. print(x_2) print(x_2.T) [2 5] [2 5] In [133]: # (3) 벡터끼리는 덧셈과 뺄셈 그리고 정수배가 가능하다. x_3_2 = np.array([2,5,6]) print..

적률생성함수? 적률? 1) 적률생성함수는 확률변수의 '적률'을 생성해주는 함수 2) 적률이란 영어로 번역하면 모먼트(Moment)로, 확률 변수가 물리학의 모먼트같이 확률 변수의 특성을 각각의 차원별로 나타나게 해주는 통계량이다 적률생성함수의 정의 1) X를 $e^{tx}$ 라는 기댓값이 존재하는 확률변수라고 하면, E{(e^{tx})} 로 표현할 수 있다. 2) 위와 같은 상황에서 ${(1)}$ 이산형 확률분포라면, $E{(e^{tx})} = \sum (e^{tx})p[x] < \infty$ ${(2)}$ 연속형 확률분포라면 $E{(e^{tx})} = \int_{-\infty}^{\infty}e^{tx}f(x)dx$ 3) 결국, $E{(e^{tx})} = M(t)$로 정의하며, 이 함수를 적률생성함수라..
기댓값? 1) 각 사건이 벌어졌을때의 원하는 바가 이루어질 것으로 기대되는 이득과 그 건수들의 확률을 곱해 모두 더한 것 2) 우리가 흔히 말하는 평균이 이 정의에 포함된다. 정의 1) 연속형 확률변수의 경우 (1) $\int_{-\infty }^{ \infty }{|x|}f{(x)}dx < \infty $ 일때 ${(즉, 발산하지 않고 수렴할 때)}$ (2) 연속형 확률변수의 기댓값 $E{(X)}$는 $\int_{-\infty }^{\infty}{x}f{(x)}dx$로 구한다 2) 이산형 확률변수의 경우 (1) $\sum _{-\infty }^{ \infty }{|x|}p{(x)} < \infty$ 일때${(즉, 발산하지 않고 수렴할 때)}$ (2) 이산형 확률변수의 기댓값은 $\sum _{-\inft..

확률변수의 변환 1) 확률변수 X를 다른 확률변수 Y에 대응시키는것 2) 1대 1 대응(전단사 함수)인 경우와 1대 다 대응인 경우가 존재 1대 1 대응(전단사 함수)일 경우의 확률변환 1) 의 관계가 성립된다고 한다면 역행렬이 존재하며 2) 역함수 를 X 대신 대입하면 변환이 완료된다 1대 다 대응일 경우 확률변환 1) 하나 하나의 포인트에 대하여 각각 관계를 설정할 수 밖에 없다 연속확률변수의 변환 1) 확률변수 X가 PDF $f_{x}{(x)}$를 가지고, 확률변수 Y에 대한 PDF $y=g_{x}{(x)}$라 하고 각각의 PDF의 받침 $s_{x}$와 $s_{y}$가 서로 1:1로 대응되는, 즉 전단사 함수 관계라고 할 때 2) $P( Y \leq {y} )= P\left ( y\leq {g{(X..

확률 변수란? 표본의 공간을 e라고 정의할 때, 공간에 속하는 각 원소 c를 실수공간 ℝ에 나타나도록 사영(Projection)하는 함수 1) 예를 들어, 동전 던지기라는 실험에 대한 표본공간 e에 대하여 '앞면 또는 뒷면', 혹은 '처음 앞면이 나타난 순서'라는 함수 관계를 정의할 경우, 이 함수를 '확률 변수'라고 할 수 있음 확률 변수는 다시 실수공간에 포함되는 실수값을 셀 수 있는 경우인 이산(Discrete) 확률변수와, 특정 구간에 속해있는 전체 실수로 표현 가능하여 명확하게 셀수는 없는 경우인 연속(Continuous) 확률변수로 구분 가능함 확률 질량 함수(PMF) : 이산형(Discrete) 확률 변수에서 어떤 포인트의 확률 값을 나타내는 함수 1) 각각의 포인트에 대하여 그 확률값을 표..