[딥러닝 입문 - 4] 선형 대수의 기초(9/9)
4.5.1 계산 예 1 합성 함수의 미분을 사용하여 다변수 함수의 미분을 구체적으로 계산해 봅시다. 로 합니다. 즉, g는 2 입력 4 출력, f는 4 입력 3 출력입니다. 이들에 대하여 를 계산합니다. 편미분을 정의대로 계산하면 가 됩니다(행렬 중, 등은 본래는 로 작성해야 하지만, 수식이 복잡해지기 때문에 생략했습니다). 따라서, 합성 함수의 미분 공식으로부터 가 됩니다. 공식을 적용할 때 u = g(x) 즉 를 사용했습니다. 4.5.2 계산 예 2 또 다른 예로, 합성 함수의 입출력이 1 변수가 될 때, 즉 M=1, L=1의 경우를 생각해 봅시다. 식을 단순화하기 위해, N=2로 합니다. 1 변수 임을 강조하고, u=g(x), y=f(u)와 스칼라 변수는 소문자를 사용합니다. f와 g를 합성한 함수..
2020. 7. 28.
[딥러닝 입문 - 4] 선형 대수의 기초(7/9)
4.2 벡터를 입력하는 함수 앞 절에서 보았던 나 는 벡터 x를 받아, 스칼라 를 출력하는 함수로 간주될 수 있습니다. x를 성분 표시하여 라고 쓰면, 이 함수는 2개의 스칼라 변수 x1, x2를 입력하는 다변수 함수입니다. 마찬가지로 입력 M개의 스칼라 변수의 함수는 M차원 벡터 1개를 입력하는 기능도 해석할 수 있습니다. 다변수 함수 f(x1,…,xM)는 입력을 정리해 로 쓰고, f(x)로 표기해도 상관없습니다. f(x)의 미분은 앞장에서 설명한 편미분을 각 변수 x1,…,xM 대해서 실시하여 로 계산합니다. 4.3 벡터 값 함수 다음으로 입력 말고 출력이 다변량인 함수를 보겠습니다. 첫째, 하나의 스칼라 변수 x를 입력하고, N개의 스칼라(즉, N차원 벡터를 1개)를 출력하는 함수 f(x)를 봅시다..
2020. 7. 24.
[딥러닝 입문 - 4] 선형 대수의 기초(4/9)
4.1.5. 행렬 곱에 의한 벡터 행렬의 크기 변화 행렬의 전후에서는 행렬의 형태가 변화합니다. 구체적으로는 크기가 (L, M)과 (M, N)인 행렬의 행렬 곱 결과는 크기가 (L, N)인 행렬이 됩니다. 앞의 3개의 연습 문제에서는 행렬과 벡터의 모양과 크기가 어떻게 변화했는지 확인해 봅시다. 특히 (3)에서, 맨 왼쪽의 벡터와 중간 행렬의 곱셈 결과가 행 벡터이기 때문에 크기의 변화가 (1)과 같은 케이스로 귀착된다는 점에 유의하십시오. 또한, 예를 들면 (3,1)의 행렬처럼 차원크기가 1이 된 경우, 그 차원을 삭제할 수 있습니다. 예를 들어 (2)의 계산 결과는 크기가 (2,1) 행렬이지만, 이것은 2차원 벡터로 처리합니다. 마찬가지로, (1), (3)의 결과는 사이즈가 (1,1) 행렬이지만, 스..
2020. 7. 18.
[딥러닝 입문 - 4] 선형 대수의 기초(2/9)
5.1.1 변수의 형태와 서체의 관계 많은 교과서(특히 선형 대수학 교과서)에서는, 변수를 한번 보고 그 형태가 무엇인지 알 수 있도록 특정 모양(벡터, 행렬 등)의 변수는 특정 글꼴을 사용하도록 되어 있습니다. 본 자료에 한정하지 않고, 수식을 볼 때는 변수의 글씨체를 보고, 그 변수의 형태를 의식하는 것을 추천합니다. 변수의 형태와 서체의 대응 관계는 교과서에 따라 유파가 있지만, 그 일례를 소개합니다(이 문서도 이 규약에 따릅니다). 구분 소문자 대문자 일반체 스칼라 변수 (a,b 등) 스칼라 상수 (A,B 등) Bold체 벡터 (x,y 등) 행렬, 텐서 (A,B 등) 5.1.2. 가산 ⋅ 감산 ⋅ 스칼라 곱 다음으로, 벡터, 행렬, 텐서의 연산에 대해 설명합니다. 가산(덧셈) 및 감산(뺄셈)은 같..
2020. 7. 16.
[딥러닝 입문 - 4] 선형 대수의 기초(1/9)
4. 선형 대수의 기초 기계 학습의 이론에는 선형 대수학에서 사용되는 개념이 많이 등장합니다. 이러한 개념을 이용함으로써 복수의 값이나 변수를 한꺼번에 처리할 수 있도록 수식을 간결하게 표현할 수 있습니다. 이 장에서는 특히, 다음의 개념을 차례로 소개하겠습니다. 스칼라, 벡터, 행렬, 텐서 벡터, 행렬의 연산(덧셈과 뺄셈, 스칼라 곱 · 내적 · 행렬곱) 특별한 행렬(단위행렬, 역 행렬) 다변수 함수(선형 결합, 이차 형식)와 그 미분 4.1 스칼라, 벡터, 행렬, 텐서 먼저 스칼라, 벡터, 행렬, 텐서라는 4개의 단어를 설명합니다. 스칼라(scalar)는 2.5, -1, π같은 하나의 값 또는 변수를 말합니다. 스칼라는 온도, 체중, 신장 같은 단일 수량을 의미합니다. 스칼라 변수를 나타내려면 처..
2020. 7. 15.
