직선과 다항식 — 미적분학 I · Mathematics for Machine Learning

미적분이 흥미로운 일을 해내기 전에, 먼저 미적분이 작용하는 함수들에 익숙해져야 합니다. 초반에 가장 큰 비중을 차지하는 두 가족이 바로 직선과 다항식입니다. 다행스러운 점은, 무엇을 봐야 하는지만 알면 공식만 보고도 거의 모든 것을 바로 읽어 낼 수 있다는 것입니다. 그래프를 그릴 필요가 없죠.

직선은 y = mx + b로 나타냅니다. 기울기 m은 가파른 정도(세로 변화량 나누기 가로 변화량)이고, b는 직선이 y축을 지나는 곳입니다. m이 양수면 오른쪽으로 올라가고, 음수면 내려가며, 0이면 평평합니다. 이것이 직선에 관한 이야기의 전부입니다.

일정한 속도로 타들어가는 양초는 완벽한 직선입니다: 매시간 같은 양만큼 높이가 줄어들기 때문에, 공식 y = mx + b 는 음의 기울기 m (연소율)과 절편 b (시작 높이)를 가집니다. 공중에 던져진 공은 다릅니다 — 높이가 올라갔다가 떨어지며 포물선, 즉 2차 방정식 ax² + bx + c 의 U자형 그래프를 그립니다. 하나는 휘어지고, 다른 하나는 직선을 유지하며, 점을 찍어보기 전부터 공식이 어느 쪽인지 알려줍니다.

머신러닝에서의 위치다항식은 테일러 근사(모듈 10)의 원재료입니다. 어떤 점 근처에서는 시그모이드나 손실 표면 같은 거의 모든 매끄러운 함수를 낮은 차수의 다항식으로 잘 근사할 수 있습니다. 그리고 판별식의 아이디어는 더 넓게 일반화됩니다. 최적화에서 «2차» 양의 부호(헤세 행렬의 고윳값)는 지금 있는 곳이 그릇인지, 돔인지, 안장점인지 알려 줍니다. 이는 포물선에서 a가 하는 역할과 정확히 같습니다.