AI · 프로그래밍 실전 활용처

AI · 프로그래밍 · 3D 게임엔진 수학 실전 활용 사전

교과서 속 수학 공식이 현업 인공지능(LLM·디퓨전), 3D 그래픽스 엔진(Unity/Unreal/WebGL), 퀀트 금융, 암호학 코드에서 어떻게 구현되는지 한 줄 요약과 코드 스니펫으로 확인하세요.

ChatGPT와 Claude가 문맥을 이해하고 다음 단어를 생성하는 수학 파이프라인
Attention⁡(Q,K,V)=softmax⁡ ⁣(QKTdk)V\operatorname{Attention}(Q,K,V) = \operatorname{softmax}\!\left(\frac{QK^T}{\sqrt{d_k}}\right)V
  • 내적(Dot Product #L02): Query와 Key 벡터의 코사인 유사도로 단어 간 주목도 산출
  • 행렬 곱셈(Matrix Mult #L04): GPU 텐서코어로 수천 개 토큰의 어텐션 가중합 병렬 연산
  • 소프트맥스(Softmax #P10): 로짓 점수를 온도(T)가 반영된 다음 단어 확률분포로 변환
  • 교차 엔트로피(Cross-Entropy #P09) & 연쇄법칙(Chain Rule #C03): 예측 오차 계산 및 가중치 역전파

대규모 언어모델 (LLM · Transformer)

토큰 임베딩 벡터들의 내적으로 문맥 유사도를 구하고, 행렬 곱셈과 소프트맥스 확률 분포를 거쳐 교차 엔트로피 손실을 연쇄법칙으로 역전파합니다.

#L02 · 선형대수

벡터의 내적(Dot Product)과 코사인 유사도

a⋅b=∑i=1naibi=∥a∥∥b∥cos⁡θ\mathbf{a} \cdot \mathbf{b} = \sum_{i=1}^{n} a_i b_i = \|\mathbf{a}\|\|\mathbf{b}\|\cos\theta

ChatGPT·LLM 어텐션(Q·K^T 내적) 및 임베딩 벡터 DB 검색(Cosine Similarity), 3D 그래픽스 램버트 조명(N·L) 셰이더

const cosSim = (a:number[], b:number[]) => dot(a,b) / (norm(a) * norm(b));
#L04 · 선형대수

행렬 곱셈과 선형변환 합성 (GEMM)

(AB)ij=∑k=1nAikBkj(AB)_{ij} = \sum_{k=1}^{n} A_{ik} B_{kj}

NVIDIA GPU 텐서코어 연산의 90%를 차지하는 AI 딥러닝 레이어(Y = XW + B) 및 3D 그래픽스 Model-View-Projection(MVP) 행렬 파이프라인

const matMul2 = (A:number[][], B:number[][]) => [[A[0][0]*B[0][0]+A[0][1]*B[1][0], A[0][0]*B[0][1]+A[0][1]*B[1][1]]];
#P02 · 확률·통계

조건부확률과 곱셈정리

P(A∣B)=P(A∩B)P(B),P(A∩B)=P(B)P(A∣B)P(A \mid B) = \frac{P(A \cap B)}{P(B)}, \quad P(A \cap B) = P(B)P(A \mid B)

ChatGPT 등 대규모 언어모델(LLM)이 이전 단어들이 주어졌을 때 다음 단어의 조건부확률 P(w_t | w_<t)을 연쇄적으로 곱해 문장을 생성하는 핵심 수식입니다.

const pAgivenB = (pAB, pB) => pB > 0 ? pAB / pB : 0;
#P09 · 확률·통계

정보 엔트로피와 교차 엔트로피 (Cross-Entropy)

H(P,Q)=−∑xP(x)log⁡Q(x)=H(P)+DKL(P∥Q)H(P, Q) = -\sum_x P(x) \log Q(x) = H(P) + D_{\mathrm{KL}}(P \parallel Q)

ChatGPT(LLM) 학습, 이미지 분류 CNN/ViT 등 현대 모든 분류·생성 딥러닝 모델의 표준 손실함수(Cross-Entropy Loss)이자 결정트리(XGBoost) 정보이득의 핵심입니다.

const bceLoss = (y, yHat) => -(y * Math.log(yHat + 1e-9) + (1 - y) * Math.log(1 - yHat + 1e-9));
#P10 · 확률·통계

소프트맥스(Softmax)와 확률적 경사하강법 (SGD)

σ(z)i=ezi/T∑j=1Kezj/T,θt+1=θt−η∇θL(θt)\sigma(\mathbf{z})_i = \frac{e^{z_i / T}}{\sum_{j=1}^K e^{z_j / T}}, \quad \theta_{t+1} = \theta_t - \eta \nabla_\theta \mathcal{L}(\theta_t)

트랜스포머 어텐션(Attention = Softmax(QKᵀ/√d)V), LLM 온도(Temperature) 샘플링, 그리고 모든 딥러닝 옵티마이저(SGD, AdamW)의 심장부입니다.

const softmax = (zs, T=1) => { const exps = zs.map(z => Math.exp(z/T)); const s = exps.reduce((a,b)=>a+b,0); return exps.map(e => e/s); };
#C03 · 미적분

곱의 미분법과 합성함수 연쇄법칙 (Chain Rule)

dydx=dydu⋅dudx,(uv)′=u′v+uv′\frac{dy}{dx} = \frac{dy}{du} \cdot \frac{du}{dx},\quad (uv)' = u'v + uv'

딥러닝 신경망 오차 역전파(Backpropagation) 및 PyTorch·TensorFlow 자동미분(Autograd) 엔진의 핵심 원리

const dL_dw = dL_dy * dy_du * du_dw; // Backpropagation Chain Rule

전체 50대 수학 공식 실전 코드 & AI 활용 매트릭스

#Linear Layer y=wx+b#UI Lerp Animation#Constraint Solver

머신러닝 단일 퍼셉트론(y = wx + b) 가중치·편향 모델링 및 UI 레이아웃 선형 보간(Lerp) 연산

const solveLinear = (a: number, b: number) => -b / a;
#Polynomial Kernel SVM#Symbolic Algebra#Completing Square

머신러닝 다항 회귀(Polynomial Kernel SVM) 특성 확장 및 암호학 큰 수 인수분해 알고리즘

const sqSum = (a: number, b: number) => a*a + 2*a*b + b*b;
#IEEE 754 Float#Shader Gamma Correction#Exponential Scaling

컴퓨터 부동소수점(IEEE 754 Floating Point) 지수부 표현 및 3D 그래픽스 감마 보정(Gamma 2.2)

const gammaCorrect = (c: number, g = 2.2) => Math.pow(c, 1 / g);
#3D Ray Tracing#Physics Collision#Optimization Parabola

3D 게임 레이트레이싱(Ray-Sphere Intersection) 광선-구체 충돌 판정 및 물리 탄도학 착탄 시간 계산

const D = b*b - 4*a*c; const x1 = (-b + Math.sqrt(D)) / (2*a);
#Matrix Trace & Det#Control Theory Poles#Symmetric Polynomials

제어공학 시스템 안정성 판별(극점의 합·곱) 및 선형대수 고윳값 대각합(Trace)·행렬식 검증

const sumRoots = -b / a; const prodRoots = c / a;
#O(log N) Complexity#Log-Likelihood AI#Information Theory

이진 탐색·트리 알고리즘 시간복잡도 O(log₂ N) 계산 및 딥러닝 로그 우도(Log-Likelihood) 수치 언더플로 방지

const logBase = (a: number, x: number) => Math.log(x) / Math.log(a);
#RL Discounted Return#Quant Finance DCF#Algorithm Loop Analysis

강화학습(RL) 할인 누적 보상(Discounted Return γ^t) 수렴 계산 및 금융 복리·연금 현재가치 산출

const geoSum = (a: number, r: number, n: number) => a * (1 - Math.pow(r, n)) / (1 - r);
#Bernstein Basis#Dynamic Programming#Combinatorial AI

3D 그래픽스 베지에 곡선(Bernstein 다항식 기저) 생성 및 앙상블 머신러닝 다수결 확률 계산

const nCr = (n: number, k: number): number => k === 0 ? 1 : (n * nCr(n - 1, k - 1)) / k;
#Quantum Computing#RF Signal DSP#2D Rotation

음성·통신 신호처리(FFT 복소 스펙트럼), 양자컴퓨팅 큐비트 상태 진폭 및 프랙탈(만델브로트) 그래픽 생성

const mag = Math.hypot(re, im); const phase = Math.atan2(im, re);
#RSA Cryptography#Blockchain Security#Hash Table Modulo

HTTPS·금융 보안 RSA 공개키 암호화, 블록체인 전자서명 및 해시 테이블(Hash Map) 충돌 분산

const modPow = (a: bigint, e: bigint, m: bigint): bigint => /* binary exp */
#Game Physics Distance#L2 Metric Foundation#CAD Geometry

게임 엔진 캐릭터 충돌 거리 계산(Math.hypot) 및 AI 고차원 임베딩 공간 L2 거리 측정의 원형

const hypotenuse = (a: number, b: number) => Math.hypot(a, b);
#K-Means & KNN ML#A* Pathfinding#3D Spatial Query

머신러닝 K-최근접 이웃(KNN)·K-Means 클러스터링 유사도 거리 계산 및 3D 게임 A* 길찾기 휴리스틱

const dist3D = (dx: number, dy: number, dz: number) => Math.hypot(dx, dy, dz);
#Three.js Radians#Robotics Odometry#Shader Angles

Three.js·WebGL·로보틱스 모든 표준 각도 연산(Math.sin/cos 라디안 입력) 및 휠 오도메트리 이동거리 계산

const degToRad = (deg: number) => (deg * Math.PI) / 180;
#LLM RoPE Encoding#Wave Shader#Circular Orbit

LLM 트랜스포머 위치 인코딩(RoPE / Sinusoidal Positional Encoding) 및 3D 게임 원운동·파동 셰이더

const posOnCircle = (r: number, rad: number) => ({ x: r * Math.cos(rad), y: r * Math.sin(rad) });
#Inverse Kinematics IK#GPS Triangulation#Vector Dot Product

로보틱스 팔·3D 캐릭터 관절 역기구학(Inverse Kinematics, IK) 각도 해산 및 GPS 삼각측량

const cosC = (a*a + b*b - c*c) / (2 * a * b);
#Rotation Matrix Proof#5G QAM Modulation#Audio DSP

2D·3D 그래픽스 연속 회전변환(R(α)R(β) = R(α+β)) 유도 및 무선통신 직교주파수변조(QAM) 신호 복조

const sinAdd = (a: number, b: number) => Math.sin(a)*Math.cos(b) + Math.cos(a)*Math.sin(b);
#Kepler Orbit Sim#Mahalanobis Ellipse#Antenna Optics

우주·인공위성 케플러 타원 궤도 시뮬레이션 및 머신러닝 다변량 가우시안 공분산 타원(Mahalanobis 등고선)

const eccentricity = (a: number, b: number) => Math.sqrt(1 - (b*b)/(a*a));
#3D Globe Mapping#OrbitControls Camera#Spherical Harmonics

3D 지구본·행성 360° 전구 텍스처 매핑, 3D 카메라 OrbitControls 공전 좌표 및 양자 오비탈 구면조화함수

const toXYZ = (r:number, th:number, ph:number) => [r*Math.sin(ph)*Math.cos(th), r*Math.cos(ph), r*Math.sin(ph)*Math.sin(th)];
#3D Mesh Topology#Graph Theory#CAD Manifold Check

3D 모델링·게임 엔진 폴리곤 메쉬(Manifold Mesh) 무결성 검증 및 반도체 회로 평면 그래프 설계

const eulerChar = (V: number, E: number, F: number) => V - E + F;
#SVG & Font Rendering#CSS cubic-bezier#3D Camera Splines

SVG·CSS 애니메이션 이징(cubic-bezier), 트루타입 폰트 렌더링 및 자율주행·게임 3D 카메라 매끄러운 궤적 생성

const quadBezier = (p0:number, p1:number, p2:number, t:number) => (1-t)*(1-t)*p0 + 2*(1-t)*t*p1 + t*t*p2;
#Sigmoid & Softmax#Continuous Compounding#Calculus Foundation

딥러닝 활성화 함수(Sigmoid, GELU, Softmax) 지수 연산 및 금융공학 연속 복리(e^(rt)) 옵션 가격 모델

const approxE = (n: number) => Math.pow(1 + 1 / n, n);
#Numerical Differentiation#Physics Velocity#Optimization Extremum

물리 엔진 속도·가속도 수치미분(Finite Difference) 및 딥러닝 손실함수 기울기(Gradient) 탐색

const diff = (f: (x:number)=>number, x: number, h = 1e-5) => (f(x + h) - f(x - h)) / (2 * h);
#Deep Learning Backprop#PyTorch Autograd#Neural Net Training

딥러닝 신경망 오차 역전파(Backpropagation) 및 PyTorch·TensorFlow 자동미분(Autograd) 엔진의 핵심 원리

const dL_dw = dL_dy * dy_du * du_dw; // Backpropagation Chain Rule
#Physics RK4 Integrator#3D Rendering Equation#Probability CDF

게임 물리 엔진 속도→위치 적분(Verlet/Runge-Kutta), 3D 렌더링 방정식(Ray Marching) 및 확률 누적분포(CDF) 계산

const simpson = (f:(x:number)=>number, a:number, b:number) => ((b-a)/6)*(f(a)+4*f((a+b)/2)+f(b));
#FEM Physics Sim#Fourier Transform Proof#Signal Laplace

공학 시뮬레이션 유한요소해석(FEM 약형 정식화) 및 푸리에·라플라스 변환 도함수 성질 유도

const intXeX = (x: number) => (x - 1) * Math.exp(x) + 1; // ∫_0^x t*e^t dt
#XGBoost 2nd-Order Loss#CPU/GPU Fast Math#Physics Linearization

CPU·GPU 하드웨어 초월함수(Math.sin/exp) 고속 근사 계산 및 AI 2차 최적화(Newton-Raphson / XGBoost 2차 테일러 전개)

const sinTaylor = (x: number) => x - (x**3)/6 + (x**5)/120 - (x**7)/5040;
#LLM RoPE e^(imθ)#Fourier Basis#Quantum Phase

LLM 회전 위치 임베딩(RoPE: e^(imθ)), 오디오·영상 푸리에 변환(FFT) 기저 및 양자역학 파동함수 위상 연산

const eulerCis = (theta: number) => ({ re: Math.cos(theta), im: Math.sin(theta) });
#Gradient Descent -∇L#Computer Vision Sobel#Physics Field ∇

수십억 파라미터 LLM·딥러닝 손실함수 경사하강법(-∇L) 및 컴퓨터 비전 이미지 엣지 검출(Sobel Gradient)

const grad2D = (a:number, b:number, x:number, y:number) => ({ gx: 2*a*x, gy: 2*b*y });
#Audio AI Spectrogram#5G/Wi-Fi OFDM#JPEG/MP3 Compression

AI 음성인식(Whisper 멜-스펙트로그램 추출), JPEG/MP3 압축, 5G·Wi-Fi OFDM 무선통신 및 의료 MRI 영상 복원

const dftBin = (sig: number[], k: number) => sig.reduce((s, x, n) => s + x * Math.cos(2*Math.PI*k*n/sig.length), 0);
#Diffusion AI ODE#Spring Physics UI#Control Engineering

생성형 이미지 AI(Stable Diffusion 확률미분방정식/ODE 솔버), React Spring UI 물리 애니메이션 및 차량 서스펜션 제어

const zeta = c / (2 * Math.sqrt(m * k)); const w0 = Math.sqrt(k / m);
#L1/L2 Regularization#3D Vector Normalize#Embedding Norm

딥러닝 가중치 감쇠(L2 Weight Decay / L1 Lasso 정규화), LayerNorm 및 3D 게임 대각선 이동 속도 보정(Normalize)

const norm2 = Math.hypot(vx, vy, vz); const unit = [vx/norm2, vy/norm2, vz/norm2];
#LLM Self-Attention Q·K#RAG Vector DB#3D Lighting Shader

ChatGPT·LLM 어텐션(Q·K^T 내적) 및 임베딩 벡터 DB 검색(Cosine Similarity), 3D 그래픽스 램버트 조명(N·L) 셰이더

const cosSim = (a:number[], b:number[]) => dot(a,b) / (norm(a) * norm(b));
#3D Surface Normal#Physics Torque r×F#Back-face Culling

3D 그래픽스 폴리곤 삼각형 표면 법선벡터(Surface Normal)·후면 제거(Back-face Culling) 및 물리 토크(τ = r × F)·로렌츠 힘 계산

const cross = (a:number[], b:number[]) => [a[1]*b[2]-a[2]*b[1], a[2]*b[0]-a[0]*b[2], a[0]*b[1]-a[1]*b[0]];
#GPU Tensor Cores GEMM#Deep Learning Y=XW#3D MVP Pipeline

NVIDIA GPU 텐서코어 연산의 90%를 차지하는 AI 딥러닝 레이어(Y = XW + B) 및 3D 그래픽스 Model-View-Projection(MVP) 행렬 파이프라인

const matMul2 = (A:number[][], B:number[][]) => [[A[0][0]*B[0][0]+A[0][1]*B[1][0], A[0][0]*B[0][1]+A[0][1]*B[1][1]]];
#3D Mouse Raycasting#Jacobian Determinant#Normalizing Flows

3D 화면 마우스 클릭 좌표를 3D 월드 공간으로 역투영(Raycasting Unproject: MVP⁻¹) 및 생성형 AI Normalizing Flows 확률밀도 야코비안 계산

const det2 = (a:number, b:number, c:number, d:number) => a * d - b * c;
#Linear Solver Ax=b#SPICE Circuit Sim#Normal Equations

전자회로 시뮬레이터(SPICE 키르히호프 방정식), 구조역학 유한요소해석 및 최소제곱 정규방정식(A^T A x = A^T b) 해산

const det = a1*b2 - b1*a2; const x = (c1*b2 - b1*c2)/det; const y = (a1*c2 - c1*a2)/det;
#3D Engine Rotation#LiDAR Point Cloud#Orthogonal Matrix SO(3)

Three.js·Unreal·Unity 3D 오브젝트/카메라 회전 변환 및 자율주행 LiDAR 포인트클라우드 좌표계 정합(ICP)

const rot2D = (x:number, y:number, r:number) => ({ x: x*Math.cos(r) - y*Math.sin(r), y: x*Math.sin(r) + y*Math.cos(r) });
#Google PageRank#Quantum Mechanics Hψ=Eψ#Spectral Graph Theory

구글 검색엔진 PageRank 알고리즘, 양자역학 해밀토니안 에너지 준위(Hψ = Eψ) 및 교량·건물 공진 주파수 해석

const tr = a + d; const det = a*d - b*c; const l1 = (tr + Math.sqrt(tr*tr - 4*det))/2;
#LLM LoRA Fine-Tuning#PCA Dimensionality#Recommender System

LLM 저랭크 미세조정(LoRA: ΔW = BA), 고차원 데이터 주성분 차원축소(PCA), 넷플릭스 추천시스템 및 이미지 압축

const explainedRatio = (s1:number, s2:number, s3:number) => (s1*s1) / (s1*s1 + s2*s2 + s3*s3);
#Three.js Quaternion#Gimbal Lock Free#Aerospace Attitude

Three.js·Unity·Unreal 캐릭터 관절 애니메이션(Quaternion SLERP) 및 드론·우주선 자세 제어(짐벌락 방지)

const quatFromAxisZ = (rad: number) => ({ w: Math.cos(rad/2), x: 0, y: 0, z: Math.sin(rad/2) });
#Combinatorics#Search Space#Algorithm Complexity#Feature Selection

알고리즘 시간복잡도(탐색 공간 크기) 분석, 하이퍼파라미터 그리드 서치 조합 수 산출 및 유전 알고리즘 교차 연산에 사용됩니다.

const nCr = (n, r) => Array.from({length: r}, (_, i) => (n - i) / (i + 1)).reduce((a, b) => a * b, 1);
#LLM Next-Token#Autoregressive AI#Markov Chains#Probabilistic Graphical Models

ChatGPT 등 대규모 언어모델(LLM)이 이전 단어들이 주어졌을 때 다음 단어의 조건부확률 P(w_t | w_<t)을 연쇄적으로 곱해 문장을 생성하는 핵심 수식입니다.

const pAgivenB = (pAB, pB) => pB > 0 ? pAB / pB : 0;
#Spam Filter#Bayesian Inference#Medical AI Diagnosis#Kalman Filter

스팸 메일 필터링(나이브 베이즈), 의료 진단 AI의 위양성 보정, 자율주행 칼만/파티클 필터의 센서 위치 추정 및 베이지안 최적화에 직결됩니다.

const bayes = (prior, sens, fpr) => (sens * prior) / (sens * prior + fpr * (1 - prior));
#Reinforcement Learning#Batch Normalization#Quant Risk#Weight Initialization

강화학습(RL)의 누적 보상 기댓값 최대화, 딥러닝 배치 정규화(BatchNorm/LayerNorm) 및 가중치 초기화(Xavier/He)의 핵심 수식입니다.

const mean = xs.reduce((a,b)=>a+b,0)/xs.length; const variance = xs.reduce((s,x)=>s+(x-mean)**2,0)/xs.length;
#A/B Testing#Dropout Regularization#CTR Modeling#Game Gacha Math

웹·앱 광고 클릭률(CTR) A/B 테스트 유의성 검정, 드롭아웃(Dropout) 뉴런 마스킹 확률 모델링 및 게임 가챠(확률형 아이템) 시뮬레이션에 쓰입니다.

const binomPMF = (n, k, p) => nCr(n, k) * Math.pow(p, k) * Math.pow(1 - p, n - k);
#Diffusion Models#3D Gaussian Splatting#VAE Latent Space#Anomaly Detection

스테이블 디퓨전(Diffusion Models)의 가우시안 노이즈 추가·제거 과정, VAE(변분 오토인코더) 잠재공간, 가우시안 스플래팅(3DGS) 렌더링의 핵심 수식입니다.

const normalPDF = (x, mu, sig) => Math.exp(-0.5 * ((x - mu) / sig) ** 2) / (sig * Math.sqrt(2 * Math.PI));
#Mini-Batch SGD#Monte Carlo Ray Tracing#Confidence Intervals#Statistical Inference

미니배치 확률적 경사하강법(Mini-batch SGD)에서 배치 크기 n에 따른 그래디언트 분산 감소(1/√n) 및 몬테카를로 시뮬레이션 오차 추정에 사용됩니다.

const stdError = (sigma, n) => sigma / Math.sqrt(n); const ci95 = (mean, se) => [mean - 1.96*se, mean + 1.96*se];
#Linear Regression#Supervised ML#Quant Finance Beta#Feature Engineering

머신러닝 지도학습(Supervised Learning)의 가장 기본 모델인 선형회귀 예측기, 퀀트 금융 포트폴리오 베타(β) 및 특징 상관 행렬 분석에 사용됩니다.

const slope = covXY / varX; const intercept = meanY - slope * meanX; const r = covXY / Math.sqrt(varX * varY);
#Cross-Entropy Loss#LLM Pretraining#Information Theory#KL Divergence

ChatGPT(LLM) 학습, 이미지 분류 CNN/ViT 등 현대 모든 분류·생성 딥러닝 모델의 표준 손실함수(Cross-Entropy Loss)이자 결정트리(XGBoost) 정보이득의 핵심입니다.

const bceLoss = (y, yHat) => -(y * Math.log(yHat + 1e-9) + (1 - y) * Math.log(1 - yHat + 1e-9));
#Transformer Attention#Deep Learning Optimizer#LLM Temperature#Backpropagation

트랜스포머 어텐션(Attention = Softmax(QKᵀ/√d)V), LLM 온도(Temperature) 샘플링, 그리고 모든 딥러닝 옵티마이저(SGD, AdamW)의 심장부입니다.

const softmax = (zs, T=1) => { const exps = zs.map(z => Math.exp(z/T)); const s = exps.reduce((a,b)=>a+b,0); return exps.map(e => e/s); };