AI・プログラミング実戦活用

AI・プログラミング・3Dゲームエンジン数学実戦活用事典

教科書の数学公式がLLM、3Dグラフィックス、クオンツ金融、暗号技術でどのように実装されているかをコード付きで解説します。

The Mathematical Pipeline Behind ChatGPT & Claude Token Generation
Attention⁡(Q,K,V)=softmax⁡ ⁣(QKTdk)V\operatorname{Attention}(Q,K,V) = \operatorname{softmax}\!\left(\frac{QK^T}{\sqrt{d_k}}\right)V
  • Dot Product (#L02): Measures Query-Key semantic alignment across tokens
  • Matrix Multiplication (#L04): Parallelizes multi-head projection on GPU Tensor Cores
  • Softmax (#P10): Converts raw logits into temperature-controlled token probabilities
  • Cross-Entropy (#P09) & Chain Rule (#C03): Evaluates loss and backpropagates gradients

Large Language Models (LLM & Transformer)

Computes contextual token similarity via scaled dot products, normalizes weights with Softmax, and backpropagates Cross-Entropy Loss via the Chain Rule.

#L02 · 線形代数

ベクトルの内積(ドット積)とコサイン類似度

a⋅b=∑i=1naibi=∥a∥∥b∥cos⁡θ\mathbf{a} \cdot \mathbf{b} = \sum_{i=1}^{n} a_i b_i = \|\mathbf{a}\|\|\mathbf{b}\|\cos\theta

LLMのSelf-Attention(Q·K^T内積)、RAGベクトルDB検索、3Dグラフィックスのランバート拡散照明(N·L)

const cosSim = (a:number[], b:number[]) => dot(a,b) / (norm(a) * norm(b));
#L04 · 線形代数

行列の積と線形変換の合成 (GEMM)

(AB)ij=∑k=1nAikBkj(AB)_{ij} = \sum_{k=1}^{n} A_{ik} B_{kj}

NVIDIA GPU演算の90%を占めるAIディープラーニング全結合/Attention層および3D CGのMVP変換パイプライン

const matMul2 = (A:number[][], B:number[][]) => [[A[0][0]*B[0][0]+A[0][1]*B[1][0], A[0][0]*B[0][1]+A[0][1]*B[1][1]]];
#P02 · 確率・統計

条件付き確率と乗法定理

P(A∣B)=P(A∩B)P(B),P(A∩B)=P(B)P(A∣B)P(A \mid B) = \frac{P(A \cap B)}{P(B)}, \quad P(A \cap B) = P(B)P(A \mid B)

GPTなどの大規模言語モデル(LLM)が前の単語列から次の単語の条件付き確率を連鎖的に計算して文章を生成する核心式です。

const pAgivenB = (pAB, pB) => pB > 0 ? pAB / pB : 0;
#P09 · 確率・統計

情報エントロピーと交差エントロピー (Cross-Entropy)

H(P,Q)=−∑xP(x)log⁡Q(x)=H(P)+DKL(P∥Q)H(P, Q) = -\sum_x P(x) \log Q(x) = H(P) + D_{\mathrm{KL}}(P \parallel Q)

LLM(ChatGPT)の学習や画像分類モデルなど、現代のあらゆる分類・生成AIの標準損失関数(Cross-Entropy Loss)です。

const bceLoss = (y, yHat) => -(y * Math.log(yHat + 1e-9) + (1 - y) * Math.log(1 - yHat + 1e-9));
#P10 · 確率・統計

ソフトマックス関数 (Softmax) と確率的勾配降下法 (SGD)

σ(z)i=ezi/T∑j=1Kezj/T,θt+1=θt−η∇θL(θt)\sigma(\mathbf{z})_i = \frac{e^{z_i / T}}{\sum_{j=1}^K e^{z_j / T}}, \quad \theta_{t+1} = \theta_t - \eta \nabla_\theta \mathcal{L}(\theta_t)

TransformerのSelf-Attention、LLMのTemperatureサンプリング、そして全ての深層学習オプティマイザ(SGD, AdamW)の心臓部です。

const softmax = (zs, T=1) => { const exps = zs.map(z => Math.exp(z/T)); const s = exps.reduce((a,b)=>a+b,0); return exps.map(e => e/s); };
#C03 · 微分積分

積の微分法と合成関数の連鎖律 (Chain Rule)

dydx=dydu⋅dudx,(uv)′=u′v+uv′\frac{dy}{dx} = \frac{dy}{du} \cdot \frac{du}{dx},\quad (uv)' = u'v + uv'

ディープラーニング誤差逆伝播法(Backpropagation)およびPyTorch自動微分(Autograd)の中核原理

const dL_dw = dL_dy * dy_du * du_dw; // Backpropagation Chain Rule

全50数学公式 実装コード&AI活用マトリックス

#Linear Layer y=wx+b#UI Lerp Animation#Constraint Solver

機械学習の単一パーセプトロン(y = wx + b)の重み・バイアス計算およびUI線形補間(Lerp)

const solveLinear = (a: number, b: number) => -b / a;
#Polynomial Kernel SVM#Symbolic Algebra#Completing Square

機械学習の多項式カーネル(SVM)特徴量拡張および数式処理エンジン(CAS)の簡약化

const sqSum = (a: number, b: number) => a*a + 2*a*b + b*b;
#IEEE 754 Float#Shader Gamma Correction#Exponential Scaling

IEEE 754浮動小数点の指数部表現および3Dグラフィックスのガンマ補正(γ=2.2)

const gammaCorrect = (c: number, g = 2.2) => Math.pow(c, 1 / g);
#3D Ray Tracing#Physics Collision#Optimization Parabola

3Dレイトレーシングの光線・球体交差判定(判別式D≥0)および物理エンジンの弾道計算

const D = b*b - 4*a*c; const x1 = (-b + Math.sqrt(D)) / (2*a);
#Matrix Trace & Det#Control Theory Poles#Symmetric Polynomials

制御工学のシステム安定性判別および線形代数の固有値トレース・行列式検証

const sumRoots = -b / a; const prodRoots = c / a;
#O(log N) Complexity#Log-Likelihood AI#Information Theory

二分探索アルゴリズム計算量O(log₂ N)およびAI対数尤度(Log-Likelihood)のアンダーフロー防止

const logBase = (a: number, x: number) => Math.log(x) / Math.log(a);
#RL Discounted Return#Quant Finance DCF#Algorithm Loop Analysis

強化学習(RL)の割引累積報酬(∑ γ^t)の収束計算および金融工学の複利・現在価値算出

const geoSum = (a: number, r: number, n: number) => a * (1 - Math.pow(r, n)) / (1 - r);
#Bernstein Basis#Dynamic Programming#Combinatorial AI

3Dベジェ曲線のバーンスタイン基底多項式および機械学習アンサンブル多数決確率計算

const nCr = (n: number, k: number): number => k === 0 ? 1 : (n * nCr(n - 1, k - 1)) / k;
#Quantum Computing#RF Signal DSP#2D Rotation

音声・通信の高速フーリエ変換(FFT)、量子コンピュータの量子振幅、フラクタル生成

const mag = Math.hypot(re, im); const phase = Math.atan2(im, re);
#RSA Cryptography#Blockchain Security#Hash Table Modulo

HTTPS通信のRSA公開鍵暗号、ブロックチェーン電子署名、ハッシュテーブルのインデックス分散

const modPow = (a: bigint, e: bigint, m: bigint): bigint => /* binary exp */
#Game Physics Distance#L2 Metric Foundation#CAD Geometry

ゲームエンジンの衝突距離計算(Math.hypot)およびAIベクトル空間のL2距離測定の原型

const hypotenuse = (a: number, b: number) => Math.hypot(a, b);
#K-Means & KNN ML#A* Pathfinding#3D Spatial Query

機械学習のK近傍法(KNN)・K-Meansクラスタリングおよび3DゲームのA*経路探索ヒューリスティック

const dist3D = (dx: number, dy: number, dz: number) => Math.hypot(dx, dy, dz);
#Three.js Radians#Robotics Odometry#Shader Angles

Three.js・WebGLの標準角度演算およびロボット工学の車輪オドメトリ移動距離計算(l=rθ)

const degToRad = (deg: number) => (deg * Math.PI) / 180;
#LLM RoPE Encoding#Wave Shader#Circular Orbit

LLM Transformerの位置エンコーディング(RoPE)および3Dゲームの軌道・波動シェーダー

const posOnCircle = (r: number, rad: number) => ({ x: r * Math.cos(rad), y: r * Math.sin(rad) });
#Inverse Kinematics IK#GPS Triangulation#Vector Dot Product

ロボットアーム・3Dキャラ関節の逆運動学(IK)角度計算およびGPS三角測量

const cosC = (a*a + b*b - c*c) / (2 * a * b);
#Rotation Matrix Proof#5G QAM Modulation#Audio DSP

2D・3D回転行列の合成 R(α)R(β)=R(α+β) の導出および無線通信QAM変復調

const sinAdd = (a: number, b: number) => Math.sin(a)*Math.cos(b) + Math.cos(a)*Math.sin(b);
#Kepler Orbit Sim#Mahalanobis Ellipse#Antenna Optics

人工衛星ケプラー楕円軌道シミュレーションおよび機械学習の共分散マハラノビス楕円

const eccentricity = (a: number, b: number) => Math.sqrt(1 - (b*b)/(a*a));
#3D Globe Mapping#OrbitControls Camera#Spherical Harmonics

3D地球儀の360°全方位テクスチャマッピング、OrbitControlsカメラ制御、量子軌道球面調和関数

const toXYZ = (r:number, th:number, ph:number) => [r*Math.sin(ph)*Math.cos(th), r*Math.cos(ph), r*Math.sin(ph)*Math.sin(th)];
#3D Mesh Topology#Graph Theory#CAD Manifold Check

3Dモデリング・ゲームエンジンのポリゴンメッシュ多様体検証および半導体VLSI回路設計

const eulerChar = (V: number, E: number, F: number) => V - E + F;
#SVG & Font Rendering#CSS cubic-bezier#3D Camera Splines

SVG描画・CSS cubic-bezierイージング・フォント描画・自動運転および3Dカメラ軌道生成

const quadBezier = (p0:number, p1:number, p2:number, t:number) => (1-t)*(1-t)*p0 + 2*(1-t)*t*p1 + t*t*p2;
#Sigmoid & Softmax#Continuous Compounding#Calculus Foundation

深層学習の活性化関数(Sigmoid, Softmax)および金融工学の連続複利(e^rt)オプション価格計算

const approxE = (n: number) => Math.pow(1 + 1 / n, n);
#Numerical Differentiation#Physics Velocity#Optimization Extremum

物理エンジンの速度・加速度数値微分およびディープラーニング損失関数の傾き計算

const diff = (f: (x:number)=>number, x: number, h = 1e-5) => (f(x + h) - f(x - h)) / (2 * h);
#Deep Learning Backprop#PyTorch Autograd#Neural Net Training

ディープラーニング誤差逆伝播法(Backpropagation)およびPyTorch自動微分(Autograd)の中核原理

const dL_dw = dL_dy * dy_du * du_dw; // Backpropagation Chain Rule
#Physics RK4 Integrator#3D Rendering Equation#Probability CDF

物理エンジンの速度→位置積分、3Dレンダリング方程式、確率累積分布関数(CDF)の算出

const simpson = (f:(x:number)=>number, a:number, b:number) => ((b-a)/6)*(f(a)+4*f((a+b)/2)+f(b));
#FEM Physics Sim#Fourier Transform Proof#Signal Laplace

工学シミュレーションの有限要素法(FEM弱形式)およびフーリエ・ラプラス変換の導関数性質導出

const intXeX = (x: number) => (x - 1) * Math.exp(x) + 1; // ∫_0^x t*e^t dt
#XGBoost 2nd-Order Loss#CPU/GPU Fast Math#Physics Linearization

CPU・GPUの超越関数高速近似計算およびXGBoost・ニュートン法2次最適化アルゴリズム

const sinTaylor = (x: number) => x - (x**3)/6 + (x**5)/120 - (x**7)/5040;
#LLM RoPE e^(imθ)#Fourier Basis#Quantum Phase

LLM回転位置埋め込み(RoPE: e^imθ)、高速フーリエ変換(FFT)基底、量子コンピュータ位相ゲート

const eulerCis = (theta: number) => ({ re: Math.cos(theta), im: Math.sin(theta) });
#Gradient Descent -∇L#Computer Vision Sobel#Physics Field ∇

大規模AIモデルの勾配降下法(-∇L)学習および画像処理のエッジ検出(Sobel勾配フィルタ)

const grad2D = (a:number, b:number, x:number, y:number) => ({ gx: 2*a*x, gy: 2*b*y });
#Audio AI Spectrogram#5G/Wi-Fi OFDM#JPEG/MP3 Compression

AI音声認識(メルスペクトログラム)、MP3/JPEG圧縮、5G・Wi-Fi通信(OFDM)、医療MRI画像再構成

const dftBin = (sig: number[], k: number) => sig.reduce((s, x, n) => s + x * Math.cos(2*Math.PI*k*n/sig.length), 0);
#Diffusion AI ODE#Spring Physics UI#Control Engineering

画像生成AI(Diffusion ODEソルバー)、UI物理バネアニメーション(React Spring)、車両制御

const zeta = c / (2 * Math.sqrt(m * k)); const w0 = Math.sqrt(k / m);
#L1/L2 Regularization#3D Vector Normalize#Embedding Norm

深層学習のL1/L2正則化(Weight Decay)、LayerNorm、および3Dゲームの斜め移動速度正規化

const norm2 = Math.hypot(vx, vy, vz); const unit = [vx/norm2, vy/norm2, vz/norm2];
#LLM Self-Attention Q·K#RAG Vector DB#3D Lighting Shader

LLMのSelf-Attention(Q·K^T内積)、RAGベクトルDB検索、3Dグラフィックスのランバート拡散照明(N·L)

const cosSim = (a:number[], b:number[]) => dot(a,b) / (norm(a) * norm(b));
#3D Surface Normal#Physics Torque r×F#Back-face Culling

3Dポリゴン表面の法線ベクトル算出・背面カリングおよび物理エンジンのトルク(τ=r×F)計算

const cross = (a:number[], b:number[]) => [a[1]*b[2]-a[2]*b[1], a[2]*b[0]-a[0]*b[2], a[0]*b[1]-a[1]*b[0]];
#GPU Tensor Cores GEMM#Deep Learning Y=XW#3D MVP Pipeline

NVIDIA GPU演算の90%を占めるAIディープラーニング全結合/Attention層および3D CGのMVP変換パイプライン

const matMul2 = (A:number[][], B:number[][]) => [[A[0][0]*B[0][0]+A[0][1]*B[1][0], A[0][0]*B[0][1]+A[0][1]*B[1][1]]];
#3D Mouse Raycasting#Jacobian Determinant#Normalizing Flows

3Dゲームのマウスクリック逆投影(Raycasting: MVP⁻¹)および生成AIのヤコビアン行列式計算

const det2 = (a:number, b:number, c:number, d:number) => a * d - b * c;
#Linear Solver Ax=b#SPICE Circuit Sim#Normal Equations

電子回路シミュレータ(SPICE)、構造力学ソルバー、および最小二乗法の正規方程式求解

const det = a1*b2 - b1*a2; const x = (c1*b2 - b1*c2)/det; const y = (a1*c2 - c1*a2)/det;
#3D Engine Rotation#LiDAR Point Cloud#Orthogonal Matrix SO(3)

Three.js・Unreal・Unityの3Dオブジェクト回転変換および自動運転LiDAR点群マッチング

const rot2D = (x:number, y:number, r:number) => ({ x: x*Math.cos(r) - y*Math.sin(r), y: x*Math.sin(r) + y*Math.cos(r) });
#Google PageRank#Quantum Mechanics Hψ=Eψ#Spectral Graph Theory

Google検索のPageRankアルゴリズム、量子力学ハミルトニアン固有状態(Hψ=Eψ)、建築物の共振周波数解析

const tr = a + d; const det = a*d - b*c; const l1 = (tr + Math.sqrt(tr*tr - 4*det))/2;
#LLM LoRA Fine-Tuning#PCA Dimensionality#Recommender System

LLMの低ランク微調整(LoRA)、PCA高次元データ圧縮、推薦システム、画像ノイズ除去

const explainedRatio = (s1:number, s2:number, s3:number) => (s1*s1) / (s1*s1 + s2*s2 + s3*s3);
#Three.js Quaternion#Gimbal Lock Free#Aerospace Attitude

Three.js・Unity・Unrealの骨格アニメーション補間(SLERP)およびドローン・宇宙船の姿勢制御

const quatFromAxisZ = (rad: number) => ({ w: Math.cos(rad/2), x: 0, y: 0, z: Math.sin(rad/2) });
#Combinatorics#Search Space#Algorithm Complexity#Feature Selection

アルゴリズムの探索空間計算量解析、ハイパーパラメータ探索の組み合わせ数算出、特徴量選択に使用されます。

const nCr = (n, r) => Array.from({length: r}, (_, i) => (n - i) / (i + 1)).reduce((a, b) => a * b, 1);
#LLM Next-Token#Autoregressive AI#Markov Chains#Probabilistic Graphical Models

GPTなどの大規模言語モデル(LLM)が前の単語列から次の単語の条件付き確率を連鎖的に計算して文章を生成する核心式です。

const pAgivenB = (pAB, pB) => pB > 0 ? pAB / pB : 0;
#Spam Filter#Bayesian Inference#Medical AI Diagnosis#Kalman Filter

スパムメールフィルタ(ナイーブベイズ)、医療診断AIの偽陽性補正、自動運転のカルマンフィルタやベイズ最適化に直結します。

const bayes = (prior, sens, fpr) => (sens * prior) / (sens * prior + fpr * (1 - prior));
#Reinforcement Learning#Batch Normalization#Quant Risk#Weight Initialization

強化学習(RL)の期待報酬最大化、深層学習のバッチ正規化(BatchNorm/LayerNorm)、重み初期化の核心式です。

const mean = xs.reduce((a,b)=>a+b,0)/xs.length; const variance = xs.reduce((s,x)=>s+(x-mean)**2,0)/xs.length;
#A/B Testing#Dropout Regularization#CTR Modeling#Game Gacha Math

広告CTRのA/Bテスト有意性検定、深層学習のDropoutマスク確率モデル、ゲームのガチャ確率シミュレーションに使われます。

const binomPMF = (n, k, p) => nCr(n, k) * Math.pow(p, k) * Math.pow(1 - p, n - k);
#Diffusion Models#3D Gaussian Splatting#VAE Latent Space#Anomaly Detection

画像生成AI(Diffusionモデル)のガウスノイズ付加・除去、VAEの潜在空間、3D Gaussian Splatting(3DGS)の核心式です。

const normalPDF = (x, mu, sig) => Math.exp(-0.5 * ((x - mu) / sig) ** 2) / (sig * Math.sqrt(2 * Math.PI));
#Mini-Batch SGD#Monte Carlo Ray Tracing#Confidence Intervals#Statistical Inference

ミニバッチSGDにおけるバッチサイズnに応じた勾配ノイズ減少(1/√n)やモンテカルロ・レイトレーシングの誤差評価に使われます。

const stdError = (sigma, n) => sigma / Math.sqrt(n); const ci95 = (mean, se) => [mean - 1.96*se, mean + 1.96*se];
#Linear Regression#Supervised ML#Quant Finance Beta#Feature Engineering

機械学習の教師あり学習の基本である線形回帰予測、クオンツ金融のβ値算出、特徴量相関分析に使用されます。

const slope = covXY / varX; const intercept = meanY - slope * meanX; const r = covXY / Math.sqrt(varX * varY);
#Cross-Entropy Loss#LLM Pretraining#Information Theory#KL Divergence

LLM(ChatGPT)の学習や画像分類モデルなど、現代のあらゆる分類・生成AIの標準損失関数(Cross-Entropy Loss)です。

const bceLoss = (y, yHat) => -(y * Math.log(yHat + 1e-9) + (1 - y) * Math.log(1 - yHat + 1e-9));
#Transformer Attention#Deep Learning Optimizer#LLM Temperature#Backpropagation

TransformerのSelf-Attention、LLMのTemperatureサンプリング、そして全ての深層学習オプティマイザ(SGD, AdamW)の心臓部です。

const softmax = (zs, T=1) => { const exps = zs.map(z => Math.exp(z/T)); const s = exps.reduce((a,b)=>a+b,0); return exps.map(e => e/s); };