Học máy & Tối ưu hóa

Danh sách đầy đủ các thuật toán trong nhóm (Tổng: 3)

Học máy & Tối ưu hóa

Adam Optimization Algorithm

Thời gian (Time) O(Epochs * N)
Không gian (Space) O(Weights)

Mô tả nguyên lý

Thuật toán ước lượng moment bậc nhất và bậc hai thích ứng dùng phổ biến trongDeep Learning.

Cài đặt mẫu (Implementation)

// Tính toán tốc độ học thích ứng riêng biệt cho từng tham số dựa trên trung bình động của gradient.
Học máy & Tối ưu hóa

RMSprop Optimization Algorithm

Thời gian (Time) O(Epochs * N)
Không gian (Space) O(Weights)

Mô tả nguyên lý

Chia tốc độ học cho căn bậc hai của trung bình động bình phương gradient gần nhất.

Cài đặt mẫu (Implementation)

// Ổn định bước nhảy gradient trong các hướng có độ dốc lớn.
Học máy & Tối ưu hóa

Stochastic Gradient Descent with Momentum

Thời gian (Time) O(Epochs * N)
Không gian (Space) O(Weights)

Mô tả nguyên lý

Tối ưu hóa trọng số mạng nơ-ron kết hợp gia tốc momentum giúp vượt qua các điểm yên ngựa (saddle points).

Cài đặt mẫu (Implementation)

// Tích lũy vận tốc gradient từ các bước trước để duy trì đà chuyển động ổn định.