mlx.optimizers.exponential_decay

mlx.optimizers.exponential_decay#

exponential_decay(init: float, decay_rate: float) Callable#

创建一个指数衰减调度器。

参数:
  • init (float) – 初始值。

  • decay_rate (float) – 衰减的乘法因子。

示例

>>> lr_schedule = optim.exponential_decay(1e-1, 0.9)
>>> optimizer = optim.SGD(learning_rate=lr_schedule)
>>> optimizer.learning_rate
array(0.1, dtype=float32)
>>>
>>> for _ in range(5): optimizer.update({}, {})
...
>>> optimizer.learning_rate
array(0.06561, dtype=float32)