mlx.optimizers.MultiOptimizer

mlx.optimizers.MultiOptimizer#

class MultiOptimizer(optimizers, filters: list = [])#

包装了一个优化器列表以及对应的权重谓词/过滤器,以便于对不同的权重使用不同的优化器。

谓词接收权重的完整“路径”和权重本身,如果该权重应被此优化器考虑,则返回 True。列表中的最后一个优化器是备用优化器,不应为其提供谓词。

参数:
  • optimizers (list[Optimizer]) – 要委托的优化器列表

  • filters (list[Callable[[str, array], bool]) – 谓词列表,其数量应比提供的优化器少一个。

方法

__init__(optimizers[, filters])

apply_gradients(gradients, parameters)

将梯度应用于参数并返回更新后的参数。

init(parameters)

初始化优化器的状态