mlx.core.fast.layer_norm

layer_norm(x: array, weight: array | None, bias: array | None, eps: float, *, stream: None | Stream | Device = None) → array

层归一化。

归一化是相对于输入 x 的最后一个轴进行的。

参数:

• x (array) – 输入数组。

• weight (array, 可选) – 用于缩放结果的乘法权重。 weight 应为一维，其大小与 x 的最后一个轴相同。如果设置为 None，则不进行缩放。

• bias (array, 可选) – 添加到结果的加法偏移。 bias 应为一维，其大小与 x 的最后一个轴相同。如果设置为 None，则不进行平移。

• eps (float) – 用于数值稳定性的一个小的加性常数。

返回值:

输出数组。

返回类型:

array