PyMC 模型与 PyTensor FunctionGraph 互转指南fgraph_from_model、model_from_fgraph 与 clone_model 全解析【免费下载链接】pymcBayesian Modeling and Probabilistic Programming in Python项目地址: https://gitcode.com/GitHub_Trending/py/pymc导读在 PyMC 中pymc.model.fgraph模块提供了一套模型 ↔ 计算图双向转换机制fgraph_from_model把Model编译成 PyTensor 的FunctionGraphmodel_from_fgraph再把计算图还原成新的Model而clone_model则是二者的便捷组合。这套机制是模型重写rewriting、模型克隆与多种模型变换如剪枝、去 Minibatch、条件化的底层基石读完本文你将掌握这三个 API 的完整签名、底层ModelVar占位算子机制、约束条件与实战改造流程。一、为什么需要 Model 与 FunctionGraph 互转Model是用户友好的高层容器它记录free_RVs、observed_RVs、potentials、deterministics、data_vars等结构化信息并提供dims、坐标coords等语义元数据。但要做图级别的自动变换例如把居中式参数化改为非居中式、剪掉与观测无关的变量、移除 Minibatch 节点最自然的载体是 PyTensor 的FunctionGraph——一个可以执行node_rewriter、replace_all、拓扑替换等重写操作的低层数据结构。pymc.model.fgraph就是这两者之间的桥梁其 API 参考页面见 fgraph.rst它被收录在 model.rst 的文档体系之下。二、核心 API 一览模块导出的公共接口定义在 fgraph.py 的__all__中共三个函数from pymc.model.fgraph import fgraph_from_model, model_from_fgraph, clone_model1.fgraph_from_model(model, inlined_viewsFalse)将 PyMC 模型转换为 PyTensorFunctionGraph返回二元组(fgraph, memo)modelpymc.model.core.Model实例。inlined_viewsbool默认False。决定 Deterministic 与 Data 等 view 变量是作为独立的图分支出现还是被内联inline进随机变量之间。返回值fgraph包含模型变量副本的FunctionGraph每个变量被包装在哑ModelVar算子中保证可以用model_from_fgraph还原出合法模型memo从原始模型变量到 fgraph 中等价节点的映射字典。函数在转换前会做三类前置校验fgraph.py存在非默认initial_values时抛出NotImplementedErrorCannot convert models with non-default initial_values模型是嵌套子模型model.parent is not None时抛出ValueErrorNested sub-models cannot be converted...因为子模型必须通过父模型转换检测到名称含_rotated_或_hsgp_coeffs_的变量时发出UserWarning提示这些变量可能来自旧的 GP 对象继续使用旧 GP 对象可能把旧模型变量重新引入。2.model_from_fgraph(fgraph, mutate_fgraphFalse)将带有哑ModelVar算子的FunctionGraph还原为 PyMC 模型fgraphfgraph_from_model产出的计算图。mutate_fgraphbool默认False。为True时允许函数就地修改 fgraph 及其变量适合该 fgraph 之后不再使用的情形为False时会先克隆一份 fgraph 再重建避免副作用。3.clone_model(model)一键克隆模型等价于model_from_fgraph(fgraph_from_model(model)[0], mutate_fgraphTrue)克隆后的模型拥有原模型全部变量的新对象名称、dims、coords 保持一致但共享变量如pm.Data指向同一份底层内存容器常量Constant不克隆。三、底层机制ModelVar哑算子家族整个互转机制的精髓是 fgraph.py 中定义的ModelVar——一个用于描述模型变量用途的哑Op。它把变量的name与dims存为 Op 属性重建模型所需的元信息而被包装的变量以及取值变量作为输入。其perform方法直接抛出RuntimeError(ModelVars should never be in a final graph!)确保这些占位算子绝不可能出现在最终的计算图中。do_constant_folding返回False防止折叠破坏结构。在此基础上派生了完整的算子家族fgraph.py算子类构造函数属性对应模型角色ModelVarname, dims基类ModelValuedVarname, dims, transform带取值变量value var的变量基类ModelFreeRV继承ModelValuedVar自由随机变量free RV额外携带transformModelObservedRV继承ModelValuedVar观测随机变量ModelPotentialname, dims势能项pm.PotentialModelDeterministicname, dims确定性变量pm.DeterministicModelNamedname, dims命名变量主要是 Data 等对应的便捷工厂函数model_free_rv(rv, value, transform, name, *dims)、model_observed_rv(rv, value, name, *dims)、model_potential(rv, name, *dims)、model_deterministic(rv, name, *dims)、model_named(rv, name, *dims)。四、fgraph_from_model转换流程详解整体流程在 fgraph.py大致分为五步① 收集变量并处理 View以model.rvs_to_values为线索收集所有 RV把 Deterministic 与具名取值变量用view_op包装成 Viewinlined_viewsFalse时这样它们不会穿插在主变量之间随后通过local_remove_view重写fgraph.py把多余的 View 移除。② 深拷贝共享变量deepcopy_shared_variablefgraph.py手动重建三类共享变量——RNG 节点通过 pytensorf.py 的find_rng_nodes定位、dim_lengths中的共享变量、named_vars中的共享变量Data。注释特别说明Data可能显著增加内存。共享变量没有 deepcopy 方法因此这里通过type(var)(type..., valueNone, strictNone, containerdeepcopy(var.container), name...)手工重建并把新变量放进memo完成替换。③ 构造 FunctionGraphFunctionGraph(outputsmodel_vars, cloneTrue, memomemo, copy_orphansTrue, copy_inputsTrue)并把模型的_coords与_dim_lengths经 memo 映射后复制到 fgraph 上。④ 引入哑 ModelVar 算子按自由 RV / 观测 RV / Potential / Deterministic / 具名变量 / 未命名取值变量六类逐一替换并用toposort_replacepytensorf.py按拓扑序就地批量替换把变量替换为包装后的节点同时更新 memo 的反向映射。⑤ 收尾清理移除对应未命名取值变量的多余输出最后应用remove_view_rewrite清掉噪音 View。五、model_from_fgraph重建流程详解重建逻辑在 fgraph.py关键约束不能在with pm.Model():上下文内调用。实现通过Model(modelNone)显式不继承上下文模型测试 test_context_error 验证了返回模型的parent is None非mutate_fgraph模式先克隆 fgraphfgraph.clone_get_equiv并同步更新_dim_lengths的 memo 映射遍历fgraph.toposort()收集所有ModelVar节点用first_non_model_var递归解包到第一个非 ModelVar 的底层变量按算子类型填充新模型的各映射表ModelFreeRV走create_value_var(var, transform..., value_varvalue)并set_initvalModelObservedRV走无 transform 的create_value_varModelPotential追加到potentialsModelDeterministic追加到deterministics若它只是某个 RV 的直接视图则用view_op包一层ModelNamed追加到data_vars最后用op.name恢复变量名、op.dims恢复维度调用add_named_variable注册。六、clone_model实战clone_model 的 docstring 给出了完整示例——克隆后可以在不影响原模型的前提下继续扩展图import pymc as pm from pymc.model.fgraph import clone_model with pm.Model() as m: p pm.Beta(p, 1, 1) x pm.Bernoulli(x, pp, shape(3,)) with clone_model(m) as clone_m: # 按名字访问克隆变量 clone_x clone_m[x] # z 只属于 clone_m不属于 m z pm.Deterministic(z, clone_x 1)测试 test_basic 验证了往返转换的完整性coords{test_dim: tuple(range(3))}、_dim_lengths、named_vars_to_dims、六类变量归属、rvs_to_transforms如HalfNormal的logtransform全部保留且pm.draw得到的随机样本与compile_logp计算的对数概率在克隆前后完全一致。值得注意Model.clone()方法在 core.py 中直接委托给clone_model(self)因此用户可以直接调用m.clone()。七、图重写Rewrite实战非居中式参数化互转机制最大的价值在于改图。测试 test_fgraph_rewrite 与夹具non_centered_rewritetest_fgraph.py演示了完整流程定义一个node_rewritertracksModelFreeRV在 fgraph 上把居中式 Normal 替换为raw_标准正态 确定性变换node_rewriter(tracks[ModelFreeRV]) def non_centered_param(fgraph, node): rv, value node.inputs name, dims node.op.name, node.op.dims if not isinstance(rv.owner.op, pm.Normal): return rng, size, loc, scale rv.owner.inputs if rv_size_is_none(size): return None # 构造 raw 标准正态并注册为新自由 RV raw_name f{name}_raw_ raw_norm pm.Normal.dist(0, 1, sizesize, rngrng) raw_norm_value raw_norm.clone() raw_norm_value.name raw_name fgraph.add_input(raw_norm_value) raw_norm model_free_rv(raw_norm, raw_norm_value, node.op.transform, raw_name, *dims) # 重建原变量为确定性变量 new_norm loc raw_norm * scale fgraph.add_output(model_deterministic(new_norm, name, *dims)) return [new_norm]随后non_centered_rewrite.apply(fg)作用于fgraph_from_model产出的图再model_from_fgraph(fg)重建。测试断言free_RVs变为{group_mean, group_std, subject_mean_raw_}subject_mean降级为deterministics且新模型与手写参考模型在随机采样和对数概率上完全等价。八、边界情况与数据独立性Data 与共享变量独立test_data 验证 RNG、Data、dim_lengths 三类共享变量在克隆后不再共享同一块存储same_storage返回 False在新模型中pm.set_data修改x不会影响原模型用户自定义共享变量test_shared_variable 表明模型参数如mu、sigma虽被克隆为新对象mu_new is not mu但仍指向同一底层容器same_storage(mu, mu_new)为 True即共享同一份数据、对象相互独立Deterministic 的链式视图test_deterministics 覆盖了 Deterministic 直接复制 RV 的特殊情形重建后y_、y__都直接指向y不会重复插入多余的确定性节点多元变换保留test_multivariate_transform 验证Dirichlet的simplex变换与LKJCholeskyCov的cholesky-cov-packed变换在克隆前后产生一致的初始点子模型拒绝test_sub_model_error 验证嵌套子模型抛出ValueError。九、在仓库内部的真实应用这套机制并非孤立 API而是多个模型变换功能的地基均以fgraph_from_model(model, inlined_viewsTrue)model_from_fgraph(fgraph, mutate_fgraphTrue)的模式出现transform/basic.py 的prune_vars_detached_from_observed利用 fgraph 的祖先分析剪掉与观测无关的变量含 Potentials 时直接NotImplementedErrortransform/basic.py 的remove_minibatched_nodes把pm.Minibatch节点替换为原始输入注意通过rebuild_strictFalse的clone_replace后手工恢复_coords与_dim_lengthsmodel/core.py 的Model.clone()model/transform/conditioning.py、model/transform/optimization.py 等模块也大量复用该互转管线testing.py 在测试工具中用它做模型等价性比较。十、使用注意事项小结转换会丢弃并拒绝非默认初始值见 test_core.py 的注释model_from_fgraph不能运行在活动的Model上下文内嵌套子模型只能通过父模型整体转换克隆后 RNG 独立、Data 与 dim_lengths 的共享变量也独立但用户自定义 shared variable 共享底层内存——若需要彻底隔离请自行重建大体积 Data 被深拷贝可能显著增加内存可考虑inlined_views与剪枝策略配合。掌握fgraph_from_model→ 图重写 →model_from_fgraph这条管线你就能以源码级的控制力实现自定义模型变换这也是 PyMC 中许多高级功能如自动非居中式化、模型剪枝的通用底层范式。【免费下载链接】pymcBayesian Modeling and Probabilistic Programming in Python项目地址: https://gitcode.com/GitHub_Trending/py/pymc创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 PyMC 模型与 PyTensor FunctionGraph 互转指南：fgraph_from_model、model_from_fgraph 与 clone_model 全解析
PyMC 模型与 PyTensor FunctionGraph 互转指南fgraph_from_model、model_from_fgraph 与 clone_model 全解析【免费下载链接】pymcBayesian Modeling and Probabilistic Programming in Python项目地址: https://gitcode.com/GitHub_Trending/py/pymc导读在 PyMC 中pymc.model.fgraph模块提供了一套模型 ↔ 计算图双向转换机制fgraph_from_model把Model编译成 PyTensor 的FunctionGraphmodel_from_fgraph再把计算图还原成新的Model而clone_model则是二者的便捷组合。这套机制是模型重写rewriting、模型克隆与多种模型变换如剪枝、去 Minibatch、条件化的底层基石读完本文你将掌握这三个 API 的完整签名、底层ModelVar占位算子机制、约束条件与实战改造流程。一、为什么需要 Model 与 FunctionGraph 互转Model是用户友好的高层容器它记录free_RVs、observed_RVs、potentials、deterministics、data_vars等结构化信息并提供dims、坐标coords等语义元数据。但要做图级别的自动变换例如把居中式参数化改为非居中式、剪掉与观测无关的变量、移除 Minibatch 节点最自然的载体是 PyTensor 的FunctionGraph——一个可以执行node_rewriter、replace_all、拓扑替换等重写操作的低层数据结构。pymc.model.fgraph就是这两者之间的桥梁其 API 参考页面见 fgraph.rst它被收录在 model.rst 的文档体系之下。二、核心 API 一览模块导出的公共接口定义在 fgraph.py 的__all__中共三个函数from pymc.model.fgraph import fgraph_from_model, model_from_fgraph, clone_model1.fgraph_from_model(model, inlined_viewsFalse)将 PyMC 模型转换为 PyTensorFunctionGraph返回二元组(fgraph, memo)modelpymc.model.core.Model实例。inlined_viewsbool默认False。决定 Deterministic 与 Data 等 view 变量是作为独立的图分支出现还是被内联inline进随机变量之间。返回值fgraph包含模型变量副本的FunctionGraph每个变量被包装在哑ModelVar算子中保证可以用model_from_fgraph还原出合法模型memo从原始模型变量到 fgraph 中等价节点的映射字典。函数在转换前会做三类前置校验fgraph.py存在非默认initial_values时抛出NotImplementedErrorCannot convert models with non-default initial_values模型是嵌套子模型model.parent is not None时抛出ValueErrorNested sub-models cannot be converted...因为子模型必须通过父模型转换检测到名称含_rotated_或_hsgp_coeffs_的变量时发出UserWarning提示这些变量可能来自旧的 GP 对象继续使用旧 GP 对象可能把旧模型变量重新引入。2.model_from_fgraph(fgraph, mutate_fgraphFalse)将带有哑ModelVar算子的FunctionGraph还原为 PyMC 模型fgraphfgraph_from_model产出的计算图。mutate_fgraphbool默认False。为True时允许函数就地修改 fgraph 及其变量适合该 fgraph 之后不再使用的情形为False时会先克隆一份 fgraph 再重建避免副作用。3.clone_model(model)一键克隆模型等价于model_from_fgraph(fgraph_from_model(model)[0], mutate_fgraphTrue)克隆后的模型拥有原模型全部变量的新对象名称、dims、coords 保持一致但共享变量如pm.Data指向同一份底层内存容器常量Constant不克隆。三、底层机制ModelVar哑算子家族整个互转机制的精髓是 fgraph.py 中定义的ModelVar——一个用于描述模型变量用途的哑Op。它把变量的name与dims存为 Op 属性重建模型所需的元信息而被包装的变量以及取值变量作为输入。其perform方法直接抛出RuntimeError(ModelVars should never be in a final graph!)确保这些占位算子绝不可能出现在最终的计算图中。do_constant_folding返回False防止折叠破坏结构。在此基础上派生了完整的算子家族fgraph.py算子类构造函数属性对应模型角色ModelVarname, dims基类ModelValuedVarname, dims, transform带取值变量value var的变量基类ModelFreeRV继承ModelValuedVar自由随机变量free RV额外携带transformModelObservedRV继承ModelValuedVar观测随机变量ModelPotentialname, dims势能项pm.PotentialModelDeterministicname, dims确定性变量pm.DeterministicModelNamedname, dims命名变量主要是 Data 等对应的便捷工厂函数model_free_rv(rv, value, transform, name, *dims)、model_observed_rv(rv, value, name, *dims)、model_potential(rv, name, *dims)、model_deterministic(rv, name, *dims)、model_named(rv, name, *dims)。四、fgraph_from_model转换流程详解整体流程在 fgraph.py大致分为五步① 收集变量并处理 View以model.rvs_to_values为线索收集所有 RV把 Deterministic 与具名取值变量用view_op包装成 Viewinlined_viewsFalse时这样它们不会穿插在主变量之间随后通过local_remove_view重写fgraph.py把多余的 View 移除。② 深拷贝共享变量deepcopy_shared_variablefgraph.py手动重建三类共享变量——RNG 节点通过 pytensorf.py 的find_rng_nodes定位、dim_lengths中的共享变量、named_vars中的共享变量Data。注释特别说明Data可能显著增加内存。共享变量没有 deepcopy 方法因此这里通过type(var)(type..., valueNone, strictNone, containerdeepcopy(var.container), name...)手工重建并把新变量放进memo完成替换。③ 构造 FunctionGraphFunctionGraph(outputsmodel_vars, cloneTrue, memomemo, copy_orphansTrue, copy_inputsTrue)并把模型的_coords与_dim_lengths经 memo 映射后复制到 fgraph 上。④ 引入哑 ModelVar 算子按自由 RV / 观测 RV / Potential / Deterministic / 具名变量 / 未命名取值变量六类逐一替换并用toposort_replacepytensorf.py按拓扑序就地批量替换把变量替换为包装后的节点同时更新 memo 的反向映射。⑤ 收尾清理移除对应未命名取值变量的多余输出最后应用remove_view_rewrite清掉噪音 View。五、model_from_fgraph重建流程详解重建逻辑在 fgraph.py关键约束不能在with pm.Model():上下文内调用。实现通过Model(modelNone)显式不继承上下文模型测试 test_context_error 验证了返回模型的parent is None非mutate_fgraph模式先克隆 fgraphfgraph.clone_get_equiv并同步更新_dim_lengths的 memo 映射遍历fgraph.toposort()收集所有ModelVar节点用first_non_model_var递归解包到第一个非 ModelVar 的底层变量按算子类型填充新模型的各映射表ModelFreeRV走create_value_var(var, transform..., value_varvalue)并set_initvalModelObservedRV走无 transform 的create_value_varModelPotential追加到potentialsModelDeterministic追加到deterministics若它只是某个 RV 的直接视图则用view_op包一层ModelNamed追加到data_vars最后用op.name恢复变量名、op.dims恢复维度调用add_named_variable注册。六、clone_model实战clone_model 的 docstring 给出了完整示例——克隆后可以在不影响原模型的前提下继续扩展图import pymc as pm from pymc.model.fgraph import clone_model with pm.Model() as m: p pm.Beta(p, 1, 1) x pm.Bernoulli(x, pp, shape(3,)) with clone_model(m) as clone_m: # 按名字访问克隆变量 clone_x clone_m[x] # z 只属于 clone_m不属于 m z pm.Deterministic(z, clone_x 1)测试 test_basic 验证了往返转换的完整性coords{test_dim: tuple(range(3))}、_dim_lengths、named_vars_to_dims、六类变量归属、rvs_to_transforms如HalfNormal的logtransform全部保留且pm.draw得到的随机样本与compile_logp计算的对数概率在克隆前后完全一致。值得注意Model.clone()方法在 core.py 中直接委托给clone_model(self)因此用户可以直接调用m.clone()。七、图重写Rewrite实战非居中式参数化互转机制最大的价值在于改图。测试 test_fgraph_rewrite 与夹具non_centered_rewritetest_fgraph.py演示了完整流程定义一个node_rewritertracksModelFreeRV在 fgraph 上把居中式 Normal 替换为raw_标准正态 确定性变换node_rewriter(tracks[ModelFreeRV]) def non_centered_param(fgraph, node): rv, value node.inputs name, dims node.op.name, node.op.dims if not isinstance(rv.owner.op, pm.Normal): return rng, size, loc, scale rv.owner.inputs if rv_size_is_none(size): return None # 构造 raw 标准正态并注册为新自由 RV raw_name f{name}_raw_ raw_norm pm.Normal.dist(0, 1, sizesize, rngrng) raw_norm_value raw_norm.clone() raw_norm_value.name raw_name fgraph.add_input(raw_norm_value) raw_norm model_free_rv(raw_norm, raw_norm_value, node.op.transform, raw_name, *dims) # 重建原变量为确定性变量 new_norm loc raw_norm * scale fgraph.add_output(model_deterministic(new_norm, name, *dims)) return [new_norm]随后non_centered_rewrite.apply(fg)作用于fgraph_from_model产出的图再model_from_fgraph(fg)重建。测试断言free_RVs变为{group_mean, group_std, subject_mean_raw_}subject_mean降级为deterministics且新模型与手写参考模型在随机采样和对数概率上完全等价。八、边界情况与数据独立性Data 与共享变量独立test_data 验证 RNG、Data、dim_lengths 三类共享变量在克隆后不再共享同一块存储same_storage返回 False在新模型中pm.set_data修改x不会影响原模型用户自定义共享变量test_shared_variable 表明模型参数如mu、sigma虽被克隆为新对象mu_new is not mu但仍指向同一底层容器same_storage(mu, mu_new)为 True即共享同一份数据、对象相互独立Deterministic 的链式视图test_deterministics 覆盖了 Deterministic 直接复制 RV 的特殊情形重建后y_、y__都直接指向y不会重复插入多余的确定性节点多元变换保留test_multivariate_transform 验证Dirichlet的simplex变换与LKJCholeskyCov的cholesky-cov-packed变换在克隆前后产生一致的初始点子模型拒绝test_sub_model_error 验证嵌套子模型抛出ValueError。九、在仓库内部的真实应用这套机制并非孤立 API而是多个模型变换功能的地基均以fgraph_from_model(model, inlined_viewsTrue)model_from_fgraph(fgraph, mutate_fgraphTrue)的模式出现transform/basic.py 的prune_vars_detached_from_observed利用 fgraph 的祖先分析剪掉与观测无关的变量含 Potentials 时直接NotImplementedErrortransform/basic.py 的remove_minibatched_nodes把pm.Minibatch节点替换为原始输入注意通过rebuild_strictFalse的clone_replace后手工恢复_coords与_dim_lengthsmodel/core.py 的Model.clone()model/transform/conditioning.py、model/transform/optimization.py 等模块也大量复用该互转管线testing.py 在测试工具中用它做模型等价性比较。十、使用注意事项小结转换会丢弃并拒绝非默认初始值见 test_core.py 的注释model_from_fgraph不能运行在活动的Model上下文内嵌套子模型只能通过父模型整体转换克隆后 RNG 独立、Data 与 dim_lengths 的共享变量也独立但用户自定义 shared variable 共享底层内存——若需要彻底隔离请自行重建大体积 Data 被深拷贝可能显著增加内存可考虑inlined_views与剪枝策略配合。掌握fgraph_from_model→ 图重写 →model_from_fgraph这条管线你就能以源码级的控制力实现自定义模型变换这也是 PyMC 中许多高级功能如自动非居中式化、模型剪枝的通用底层范式。【免费下载链接】pymcBayesian Modeling and Probabilistic Programming in Python项目地址: https://gitcode.com/GitHub_Trending/py/pymc创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考