GeUtils【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√模块导入from ge.utils import GeUtils功能说明GeUtils提供 GEGraph Engine公共工具接口包含 Shape 推导和 AICore 算子支持检查功能。infer_shape对计算图进行 Shape 推导。该接口仅执行 Shape 推导不进行其他图优化如常量折叠、死边消除等。check_node_support_on_aicore检查节点是否在 AICore 上支持返回是否支持的布尔值和不支持原因字符串。类GeUtilsGeUtils类仅包含静态方法无需实例化即可使用。静态方法说明infer_shape对计算图进行 Shape 推导check_node_support_on_aicore检查节点是否在 AICore 上支持函数原型infer_shapestaticmethod def infer_shape(graph: Graph, input_shapes: List[List[int]]) - None对计算图进行 Shape 推导。仅执行 Shape 推导不进行常量折叠、死边消除等其他图优化。check_node_support_on_aicorestaticmethod def check_node_support_on_aicore(node: Node) - Tuple[bool, str]检查节点是否在 AICore 上支持返回是否支持的布尔值和不支持原因。参数说明infer_shape参数类型必选说明graphGraph是待进行 Shape 推导的计算图对象input_shapesList[List[int]]是输入形状列表。列表中每个元素描述一个图输入的形状每个形状为整数维度列表check_node_support_on_aicore参数类型必选说明nodeNode是待检查的计算图节点对象返回值说明infer_shape无返回值。Shape 推导结果直接更新到图对象中。check_node_support_on_aicore返回值类型说明is_supportedbool节点是否在 AICore 上支持。True 表示支持False 表示不支持unsupported_reasonstr不支持的原因描述。若节点支持返回空字符串约束说明infer_shape仅执行 Shape 推导不进行常量折叠、死边消除等其他图优化操作。infer_shape的input_shapes必须为列表的列表每个子列表中的元素必须为整数类型。check_node_support_on_aicore需要传入有效的Node对象。GeUtils的所有方法均为静态方法无需创建实例即可调用。使用示例from ge.utils import GeUtils from ge.graph import Graph, Node # Shape 推导 graph Graph(my_graph) # ... 构建图 ... GeUtils.infer_shape(graph, [[1, 3, 224, 224], [1, 3, 224, 224]]) # 检查节点是否在 AICore 上支持 node graph.get_node(node_name) is_supported, reason GeUtils.check_node_support_on_aicore(node) if is_supported: print(节点在 AICore 上支持) else: print(f节点在 AICore 上不支持原因{reason})【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考