void createngine() //生成 engine{ //创建builder，第一步创建build IBuilder* builder = createInferBuilder(gLogger); builder->setMaxBatchSize(16); //设置最大batchsize //创建network,第二步创建网络 INetworkDefinition* network = builder->createNetworkV2(0U); //创建parser，第三步创建解析器 IUffParser* parser = createUffParser(); //注册网络输入输出，第四步注册解析器并解析网络 (输入名和输出名可在.uff文件中找到) parser->registerInput("inputs", DimsCHW(1, 576 , 960), UffInputOrder::kNCHW); parser->registerOutput("generator/deconv/BiasAdd"); //使用parser，填充network （DataType::kFLOAT（fp32） DataType::kHALF(fp16)） parser->parse("/home/xxxx.uff", *network, nvinfer1::DataType::kHALF); //创建config并设置最大的工作空间，第五步配置工作空间 IBuilderConfig* config = builder->createBuilderConfig(); config->setMaxWorkspaceSize(1 << 30); //创建engine, 第六步创建引擎 ICudaEngine* engine = builder->buildEngineWithConfig(*network,*config); //序列化保存engine到文件 IHostMemory *serializedModel = engine->serialize(); ofstream p("xxxx.engine"); p.write(reinterpret_cast<const char*>(serializedModel->data()), serializedModel->size()); //释放资源 parser->destroy(); network->destroy(); builder->destroy(); engine->destroy(); serializedModel->destroy(); config->destroy(); return;}