使用NVIDIA TensorRT-LLM部署ChatGLM3对话demo中出现的问题

[santasoda]

成功为ChatGLM3-6b-32k模型构建TensorRT-LLM推理引擎后，运行给出的对话demo，却出现bug如下：
/code/tensorrt_llm/examples/chatglm# python3 tensorrt_llm_cli_demo.py --tokenizer_dir chatglm3_6b_32k --engine_dir trt_engines/chatglm3_6b_32k/fp16/1-gpu

Traceback (most recent call last):
File "/code/tensorrt_llm/examples/chatglm/tensorrt_llm_cli_demo.py", line 255, in
main()
File "/code/tensorrt_llm/examples/chatglm/tensorrt_llm_cli_demo.py", line 123, in main
serialize_path = find_engines(
IndexError: list index out of range

[santasoda]

发现是输入的时候默认model_name为chatglm3_6b，如果用的是其他模型的话需要自己给出对应的model_name，加上此参数后问题解决。