币游国际官网

大模子推理平台ModeIRT

ModeIRT是一款功效强盛的大模子推理平台，可将大模子训练平台上训练好的模子以及纳管的第三方模子宣布服务，用户通过挪用API接口，实现模子的落地应用。

焦点功效

模子宣布服务
支持大模子训练平台上训练好的模子以及纳管的第三方模子宣布服务，以RESTful API接口的方法对外提供服务。
模子服务测试
支持对宣布的模子服务举行在线测试，通过输入展望数据，输出推理效果。