人工智能服务系统的建立方法、设备、装置与介质

本申请公开了一种人工智能服务系统的建立方法、设备、装置和存储介质，其中方法包括步骤：获取人工智能的预训练模型以及预设的初始令牌裁剪比例集；根据初始令牌裁剪比例集，对预训练模型进行多轮的微调和推理，得到每轮推理对应的第一令牌裁剪比例；其中，对于任意的一个推理轮次，第一令牌裁剪比例通过第二令牌裁剪比例和第三令牌裁剪比例得到；第二令牌裁剪比例和第三令牌裁剪比例为初始令牌裁剪比例集的所有初始裁剪比例和上一轮中得到的第一令牌裁剪比例中推理准确度差值最大的两个令牌裁剪比例；根据各个第一令牌裁剪比例，得到每个第一令牌裁剪比例对应的第一模型并建立人工智能服务系统。本申请可广泛应用于人工智能技术领域。