专项审计提前拨付经费的整改措施可以从以下几个方面入手：

严格预算执行：对预算进行严格的审核和审批，确保预算的合理性和准确性。对于需要提前拨付的经费，需要进行充分的评估和审核，避免出现不必要的提前拨付。

加强内部控制：建立健全的内部控制制度，规范经费的管理和使用，确保经费的使用符合相关规定和程序。

提高财务管理水平：加强财务管理人员的培训和学习，提高其专业水平和职业道德素养，确保财务管理的规范化和专业化。

强化审计监督：对专项审计提前拨付经费的情况进行跟踪监督和审计，及时发现和纠正存在的问题，防止类似问题再次发生。

落实责任追究：对于违反规定的行为，要依法依规追究相关人员的责任，并采取相应的处罚措施，形成有效的震慑力。

通过以上措施的实施，可以有效地整改专项审计提前拨付经费的问题，提高经费的使用效益和管理水平。