二手房没有契税完税证如何提取公积金（非广州户口）

本人外地购二手房由于当时购房时当地享受90平米以下免征契税的政策所以没有开契税完税证，房子是2009年底买的现在想在广州提取住房公积金，房子是银行贷款20年还在还款中，想咨询一下没有契税完税证能否提取，我问过我这边的公积金中心，他们说可以通过打印银行还款对账单原件加盖银行业务章来领取，请问可以吗？