A、氧化铁不溶于水,故用水不能除去铁锈,此项错误;B、氧化铁是碱性氧化物,不与碱溶液反应,此项错误;C、氧化铁不与硫酸铜反应,不能除去铁锈,此项错误;D、氧化铁和硫酸反应生成可溶性铁盐和水,故可用硫酸清除铁锈,此项正确.故选D.