2002年3月，国务院办公厅发出《关于做好2002年扩大农村税费改革试点工作的通知》，决定河北、内蒙古、黑龙江、吉林、青海、宁夏等16个省(市、自治区)为2002年扩大农村税费改革试点省，加上原来已经在试点的省份，试点已有20个省(自治区、直辖市)。
这次改革要求做到“三个确保”：确保农民负担得到明显减轻、不反弹;确保乡镇机构和村级组织正常运转;确保农村义务教育经费的正常需要。
取消农业税上升为国家法律
2003年在农村税费改革中也是重要的一年。
年初，中央农村工作会议和全国两会相继召开，“三农”问题成为最为引人关注的话题。在全国两会上，原来只属于学术语言的“黄宗羲定律”，经过新 任总理温家宝的转述，走出了书斋，广为人知。“共产党人一定能走出黄宗羲定律的怪圈!”温家宝的话显示出了新一届政府解决“三农”问题的决心。
2003年4月，在温家宝正式出任国务院总理的第十六天，新的一届中央政府就召开了全国农村税费改革试点工作电视电话会议，会上他宣布：“中央决定，今年农村税费改革试点工作在全国范围推开。这是深化农村改革、促进农村发展的一项重大决策。”
随后，新任财政部长金人庆在接受采访时也表示：城市要反哺农村，工业要反哺农业。农村要全部享受公共财政也一时还做不到，为使国民收入分配格局向着更加有利于农业、农村和农民的方向调整，中央已经确定，今后文、卫、教方面的支出增量要重点投向农业!
2004年和2005年，改革进一步提速。
2004年，温家宝在政府工作报告中宣布，自2004年起“逐步降低农业税税率，平均每年降低1个百分点以上，五年内取消农业税”。仅2004 年，中央财政为支持农村税费改革，拿出396亿元用于转移支付，全国农税负担平均减轻30%。而此时，农业税在全国财政收入中的比重已经不足1%。
至2005年底，中央财政为此新增支出140亿元，用于这方面的支出总额达到664亿元。有28个省份已全部免征农业税，另外3个省份即河北、 山东、云南也已经将农业税降到了2%以下，并且在这三个省中也有210个县免征了农业税。因此，2005年农业税在全国财政收入中所占比重已经微乎其微。 农业税已经名存实亡，原定5年取消农业税的目标，3年就要实现。
安徽省宣布了2005年全面免除农业税。“自从盘古开天地，不收皇粮第一回”，李永林请人写了一副春联。“农业税没有了，村里还发几十元粮补款”。
尽管国务院已经决定减征和免征农业税，但只有全国人大及其常委会才有权彻底取消农业税。2005年12月，十届全国人大常委会第十九次会议审议 了废止农业税条例的决定草案。委员们取得了高度一致，新中国实施了近50年的农业税条例被依法废止，这项惠农政策正式上升为国家法律。
然而，改革也许才刚刚起步。在何开荫当年的设想里：首先，农村税务改革除了要财政部修改和完善税改方案，使之能带动其他改革，粮食部门要制订新 的粮食购销政策并进行体制改革;教育部要修订义务教育法并由各省制定实施细则;公安部要制定农村户籍制度的改革方案;人事部要制定乡镇机构改革的方案;农 业部制定农村科技体制改革的方案;由民政部制定村级机构和农民社会保障方案;由卫生部计生部门制定农村公共卫生以及医疗保障体系的改革方案;环保与国土资 源部结合农业部制定出土地制度的改革方案，并创建市场经济的微观主体。
“这是一场十分复杂而又深刻的社会变革。”何开荫说。
