唐高祖改隋末的郡为州，唐玄宗又改州为郡，到其子唐肃宗继位后复改郡为州，所以唐朝总体是以州为主。不过北宋欧阳修等编著的《新唐书》也同时叙述唐玄宗时期的郡，而《旧唐书》则以州制。但是无论如何，州的概念从此与汉晋三国时期有了根本性的区别，相对东汉末年有的州辖一百多个县的情况，唐朝州的范围大幅缩减到几个或十几个县的范围。此外，许多原来汉晋时的州治所在县，则沿用了原来州的名称，反而其本来的县名逐渐不为人所熟知，如彭城成为了徐州、信都成了冀州、昌邑成了兖州、江陵成了荆州等等。同时，许多从秦汉朝甚至春秋战国时代便长期使用的郡名地名，也从此成为历史不再使用，如琅玡、弘农、上党等。
唐朝还将部分比较重要的州命名为府，以示与一般州的区别。同时，与府并列的还有都督府与都护府，但是都督府由于都督权力太大，在设立后又撤除。唐朝还按照经济、地理等因素，将所有的州（府、郡）和县分级，其中州最多分为辅、雄、望、紧、上、中、下，共七等，县则分为京（赤）、畿（望）、上、中、中下、下。各级行政区按照级别的不同，其官吏级别、人数等建制都有所不同。这种按情况将部分次级行政区特别处理的做法，直到今天的中华人民共和国仍然非常常见，如副省级市、省直辖县级市等。