“彭城自古列九州，龙争虎斗几千秋”。这是人们形容徐州历史悠久、自古为兵家必争之地的习惯说法。
　　“九州”一词出现很早。《诗经》中已经有九州出现，《礼记》中也有九州的记载。然而《诗经》和《礼记》中的九州还没有具体的州名和实际的范围。具体记载九州州名和范围的是《尚书·禹贡》、《吕氏春秋·有始览》、《尔雅·释地》和《周礼·职方》等。各书中对九州的名称和范围说法也不一样，其中《周礼、职方》中没有徐州，其余诸书都记载有徐州。这些书中，以成书于战国时期的《尚书·禹贡》对后世影响最大。该书对徐州的记载是：“……海岱及淮惟徐州。……厥土赤殖坟，草木渐包。厥田惟上中，厥赋中中。厥贡惟土五色，羽畎夏翟，峄阳孤桐。泗滨浮磬，淮夷嫔珠暨鱼，厥篚玄纤缟。浮于淮泗，达于河。”这段文字记载徐州州内的土壤属赤殖坟型，亦即粘土质的棕红色土壤，生长一种栎树和茅草。在九州之中地列二等，赋纳五等。贡品中有五色土、羽山谷中色彩斑驳的野鸡毛，峄山南坡生长可制琴瑟的孤桐树，泗水两岸有质地较轻、可以制磬的石头以及珍珠、泉鱼、细而轻薄的黑色丝织品。《尔雅·释地》还记载：“济东曰徐州”。郭璞注，自济东至海。因此，九州之一的徐州，其范围西自济水、东至大海，北抵泰山、南达淮水。包括了今天江苏、安徽淮河以北部分，鲁南、豫东这样广袤的地区。不过，这时的徐州虽然有具体的范围，但并不是行政区划，而是自然地理区域。
　　徐州的得名，历来解释不一。《太康地记》以为由徐丘而得名，也有人认为济水自黄海间“其气宽舒，禀性安徐”，所以称为徐州。刘熙《释名》：“徐，舒也。土气舒缓也。”就认为徐州是根据土气舒缓而得名的。其实这些说法都是望文生义。徐州得名于徐方，徐方即淮河以北的一个著名的古国——徐国。徐方史称徐夷，是生息在泗水流域的土著居民，在商代就已经建立了国家，名徐方或徐国。徐国至偃王时十分强盛，徐偃王曾率九夷以伐宗周，迫使周穆王也不得不承认他在淮河流域的宗主地位，远近臣服有三十六国。《春秋》里见到的所谓群舒，如舒蓼、舒庸、舒鸠、舒龚等，都是徐国的重要分支。舒与徐为通假字，在金文徐作　，人们常将徐假为舒，舒假为徐。徐国在春秋时期，仍然相当兴盛，而且还不断与邻国发生战争。在海、岱、淮、济之间，当时是东夷的聚居地，徐夷在东夷中处于首要地位，徐州得名于徐国便是很自然的事。
　　徐州作为城邑名称，最早也不是指今天的徐州，而是在今天的山东省境内，其地有三： 一是滕薛之徐州。《春秋》哀公十四年(公元前481年)，“夏四月，齐陈恒执其君，置于舒州。”《史记·齐世家》“田常执简公于徐州。”田常即陈恒，因此这时的舒州即徐州，而且已经为齐国陈氏的下邑。《竹书纪年》说：“梁惠王三十一年，邳迁于薛，故名徐州。”这是徐州作为城邑名称出现在史册里的最早记载。《史记·越世家》记载：“勾践灭吴会诸侯于徐州。”《后汉书·郡国志》记载：“薛本国，六国时曰徐州。”这个最早的徐州城邑，就在今天山东滕州南的官桥附近。 二是东平舒县之徐州。《史记·田敬仲世家》威王曰：‘吾吏有黔夫者，使守徐州，则燕人祭北门，赵人祭西门，徙从者七十余家。”这个徐州虽然也是齐邑，但接燕而近赵，是齐国西北边界的城邑，在今天山东省西部的东平舒县。 三是鲁东之徐州。《史记·鲁世家》：“顷公十九年，楚伐我，取徐州。”徐广注：“徐州在鲁东。”这个古代位于邹鲁之东的徐州，其具体地点已不可确考。
　　秦始皇统一六国，在《禹贡》徐州的范围内，设置了砀、泗水、东海、琅琊等郡。西汉时期武帝刘彻为了加强对地方郡国的控制，于元封五年(前106年)，在全国设十三个州部监察区，每个州部设刺史一人，对州内进行巡视，行使监察权。但这时的州部还不是正式的一级政体，而仅仅是监察机构，刺史的地位也很低，只有六百石俸禄，刺史奉诏巡视所属郡国，州部没有固定的治所。徐州刺史部是十三州之一，其中包括琅琊郡、东海郡、临淮郡和楚国、泗水国、广陵国共三郡三国，131县，有山东的东、南部和江苏长江以北的广大地区。
　　东汉时期，光武帝刘秀亦置十三州部，这时的州部有了固定的治所。徐州刺史部治郯(今山东郯城西南)，领三国二郡：彭城国、下邳国、琅琊国和东海郡、广陵郡，共有国、县、邑、侯62个，其地域和西汉徐州刺史部大致相同。
　　东汉末年，为了加强地方统治，刺史的名称又改为州牧。州牧往往由朝中大臣出领，掌握一州的军政大权。曹操、陶谦、吕布、刘备在徐州攻伐逐鹿期间，刘备、吕布、车胄都曾做过徐州刺史，并将治所设在下邳(今睢宁县古邳镇东北)。
　　根据《三国志》注引《魏略》记载：魏明帝时中领军尚书桓范使持节都督青、徐诸军事，发生过与徐州刺史郑歧争屋的事件。那么，徐州刺史部自下邳迁至彭城应在曹魏明帝(227年——239年)时期或稍后。彭城成为徐州刺史部的治所以后，徐州只是指以彭城为中心的行政区域，而并不指当时的彭城。
　　西晋分全国为十九州郡，徐州刺史于惠帝元康末年改治下邳。安帝义熙七年(411年)分淮北为北徐州，治彭城；淮南为徐州，治京口(今江苏镇江市)。淮北为北魏占领后，徐州刺史治钟离(今安徽风阳)。此后十六国时的后秦、后燕都设有徐州。南朝梁时，曾侨置东徐州、西徐州、南徐州、北徐州。北魏占领淮北后置徐州，兼立东南道行台；北周置徐州总管府，唐代初期亦曾置徐州总管府。五代、北宋置徐州、武宁军节度使。元世祖至元二年(1265年)，彭城县并入徐州。徐州的名称就完全取代了彭城。
　　元代彭城县撤并后，徐州的名称又有一次较大的变化。元顺帝至正八年(1348年)升徐州为徐州路。十一年(1351年)芝麻李起义并占领徐州，次年被元军镇压。元统治者迁怒于此，十三年(1353年)降徐州为武安州。元以后，徐州的名称再也没有任何变异。
　　因此，古代九州之一的徐州并不是指今天的徐州市，只是一个地域名称。作为城邑或者监察区域的徐州，三国曹魏以前一直在山东境内。今天的徐州市古代称为彭城，被称为徐州是元代以后的事情。由古及今，徐州的范围经历了由大逐渐缩小的过程，直至专称今天的徐州市。