徐州市は我が国東部沿海中間区に位置し、江蘇省の北西部に位置し、銅山、雲龍、鼓楼、泉山、賈汪の5区、豊、沛、睢寧県と邳州市、新沂市の5県（市）を管轄している。

徐州は地理的位置が優れており、北は齐鲁を抑え、南は江淮を屏風のように遮り、東は大海に面し、西は中原を睥睨する。自然条件が恵まれ、域内の丘陵と谷が相まって、古来から物産が豊富である。黄河旧道（古泗水）は西から東へ、京杭運河は北から南へ流れ、京滬、隴海鉄道はここで合流し、「五省通衢」の誉れがあり、蘇魯豫皖の交わりの地域的中心都市である。

徐州には四千年以上の建城史があり、漢王朝発祥の地、国家歴史文化名城である。

徐州新沂馬陵山から出土した細石器は、1万年前にここで人類活動があったことを示している。市街地の雲竜山東麓の円形龍山文化遺跡は、四千年前に先人がここで生息し、繁栄していたことを示している。

徐州は古代では彭城と呼ばれ、彭国の城を意味する。『史記』によると、夏代の陸終氏の子である篯鏗が彭方国を創建し、篯鏗は彭鏗とも呼ばれ、彭国の祖とされている。彼は伝説上の寿星・彭祖としても知られている。商代彭国は比較的強力で、「大彭」と呼ばれている。羅振玉の『殷墟書契前編』には、「辛丑卜、亘、貞、乎取彭」という甲骨文が記されており、「辛丑の日に占いを行い、亘という貞人（占い師）が主宰し、占いの内容は彭国を攻撃するかどうか」という意味である。これは、商王の武丁が、勢力が強く商王朝にとって脅威となる彭国を攻撃するかどうかを占ったことを示している。また、『竹書紀年』によると、武丁43年に「王師が大彭を滅ぼした」と記されている。彭国は夏・商の時代に約800年間存続した。西周時代、彭城は宋に属し、『左伝』には魯成公18年（紀元前573年）に宋国の東方の要邑・彭城邑として記録されている。銭穆の考証によると、宋は魏国などの脅威を受けて戦国時代に彭城に遷都したとされている。  

秦代彭城に県が設置された。秦漢の際、西楚の覇王項羽は天下の号令権を掌握し、九つの郡を支配し、彭城を都とした。漢の高祖6年（紀元前201年）、劉邦は異母弟の劉交を楚王に封じ、東海郡、薛郡、彭城郡の3郡36県を治めさせ、彭城を都とした。東漢初期、光武帝はその子の劉英を楚王に封じ、章和2年（88年）には章帝が異母弟の劉恭を彭城王に封じ、いずれも彭城を都とした。三国時代の魏の明帝期（227～239年）には、徐州刺史部の治所となり、太和6年（232年）には曹據が彭城王に封じられた。

南北朝時代、北魏徐州は東南道行台を兼ね、北周に徐州総管府を設置し、隋唐時代にも引き継がれた。唐時代には徐泗濠、武寧軍、感化軍の節度使が置かれた。五代・北宋時代には徐州と武寧軍節度使が置かれた。元代には武安州となり、彭城県は州に編入された。明清時代には直隷州となり、清の雍正11年（1733年）に州から府に昇格した。