地方上級と市役所では、違いがあります。また、地方上級といっても、都道府県、政令指定都市（政令市）、東京都特別区（東京２３区）の間にも、違いがあります。地方上級も市役所も、地方自治体であり、職員が地方公務員であることは同じです。
（政令指定都市は、札幌市、仙台市、さいたま市、千葉市、横浜市、川崎市、相模原市、新潟市、静岡市、浜松市、名古屋市、京都市、大阪市、堺市、神戸市、岡山市、広島市、北九州市、福岡市、熊本市の20市です）
都道府県と市役所の違い
地方上級のうち、都道府県は、広域自治体として、市町村の範囲を超えるような、広域行政を担います。複数の市町村にまたがる大きな事業や、国と市町村との間の調整も、都道府県の業務です。
その一方、一般的な市役所や町村役場は、基礎的な自治体です。実際に住民に接する機会や、窓口業務も多く、住民に身近なサービスを提供する自治体です。
政令指定都市と都道府県の違い
ただし、市役所の中でも、政令指定都市（国の政令で指定された市）は、都道府県とほぼ同等の権限を与えられる、大都市制度です。政令市では、再開発、福祉、教育、環境、産業振興、雇用など、都道府県に代わってその市が管轄する業務が多いといえます。
政令指定都市の行政区とは？
都道府県と政令指定都市も、違いがあります。都道府県は、広域行政に特化した自治体ですが、政令市は、都道府県のような広域行政と、市役所としての基礎的自治体の両方を併せ持つ自治体といえます。
このため、政令指定都市は、横浜市金沢区や大阪市北区のような、「行政区」の設置が認められています。政令市の行政区は、市長が任命する区長のもとで区役所が置かれ、一般の市役所のような、窓口業務や身近な行政サービスの提供を担っています。
政令指定都市は、市役所（本庁）を中心に、都道府県並みの権限で大規模な事業を担う一方、行政区を中心に、市民に身近な行政サービスを提供する大都市といえます。政令指定都市は、市町村の「市」ではありますが、一般的な市とは、明らかに違います。
東京都特別区と行政区の違い
東京都特別区（東京２３区）は、政令指定都市の行政区とは明らかに異なります。
東京都特別区は、独立した自治体であり、一般の市役所や町村役場と同じく、基礎的な自治体です。区長は選挙で選ばれますし（区長公選制）、区議会も存在します。
その一方、政令指定都市の行政区は、あくまでも政令市という自治体の内部組織です。行政区も東京都特別区も、区長や区役所が置かれるのは同じですが、行政区の区長は、政令市の市長から任命される職員であり、行政区の区役所は政令市の内部機関です。
東京都特別区と市役所の違い
東京都特別区は、一般の市役所や町村役場と同じ、１つ１つが独立した基礎自治体です。ただし、一般の市役所などと、権限では違いが見られます。
例えば、都道府県や政令指定都市など、指定された市だけに認められる保健所の設置や運営は、東京都特別区にも認められています。その一方、上下水道や消防など、一般に市が担う業務の一部は、特別区に認められておらず、東京都の管轄となっています。
このように、東京都特別区は、一般の市役所や町村役場と同じ、基礎的自治体です。ただし、特別区ではなく、東京都が管轄する業務が多いため、都と各特別区の相互間で「都区協議会」が設置され、業務の連絡・調整が行われています。