中國在4000多年前就有了學校，那時學校的名字叫“庠”。高一級的大學叫“上庠”，低一級的小學叫“下庠”。
到了夏朝（公元前21世紀——公元前16世紀）把學校又分成了四個等級，按級別叫做：“學”、“東序”、“西序”、“?！?。
到商朝（公元前16世紀~公元前1066年）時，又把這四種學校的名字給為：“學”、“右學”、“左學”、“序”。后來的朝代還有在王府里設立的學校，叫“辟雍”、“成均”等。
到漢代（公元206年~公元23年），一級的學校稱做“太學”，下面分別稱做“東學”“西學”“南學”“北學”。再后來把“太學”改為“國子學”，“國子寺”，“國子監(jiān)”。漢代，是中國古代教育史上一個比較昌盛的時期。漢代的學校分為官學與私學兩種。其中私學的書館，亦稱蒙學，即啟蒙的學塾。相當于幼兒園或小學。