Az iskola Kármán Mór elgondolásai alapján 1872. októberében azzal a céllal kezdte meg működését, hogy kifejezetten a leendő középiskolai tanárok felkészítésének legyen színtere, valamint magas színvonalú oktatást nyújtson a diákoknak. 1887 októberében elkészült a mai Trefort és Szentkirályi utca sarkán az iskola, ahol a mai napi folyik az oktatás. Nevét, a kor oktatási miniszteréről Trefort Ágostonról kapta, bár előbb az utca kapta meg a nevet, és innen az akkor még névtelen iskola is átvette.