许衡十六岁时,下决心求学,一心研究儒家经典。1232年,蒙古军攻破新郑,许衡被俘,但是后来获释。6年后科举中选,遂以教学为业,与当时著名的隐士窦默一起谈论学问。1242年,许衡得
程颐的《
易传》、
朱熹的《四书章句集注》、《
小学》等书,从此以此传授门徒。1254年,
忽必烈置宣抚司,以许衡为京兆教授。1258年还居河内。中统元年(1260),元世祖忽必烈即位,遂召许衡北上。次年,官国子祭酒,不久辞职还乡。中统三年,复入朝,但因病燕京,
至元元年(1264)归乡。二年,忽必烈再召,许衡奉命即赴,四年,告病还,不久复召入。七年,官中书左丞。许衡劾
阿合马专权,世祖不听,于是又请求解职。八年,官集贤大学士兼国子祭酒,置国子学。许衡致力教学,用小学、四书,及所著《大学直解》、《中庸直解》、《大学要略》、《编年歌括》、《稽古千字文》等篇作教材。十年,许衡辞职归怀州。十三年,再召至大都,命与王恂、
郭守敬等人商定历法。十七年致仕还乡,次年去世。