《后汉书?郑玄传》称“玄自游学，十余年乃归乡里。家贫，客耕东莱，学徒相随已数百千人”。又记其60岁时，“弟子河内赵商等自远方至者数千”。由此可见，郑玄当时私门讲学，极一时之盛。其弟子众多，几遍全国各地，见载于《郑志》、《郑记》与史传者，著名的就有河内赵商、清河崔琰、清河王经、乐安国渊、乐安任嘏、北海张逸、鲁国刘琰、汝南程秉、北海孙乾、山阳郗虑、南阳许慈等等。他的学生有的成了大官，有的成了著名的学者，《后汉书》本传说其门人山阳郗虑至御史大夫，东莱王基、清河崔琰著名于世。又乐安国渊、任嘏，时并童幼，玄称渊为国器，嘏有道德，其余亦多所鉴拔，皆如其言。
看来，郑玄有知人之能，求学者不远千里投到他的门下，也都能确有所得。
人称郑玄“著书满家，从学数万”（《经学史》）恐怕不是虚言，他的弟子总数当不会少于万人。据后人辑佚的《郑志》和《郑记》记载，郑玄在进行教学时，注意采取问难和启发的方式，师徒们锲而不舍，切磋琢磨，治学态度十分严谨。
《食旧堂丛书》中《论语郑注》记下了这样一个故事《论语》评《诗经》有“乐而不淫，哀而不伤”的话，郑玄注曰“乐得淑女，以为君子之好仇，不为淫其色也。寤寐思之，哀世夫妇之道。不得此人，不为减伤其爱也。”但是，郑玄在给《毛序》是以“《关睢》乐得淑女以配君子，爱在进贤，不淫其色，哀窈窕，思贤
才，而无伤善之心焉”作笺时却说“哀盖字之误也，当为‘衷’，衷谓中心恕之，无伤善之心，谓好逑也。”这引起了弟子刘琰的怀疑注《论语》以“哀”释之，注《毛序》又解作“衷”字之误，为何前后不一致呢？郑玄赞赏刘琰的用心思考，他回答说“《论语注》人间行久，义或宜然，故不复定，以遗后说。”就是说，应采取实事求是的态度，拿不准的就不强作结论，以免遗害后人。博闻、阙疑，慎言其余，郑玄不仅治学如此，也教育学生要如此。
《食旧堂丛书?郑志》记有郑玄与弟子赵商的一段对话，是由《诗?商颂?长发》的序文引起的。《毛序》说“《长发》，大礻帝也。”郑玄笺曰“大衤帝，郊祭天也。……”这中间牵涉到很复杂的祭礼问题，赵商引古籍不同意郑玄的解释，
郑玄在进行了一番说明后批评弟子说“探意太过，得无诬乎！”在与赵商的另一次谈话时也说“天下之事，以前验后，其不合者，何可悉情？是故，悉信亦非，不信亦非。”从这些师徒间切磋时的随意性谈话中可以看出，郑玄教育学生是很注意问难式、启发式和因材施教的，这是对我国大教育家孔子的传统的继承和进一步发展。而其教育方面的突出成就，又促进了其学说的传播，终得大行于世。
