他在复徐树兰的信中毫不客气地指出，这个上谕“皆黎邙之鬼所为”，“岂有取顽固者之言而崇奉之之理”，他表示自己宁愿辞职，也不做违心之事，他甚至敢冒天下之大不违而直言道，“虽迫之以白刃而不从。盖元培所慕者，独谭嗣同耳”。
明知不能说服徐树兰，也不想让自己这个“忘年交”为难，蔡元培于写信的当日即离开绍兴，前往嵊县。这大概是蔡元培教育生涯中第一次辞职，后经他人从中调解一番，蔡元培不久才又重回绍兴，继续留任中西学堂总理。
在此期间，蔡元培还兼任着嵊县剡山书院和诸暨丽泽书院的院长，为时均一年。在前述辞职期间，他曾到嵊县剡山书院做了几次讲演，并认真地为剡山书院制定了“书约”。
在“书约”中，有这样的话；治学“当以益己、益世为宗旨”，士人应摆脱“应试求官之积习，而急致力于有用之学”。
每次讲演，他都以自己的切身经历现身说法，策励读书人适应时代的变迁。
此外，他还以乡贤身份，受聘于嘉善县宁绍会馆的董事。虽然一身这么多兼职，但他对此同样很用心，多次前往襄理馆务。对会馆的注册及拟定规章，不遗余力，成为他办学之外的又一公益。