徐树铮住进山东巡抚衙门后，袁世凯并没有派给他什么固定差使，他每天做的，就是和其余幕僚们一起上下古今，高谈阔论。

袁府原有的幕僚多数是学究出身，熟练掌握奏疏的一般公文程式，但对于大下大事却茫然不知。徐树铮所说的那些东西，他们更是闻所未闻，时间一长，便都佩服他学问渊博、才气纵横。

联想到左宗棠、李鸿章等人原来也都是看似狂妄、夸夸其谈的书生，之后却由作幕而一步步飞黄腾达起来，有人就摇头晃脑地议论道：“又铮（徐树铮的字）非池中物也！”

某天，时任炮兵统领的段祺瑞来到巡抚衙门和幕僚们闲谈。有人就提到了徐树铮，说这个年轻人才文俱佳，将来必定是有用之才。

言者无意，听者有心。这时段祺瑞奉袁世凯之命要办一个随营学堂，杂事很多，身边缺一个办笔墨的人。他就抱着姑且一试的态度对那位夸赞徐树铮的幕僚说：“徐某人既然是个人才，你可以叫他来见见我。”

徐树铮知道后果然来求见段祺瑞。虽然他在与段祺瑞谈话时彬彬有礼，但态度不卑不亢，纵论起天下大事，更是旁若无人。

段祺瑞急需的是一个文案，光会讲还不行，他曾耳闻徐树铮向袁世凯上条陈一事，于是就问徐树铮：“你曾经上书抚台（即袁世凯）吗？”

徐树铮答是。段祺瑞听了，便微笑着请徐树铮坐下，随即取出几封待回复信件，让徐树铮当场拟稿。这对徐树铮来说并非难事，他没花多长时间就将几封回信一一拟就，然后呈交段祺瑞阅览。段祺瑞一看很合乎心意，由此对徐树铮颇为欣赏，爱才之心也油然而生。

徐树铮原是袁府幕僚，把他要过来自然还得通过袁世凯。段祺瑞跟袁世凯一讲，袁世凯正好尚无适当的机会安插徐树铮，当即就答应了段祺瑞的请求。

段祺瑞派徐树铮在书记处担任司书，月薪银十二两，待遇不可谓不优厚。段祺瑞平时待他也相当客气，因此段祺瑞的家人及其部下当面都尊称徐树铮为徐师爷。

自徐树铮投入段幕，段祺瑞天天听他议论国内外形势，每次徐树铮都讲得头头是道。至于处理事务方面，往往段祺瑞还没有想好具体计划，徐树铮已经替他考虑得非常周密：上策如何，中策如何，下策如何，且每一条建言都有条有理，要言不烦，让段祺瑞感到很是满意，“实获我心”。

有徐树铮在身边，段祺瑞犹如多了一个备忘录，可以省去许多记忆的工夫——徐树铮聪明过人，尤其记忆力非常人可比，可以说是过目不忘，什么规章制度、公文条例，看得既快，记得又熟，只要段祺瑞问他，总是对答如流。有人不信，找出资料来一对，结果发现居然一字不差。

让段祺瑞满意的还不止这些。那个年代，一般当师爷的都是咬文嚼字，自命不凡，以至于隔着老远就能闻到一股冲天的酸气。徐树铮虽是秀才出身，却并没有这些酸腐气和臭架子，为人相当朴实勤恳。

段祺瑞以军人出道，平时最重练兵，每天早晨都会亲自带着士兵出操。出操是个苦差事，连有些官兵都抱着最好不去的心理。徐树铮是个师爷，本来是不必出操的，但他天天都早早起床，跟士兵们一块儿练操。这更增加了段祺瑞对他的好感，认为徐树铮不仅能说能写，还能干，诚为书生中不可多得的人才，这个幕僚看来是找对了。

不久，袁世凯升署直隶总督兼北洋大臣，开始训练新军。段祺瑞也随之来到保定，奉命办理武备速成学堂。武备速成学堂是保定军校的前身，学校的不少毕业生后来都成了北洋系的高级将领，它对拓展段祺瑞事业版图的意义不言而喻。就在这次办校过程中，徐树铮帮了段祺瑞大忙，从招生时的命题、监考、阅卷等各项事务，到学堂的规划，无不倾力其中。

北洋六镇成立后，段祺瑞出任陆军第三镇统制官，同时提升徐树铮为镇部一等书记官。本来段祺瑞还想找机会继续大力提拔徐树铮，但这位师爷却已经有了另外的想法。

此时日俄战争爆发，日本继在甲午战争中击败中国后，又进而挑战俄国，显示着这个新近崛起的岛国，已逐渐成为东亚乃至国际政治舞台上不容小觑的重要角色。

徐树铮与一般书生和师爷的不同之处就是忧国忧民，并且时时关心和了解着国际国内大势的走向。他认为中国现在虽然衰弱了，受到列强甚至日本的欺侮，但一旦强盛起来，仍旧可以征服各国，而目前必须做的，首先就是向日本学习，争取早日赶上日本。

徐树铮不但自己想去日本留学，还准备送妻子去，但让他发愁的是，去日本就要向段祺瑞辞行。大家都知道段祺瑞对他颇为信任倚重，了解他真实用意的，免不了会劝他不该就此放弃在段幕的大好前景，不了解的就会指责他是见异思迁、忘恩负义。

另外一个难题是经费。去日本留学需要一笔不小的开支，而徐树铮除了领取固定月薪，并没有其他收入来源，他的积蓄用来维持日常生活尚可，但远不足以支付留学费用。

徐树铮决定先送妻子东渡扶桑，而且就像当初给袁世凯上条陈一样，他又想到了剑走偏锋。