光绪二十四年（公元1898年）在绍兴县试中马一浮以名列榜首的成绩名声大噪，与鲁迅、周作人兄弟同榜。少年英才，自然为众人瞩目。浙江名士汤寿潜，民国时期浙江省第一任都督、交通总长，读过马一浮的文章后，大为赞赏之下，便把长女汤仪（字润生，私谥孝愍）许配给他。

这时，马一浮的父亲正患病卧床，需要冲喜，经双方家长同意，就提前办了喜事。于是，光绪二十五年（公元1899年），16岁的马一浮娶汤孝愍为妻，开始度过他生命中明朗却短暂的美好时光。

婚后，夫妻感情甚笃。这位汤小姐，比马一浮大一岁，虽不识字，但深懂闺训，她服侍有病的公公至孝，对丈夫体贴入微。但素有爱国抱负的青年马一浮，在当时“戊戌维新”运动的影响下，渴望追求新知。他他耐心教妻子识字读诗，对妻子说：“不能识字，比于盲瞽，不能读书，比于冥行。”

不久，马一浮就辞别瘫痪在床的老父和新婚燕尔的妻子到上海学习英文、法文，直到1900年底，因父病日益沉重，才匆匆回家探望。翌年三月，老父与世长辞。

1901年11月，料理完后事，马一浮再次告别妻子，到上海游学。在此期间，他广交朋友，结识了广西的马君武，也结识了上海南洋公学特班的学生。如李叔同、邵力子、黄炎培、洪允祥、林同庄等人，尤其和外语基础特别好的马君武、谢无量志同道合，在上海创办了一个《二十世纪翻译世界》杂志社，译介了斯宾塞等西方名人名著，内容涵盖文学、哲学、政治、社会学、教育史等等，试图借西学新知，唤起民众。

就在此时，马一浮突然接到家乡电报，得悉妻子病危，于是夤夜动身赶回家乡。由于交通不便，经过两天两夜才回到家乡长塘。谁知幽明永隔，亡妻已经停棺在堂。

马一浮的当时肝肠俱碎，他真的不敢相信妻子就这样飘然的离诀了人间。他在妻子灵柩合棺前的整整二十四小时的时间内，不吃也不喝，不哭也不闹。他只是轻轻握住了妻子的手。家人都恐怕马一浮是因为悲愤过度而变得痴呆了。后来，在妻子下葬入土的数日之后，马一浮坐在自己物是人非的清冷的屋子里，方灵魂回窍般地嚎啕大哭起来。

妻子汤氏的病逝，马一浮哀痛之余，还有更多愧疚。他曾作《哀亡妻汤孝愍辞》来寄托自己的深切哀思：“孝愍归我三十一月，中间迭更丧乱，无一日不在悲痛中，浮未有与卿语尽三小时者。然浮所言他人所弗能解者，卿独知其意。……卿既死，马浮之志、之学、之性情、之意识，尚有何人能窥其微者！”

此后数十年，马一浮一直未娶，孑然一身地漂泊在乱世之中。对于这一点，马一浮说：“吾见室人临终后之惨象，惊心触目，不忍人睹，自此遂无再婚之意。”

马一浮此后与岳家一直保持着良好的交往。岳父汤蛰先先生逝世之后，妻子的哥哥汤孝佶先生诚恳地向马一浮先生表示了父亲的遗愿：亡女缘悭福浅，希望马先生能再继画眉之乐，不要再孤灯独对的苦待自己了。

当时，一些世伐大户人家的女子，对于声名如日中天的马一浮存了一份幽微的爱慕之情，并通过各种方式表达给马一浮。可是，马一浮坚决表示不再续娶。他毅然在报刊上登出了婉拒友人为他作伐续弦的一封信。云：“浮德非虞鳏，生无立锥之地；才谢孔父，已邻衰白之年。分当枯木寒岩，自同方外；此而犹议婚姻，私亦讶其不伦。”马先生此信一经刊登，喧嚣而上的议论立即就雨晏风清了。