年6月2日，王国维感于世变，决定结束自己的生命，便修好遗书怀之，乘人力车到颐和园自沉于昆明湖。
遗书全文如下：
五十之年，只欠一死，经此世变，义无再辱。我死后当草草棺敛（殓），即行索葬于清华莹地。汝等不能南归，亦可暂于城内居住；汝兄亦不必奔丧，固道路不通，渠又不曾出门故也。书籍可托陈、吴二先生处理，家人自有人料理，必不至不能南归。我虽无财产分文遗汝等，然苟谨慎勤俭，亦必不至饿死也。
五月初二日父字
年夏，清华国学院停办，该院师生为纪念这位杰出的学者，募款修造了这座纪念碑。碑文为陈寅恪教授在王国维先生投水自沉后两周年写的纪念碑铭（王国维纪念碑，碑式由梁思成设计），原载清华大学消夏周刊年第壹期，后收入《陈寅恪全集·金明馆丛稿二编》。此文情真意切，其中特别强调“独立之精神，自由之思想”，使人读来顿觉真理之正大光明。
清华大学王观堂先生纪念碑铭海甯王靜安先生自沈後二年，清華研究院同仁咸懷思不能自已。其弟子受先生之陶冶煦育者有年，尤思有以永其念。僉曰，宜銘之貞瑉，以昭示於無竟。因以刻石之詞命寅恪，數辭不獲已，謹舉先生之志事，以普告天下後世。其詞曰：
士之讀書治學，蓋將以脫心志於俗諦之桎梏，真理因得以發揚。思想而不自由，毋寧死耳。斯古今仁聖同殉之精義，夫豈庸鄙之敢望。先生以一死見其獨立自由之意志，非所論於一人之恩怨，一姓之興亡。嗚呼！樹茲石於講舍，系哀思而不忘。表哲人之奇節，訴真宰之茫茫。來世不可知者也，先生之著述，或有時而不彰。先生之學說，或有時而可商。惟此獨立之精神，自由之思想，曆千萬祀，與天壤而同久，共三光而永光。
孤独图书馆：你的孤独是一座花园，我的孤独是一座天堂。