虛無主義這個詞最早來源於拉丁語中的「nihil」,意為「什麼都沒有」。牛津英語字典認為它於1817年進入英語辭彙,而Alain Ray的Dictionnaire historique de la langue francaise(1995年修訂版)認為它在1787年進入法語辭彙,nihiliste最早於1761年使用,不過那時指宗教意義上的異教徒。Ray同時認為1829年出現在俄語中的nigilizm是由於這個詞對於現代語言的浸透。(拉丁語中的不定代詞nihil 由nihilum減縮而成。)
雖然屠格涅夫使虛無主義這個詞眾所周知,它是由弗裡德裡希·海因裡希·雅各比(Friedrich Heinrich Jacobi,1743年-1819年)首先引入哲學領域。雅各比想用這個詞展現出理性主義特色,特別是康德的批判哲學。他認為所有的理性主義都可以減到虛無,這樣我們應該試圖去避免它,回歸到某些信仰。