Die Stadt wurde 1221 von Juri II. Wsewolodowitsch, dem Großfürsten von Wladimir, am Zusammenfluss der beiden wichtigsten Flüsse seines Reiches, der Wolga und der Oka, gegründet.
Im Jahre 1350 wurde Nishnij Nowgorod zur Hauptstadt des Fürstentums Susdal erklärt. Als Teil des Großfürstentums Moskau (seit 1392) wurde Nishnij Nowgorod von den Menschen aus Moskau vor allem als wichtige Festung für ihre Kriege gegen die Kasaner Tataren angesehen. Mit der Eroberung von Kasan (1552) und Astrachan durch den Zaren Iwan den Schrecklichen wurde Nishnij Nowgorod zu einem Ort, wo der Handel zwischen Russland und dem Osten ablief.
1612 vertrieb eine Volkswehr, die vom Nishnij-Nowgoroder Kaufmann Kusma Minin aufgestellt worden war und vom Fürsten Dmitrij Poscharskij angeführt wurde, die polnischen Truppen aus Moskau und beendete damit die Zeit der Wirren. Die Gebeine Minins befinden sich im Kreml von Nishnji Nowgorod, nach ihm ist außerdem ein bekannter und schöner Platz im Stadtzentrum benannt. In Moskau steht ein berühmtes Denkmal der beiden Volkshelden, eine Kopie davon ist auch in Nischnij Nowgorod zu bewundern.
Im Verlauf des 17. Jahrhunderts erlebte die Stadt eine wirtschaftliche Blüte, und wurde von den Stroganows, einer der reichsten Kaufmannsfamilien Russlands, als Stützpunkt für ihre Unternehmungen gewählt.
1817 wurde die Messe von Makarjew, einer der lebhaftesten Handelsmärkte der damaligen Welt, nach Nishnij Nowgorod verlagert. Dieses Ereignis lockte von da an Jahr für Jahr Millionen von Besuchern in die Stadt.
Mitte des 19. Jahrhunderts hatte sich Nishnij Nowgrord als führende Handelsstadt des Russischen Reiches etabliert. Eine berühmte Redensart, die Nishnij Nowgorods Bedeutung als Handelsstadt widerspiegelt, lautet: Moskau ist das Herz Russlands, Petersburg sein Kopf und Nishnij Nowgorod seine Tasche.
1896 fand in Nishnij Nowgorod eine gesamtrussische Industrie- und Kunstausstellung statt, die eine starke Anregung zur weiteren Entwicklung der Stadt gab. Zu Beginn des 20. Jahrhunderts war die Stadt eines der wichtigsten Industriezentren des Landes.
In den 30er Jahren des 20. Jahrhunderts bekam Nishnij Nowgorod den Status einer so genannten „geschlossenen Stadt”, die von Ausländern nicht besucht werden durfte. Grund dafür waren die hier ansässigen Betriebe, die auch Rüstungsgüter herstellten: 1932 wurden eine Automobil- und eine Flugzeugfabrik eröffnet, später wurden auch Atom-U-Boote, Kampfflugzeuge (etwa die MiG-29 oder die MiG-31) und Panzer produziert. Von 1932 bis 1990 trug die Stadt den Namen Gorki.
Während des Zweiten Weltkrieges wird die Stadt zum größten Rüstungsstandort des Landes. Hier werden Munition und die bekannten Katjuscha-Raketen produziert.
Ungefähr von 1960 bis 1980 wird die Stadt, wie alle sowjetischen Großstädte durch den Bau von neuen Wohngebieten in Plattenbauweise wesentlich erweitert.
1991 wurde die Stadt wieder für Besucher geöffnet. Bereits in der Zeit der Perestroika und bis in die 90er Jahre hinein galt die Stadt als Vorreiter marktwirtschaftlicher Reformen. Während andere Regionen Russlands noch am alten System festhielten, zeigte man sich hier besonders fortschrittlich.
Im Jahre 2000 wurde Nishnij Nowgorod im Rahmen der Umstrukturierung der administrativen Struktur Russlands unter Präsident Putin zur Hauptstadt des Föderationskreises Wolga, zu dessen Oberhaupt der ehemalige Ministerpräsident Sergei Kirijenko ernannt wurde; zurzeit hat Grigorij Rapota den Posten inne. Der heutige Gouverneur der Region Nishnij Nowgorod ist Valerij Schantsev, der Oberbürgermeister - Oleg Sorokin.