Der Old Gray Cemetery ist der zweitälteste Friedhof in Knoxville im US-Bundesstaat Tennessee. Der 1850 angelegte Friedhof beherbergt auf einer Fläche von 5,45 Hektar die Gräber einiger der einflussreichsten Bürger Knoxvilles, von Politikern und Soldaten bis hin zu Künstlern und Aktivisten. Der Friedhof ist auch bekannt für die Marmorskulpturen aus der viktorianischen Ära und die kunstvollen Schnitzereien, die viele der Grabsteine und Grabsteine schmücken. 1996 wurde der Friedhof in das National Register of Historic Places aufgenommen. Benannt nach dem englischen Dichter Thomas Gray (1716–1771), ist der Old Gray Cemetery ein Beispiel für einen sogenannten Gartenfriedhof, ein Stil aus der Mitte des 19. Jahrhunderts, der den Übergang von städtischen Friedhöfen zu ruhigen Vorstadtgrundstücken anstrebte. Im Gegensatz zu seinem überfüllten Vorgänger, dem First Presbyterian Church Cemetery, bietet Old Gray geräumige Gräber, großartige Denkmäler und eine ausgedehnte Vegetation, und sein Grundriss ähnelt eher einem öffentlichen Park.

In den 1840er Jahren hatte die Gartenfriedhofsbewegung, die vor allem durch den Ruhm des Pariser Friedhofs Père Lachaise angetrieben wurde, in Frankreich, England und den Vereinigten Staaten an Popularität gewonnen, da Planer in verschiedenen Großstädten begannen, größere, aufwendigere Friedhöfe in den Außenbezirken und Vororten ihrer jeweiligen Städte zu bauen. Während dieser Zeit suchten die Führer von Knoxville nach einem solchen Friedhof für Knoxville, da viele fälschlicherweise geglaubt hatten, dass der Friedhof der First Presbyterian Church (in der Nähe des Stadtzentrums) 1838 eine tödliche Epidemie verursacht hatte. Im Februar 1850 wurde ein Kuratorium unter der Leitung des Präsidenten der East Tennessee University, William B. Reese, ernannt, um Land zu kaufen und Grundstücke für einen neuen Friedhof zu verkaufen. Das Gelände des Old Gray Cemetery war früher Weideland etwas außerhalb der nordwestlichen Stadtgrenzen von Knoxville. Nur eine Meile von der Innenstadt entfernt, galt es als ideal für einen Vorstadtfriedhof. Das erste Grundstück für den Friedhof wurde im Dezember 1849 gekauft, und der Landschaftsarchitekt Frederick Douglass wurde beauftragt, einen Grundriss zu erstellen. Auf Anregung von Reeses Frau Henrietta wurde der Friedhof nach dem englischen Dichter Thomas Gray benannt, dem Autor von Elegy Written in a Country Churchyard. Der Friedhof wurde am 1. Juni 1852 mit dem Verkauf der ersten 40 Grabplätze eingeweiht. Die erste Beerdigung fand jedoch am 15. Juli des Vorjahres statt, nachdem ein Einheimischer namens William Martin während der Feierlichkeiten zum 4. Juli an den Verletzungen einer Kanonenexplosion gestorben war. Martins Grab war nicht markiert, aber ein kleines Marmordenkmal im nordwestlichen Teil des Friedhofs erinnert an den Vorfall. Viele der frühen Bestattungen auf dem Friedhof fielen der Choleraepidemie von Knoxville im Jahr 1854 zum Opfer. Auf dem Friedhof befinden sich auch mehrere Dutzend Opfer des Zugunglücks von New Market im Jahr 1904. Im Jahr 1912 war der Friedhof Zeuge eines der größten Trauerzüge, die jemals in den Südstaaten durchgeführt wurden, als etwa 40.000 Trauernde an der Beerdigung des ehemaligen Gouverneurs von Tennessee, Robert "Fiddlin' Bob" Taylor, teilnahmen (Taylors Grab wurde inzwischen nach Johnson City verlegt)