St. Albani war ursprünglich die Kirche des Dorfes Gutingi, die bei dessen Ersterwähnung im Jahr 953 bereits vorhanden war.
Somit ist sie die älteste Kirche Göttingens, auch wenn die heutigen Ausmaße erst mit dem gotischen Bau entstanden, der 1467 vollendet wurde. Die 1996 wieder freigelegten Seccomalereien im Gewölbe stammen ebenfalls aus der Zeit der Fertigstellung.
Im 18. Jahrhundert wandelte sich das Erscheinungsbild erneut, denn der Turm bekam eine barocke Haube und die Sakristei wanderte von der Nord- zur Südseite.
Besonderes Schmuckstück von St. Albani ist der Doppelflügelaltar von Hans von Geismar aus dem Jahr 1499. Neben biblischen Szenen ist auch das Martyrium des Heiligen Alban dargestellt, der der Kirche ihren Namen gibt.
Die jetzigen Tafeln des Altars haben allerdings eine abenteuerliche Irrfahrt hinter sich: 1857 wurde die Kirche renoviert und der restaurationsbedürftige Altar für den Trödler bestimmt. Ein Göttinger Student kaufte die Altartafeln für 1 Taler pro Stück dem Küster ab. So gelangten sie teils auf dessen pommersches Familiengut, teils ins Rostocker Museum. 1907 konnten die Altartafeln für 1.000 Reichsmark von der Stadt Göttingen zurückgekauft werden. Sie kamen ins Städtische Museum. Erst 1931 ist der Altar als Dauerleihgabe des Museums wieder an seinen alten Platz in St. Albani zurückgekehrt. Allerdings nicht wie ursprünglich klappbar, sondern so installiert, dass nun ein gleichzeitiger Anblick der ehemaligen Sonntags- und Werktagsseite möglich ist.
Die Ott-Orgel aus dem Jahr 1964 erklingt bis heute. Und seit 2019 sind nach einer langen Spendeninitiative wieder 4 Bronzeglocken über Göttingen zu hören.