Auf der gegenüberliegenden Seite des Rathauses liegt der Grenzpfahlbrunnen, der als Sinnbild für die unselige Teilung Deutschlands steht. Der Brunnen wurde im Jahr 2000 vom Künstler Rolf Winkler geschaffen und besteht aus einem Grenzpfahl, der die Trennung zwischen Ost und West symbolisiert, sowie einem Wasserbecken, das die Sehnsucht nach Einheit und Freiheit ausdrücken soll. Der Brunnen erinnert daran, dass Duderstadt bis 1989 direkt an der innerdeutschen Grenze lag und somit auch von dieser Teilung betroffen war. Heute ist der Grenzpfahlbrunnen ein beliebtes Fotomotiv und ein Ort der Mahnung und Erinnerung. Ein Besuch ist empfehlenswert, um die Bedeutung der deutschen Teilung zu verstehen und zu reflektieren.