На следующий день после Полтавской битвы, царь Петр I приказал вырыть две могилы: одну для погибших офицеров и одну - для солдат. В присутствии всех войск была отслужена панихида, а после похорон над могилой был насыпан большой холм. По легенде, Петр I собственноручно установил на его вершине деревянный крест с надписью: "Воины благочестивые, за благочестiе кровiю вънчавшiеся, лъта отъ воплощенiя Бога-Слова 1709, iюня 27 дня". В 1828 году при генерал-губернаторе Н.Г.Репнине обветшалый крест был заменен новым, а в 1856 году на могиле был установлен крест, обитый железом, и сделана деревянная лестница. В 1894 году по проекту архитектора Николая Никонова мастером Андреем Бариновым был сооружен новый монумент в виде креста из светло-серого гранита высотой 7,5 метра и весом около 1000 пудов, установленного на постаменте. На восточной стороне постамента сделана надпись :"Погребены: бригадир Феленгеймъ, полковники Нечаевъ и Ловъ, подполковник Козловъ, маiоры Кропотовъ, Ерстъ и Гельт, обер-офицеровъ сорокъ пять, капраловъ и рядовыхъ тысяча двъсти девяносто три, всего погребено 1345 человък". Со стороны церкви Св. Сампсония для подъема на монумент была устроена гранитная лестница. На арке лестницы сделана надпись: "Сооруженъ въ 1894 году, при державъ Благочестивъейшаго Государя Императора Александра III, распоряженiем святъйшаго правительствующаго синода, при святительствъ преосвященного Иларiона, єпископа Полтавскаго и Переяславскаго, иждивенiем тайного советника Йосифа Степановича Судiенко, оставившаго денежный капиталъ на увъковъченiе великого событiя спасительной Полтавской побъды. - Исполненъ въ С.-Петербургъ по проекту и наблюденiемъ архитектора Н.Никонова мастером А.Бариновым". Могильный холм окружен гранитным цоколем, на котором установлены гранитные тумбы, соединенные цепями. Памятник был освящен 11 сентября 1894 года. Однако вскоре оказалось, что гранитный крест начал проседать. В 1906 году было принято решение открыть могилу, укрепить фундамент и построить на нем новый монумент в виде могильного кургана с небольшой могильной церковью Св. Петра и Павла внутри. Строительство было закончено к 1909 году, когда отмечалось 200-летие Полтавской битвы.