Верује се да је манастир подигнут за слепог Гргура Бранковића - као монах звао се Герман, а на иницијативу његовог сина Вука Гргуревића. Историчари се не слажу и сматрају да је то више легенда него чињеница, те да нема никаквих доказа у прилог овим тврдњама.
Не зна се дакле поуздано, ко је био градитељ манастира као ни време његове изградње. Наводи се чак и 1471. као година његовог подизања. Пошто је Гргур Бранковић умро 1459. године ова прича ипак остаје само легенда. Неки извори нас наводе на закључак да је манастир саграђен пре пада Срема 1521. Такође се претпоставља да је манастир био добростојећи, јер је у време откупа од Турака, своје ливаде, баште и њиве откупио за износ од 6000 акчи. Према наводима из 1702. опата Бонинија видимо да је манастир поседовао 4 млина, 200 јутара ораница и ливада и да је у том периоду у манастиру боравило 25 монаха. Из једне аустријске повеље из 1706. се види да је манастир имао укупно десет воденица.
У 18.веку Гргетег је био прибежиште за калуђере из манастира Сланци који су се ту склонили бежећи од Турака доносећи са собом ствари, одежде и књиге, мада су се када је опасност прошла вратили назад. У време турско-аустријског рата 1683-99. манастир је спаљен 1688, а онда и напуштен. Аустријски цар Леополд га поклања Исаији Ђаковићу, тако је почела и његова обнова.
Данашњи облик манастир Гргетег дугује архимандриту Илариону Руварцу, познатом историчару који је дао да се 1899. године у потпуности изврши рестаурација цркве и конака.
Свечано освећење манастира је обављено 10. јуна 1901. године. Присуствовали су митрополит Георгије Бранковић , Антоније Хаџић, песник Лаза Костић, бачки епископ Митрофан (Шевић, 1900-18), настојатељи свих фрушкогорских манастира и многи други.
У 2. светском рату манастир је тешко страдао, а од 1953. године се постепено обнавља. 1988. године вршени су конзерваторско-рестаураторски радови. Слава манастира Гргетег је Пренос моштију Светог оца Николаја - 22. (9.) мај.