Манастир се налази у јужном делу Бачке, и од најстаријих времена био је поприште важних историјских догађаја, пре свега због стратешки изузетно важног положаја. Многобројне војске прелазиле су реке Саву и Дунав у близини манастира, још од старих Римљана па касније српске, турске, мађарске. Због тога је и манастир Ковиљ неретко био у средишту војних збивања. На другој обали Дунава су Сремски Карловци, значајно културно и црквено седиште српског народа у протеклим вековима као и Петроварадинска тврђава.
Монашке насеобине се по правилу оснивају на брижљиво бираним скровитим местима, где би могли да проведу живот у молитви и подвизима, а да су им близу важнији путеви, извори воде или још боље река. Уздигнут и сув терен представљао је повољне природне услове за насељавање. О времену настанка манастира Ковиља и његовом оснивачу нема поузданих историјских извора. Наша сазнања о томе утемељена су на легендама,а у историографији постоје опречна мишљења. Иако се неке претпоставке ослањају на традицију, ни једну не можемо да прихватимо са потпуном сигурношћу.
Српски владари и црквени великодостојници из рода Немањића били су оснивачи и ктитори многих манастира. Према предању манастир Ковиљ је основан почетком 13 века. По једној верзији, приликом крунисања 1217. Стефан Првовенчани је да би избегао рат са Угарском послао брата Св.Саву да преговара са њиховим краљем Андријом II Арпадовићем коме се није допало да Србија има краља. Дипломатски преговори су успешно завршени, а на том месту је подигнут овај манастир.
Постоји и мишљење да је манастир подигнут као метох српског архиепископског седишта манастира Жиче. Затим, поједини историчари проналазе предање по ком је манастир подигао српски краљ господар Београда Драгутин (1276-1282).
Помиње се могућност да је потенцијални средњевековни храм у Ковиљу подигнут на месту неке још старије култне грађевине из ранохришћанског периода. Често се може наићи и на верзију у литератури по којој је овај манастир подигнут на темељима фрањевачког самостана основаног 1421. Ово су само неке од претпоставки које су бројне али материјални докази који би поткрепили тврдње не постоје. Најстарији писани познати подаци о манастиру Светих архистратига Михајла и Гаврила потичу из средине 17 века, када је коњички пуковник Марије Терезије гроф. Валис 1775. добио задатак да као царски повереник сними стање манастира Ковиљ, он је тада забележио да постоји на улазу запис на српском језику из 1651.
O пореклу имена манастира постоје такође бројне претпоставке: Према једном мишљењу у околини манастира је расло светложуто мирисно цвеће ковиље. По другој верзији име је добио по средњевњковном римокатоличком тителоском манастиру Кабул. Постоји такође и мишљење да се управо на овом месту саплео Атилин коњ, па је то место названо Коболт.
Патрони ковиљског манастира су Свети архангели Михајло и Гаврило. Свети архангел Михајло је војсковођа целе ангелске војске и борац против верских јереси. Свети архангел Гаврило је благовеститељ и појављује се међу људима као весник воље Божје. Манастирска слава се обележава сваке године на дан Сабора Светог архангела Гаврила 13/26 јула. У манастиру се налази заједница монаха посвећена подвижничком животу по угледу на византијске заједнице, налази се под руководством манастирског старешине Његовог старешине епископа јегарског господина Порфирија викарног епископа Бачког.
Српски манастири су били најзначајнији духовни центри и стецишта образованих људи. У ковиљском манастиру постојала је српска основна школа јш 1607. Тада се учило само читање и појање а касније и писање и рачунање. Настава је била религиозног карактера,а читање се учило из богослужбених књига. На челу управе манастира налази се игуман, кога обично бира манастирско братство. На благостање манастира и братства у духовном и материјалном погледу пресудно је утицала личност архимандрита и игумана манастира.
Јован Рајић, познати српски историчар, писац, педагог рођен у Сремским Карловцима 1726. Путовао на Свету Гору, прикупљао драгоцене изворе и грађу коју ће преточити у своју Историју. Замонашио се 12.5.1772. у манастиру Ковиљ где је рукоположен за јеромонаха у Саборном храму у Новом Саду, исте године мало касније рукоположен је за игумана, а 3. јуна постаје архимандрит ковиљског манастира. Написао је и Катихизис који је због своје опширности назван Велики Катихизис, а касније је написао и мали Катихизис. Велики одјек у српској култури, науци и политици произвело је његово дело Историја разних словенских народа Бугара, Хрвата и Срба. Сматра се да је тим делом почело модерно изучавање историјских наука код Срба. Сахрањен је 11.12.1801. у цркви манастира Ковиља са највећим почастима.
Данашњи изглед цркве манастира, својом архитектуром подсећа на српске средњовековне манастире а највише на манастир Манасију који јој је архитектонски узор. Манастир поред тога што поседује зграду, храм и конаке он је у ствари превасходно заједница људи који су били спремни да се одрекну свега што овај свет нуди и да дођу на једно место молитве, где се успоставља мир и хармонија у самом човеку. Братство манастира Ковиљ броји 30 монаха, што га чини једним од најбројнијих мушких манастира у оквиру Српке православне цркве. Скоро половина монаха је високобразована а један део наставља образовање и усавршавање теолошким наукама. Поред редовних молитава и рада на имању певају у чувеном манастирском хору који негује традиционално византијско појање.. у манастиру се још праве свеће,сликају иконе... баве се производњом меда од белог босиљка, воћне ракије, коњак и ликер од ораха...
До средине 18 века Трци су у два маха опустошили манастир. Након страдања монаси су помоћ у новцу, књигама и богослужбеним предметима тражили и налазили у другим српским манастирима, али и другим државама. Често је помоћ долазила и из Русије. У последњим деценијама 18. века Ковиљ поново страда од Турака.
Прва велика обнова манастира била је средином 19 века, када је стари ковиљски храм срушен, а тај материјал употребљен за зидање монашких ћелија. Поред знатне материјалне помоћи са разних страна манастир је обновљен само делимично. Док се са уређењем унутрашњости морало чекати на боња времена. Обнова целокупног манастирског комплекса завршена је тек на крају 19. века.
На челу управе манастира налази се игуман, који је обично биран између монаха манастирског братства,архимандрит такође учествује у управљању.
Таман када је настао период благостања и напретка крајем 19. и почетком 20. века, почео је I светски рат и нова страдања. У ратно време власт је узимала материјална средства где год и кад год је то било могуће. Осим материјалних средстава отимали су и залихе хране, овце, звоник, све што је могло да опслужи. По завршетку рата спроведена је аграрна реформа и пошто је манастир превазилазио прописни максимум, одузет је део поседа. Тридесетих година 19 века у манастиру су се догодиле велике промене. Ковиљ је претворен у женски манастир, а искушеници и манастирски ђаци упућени у манастир Бођани. На други дан Ускрса 14.априла 1940. мађарска војска је ушла у село Ковиљ, монахиње су остале још годину дана да би опет на други дан Ускрса биле протеране у Срем, манастир је опљачкан. После 2 месеца у Ковиљ се враћају монаси из манастира Бођана, који је такође био расељен и опљачкан. Пред крај рата мађарске власти су вратиле целокупно манастирско имање Управи манастира. Државне власти су у септембру 1945. одузеле имање манастиру. Потом је 1948. одузето још 10 хектара земље уз образложење да овај комплекс није од већег историјског значаја. У послератном периоду монахиње се више нису враћале овамо, али је број мушких монаха варирао, 1979-80 манастирско братство није успевало успешно да води манастир. После 1990 манастирско братство је обновњено и манастир Ковиљ живи и данас. Традиција успешног сточарства у манастиру настављена је и у данашње време, узгајају се краве и производи сир и млечни производи. У манастирској башти узгајају различито поврће. Производе се и многобројни посни производи, које конзумирају а нешто продају и у Новом Саду. Од ових прихода издржавају групу младих људи који се уз помоћ и бригу ковиљских духовника успешно лече од болести зависности.
2008. успели су да врате експрописану манастирску земљу после Другог светског рата око 1000 хектара. Ковиљски монаси производе ракију, мед. Окружени су шумама 14 хектара бреста, дрена, трњина, ринглова, глога и другог растиња што је добро за пашу пчела. Од пчелињег воска производе свеће којима снабдевају цркве у Бачкој епархији. Живот у манастиру организован је према строгом поретку, где сваки монах има своје задужење, негују таленте и знања. Тако у манастиру постоји офтамолошка ординација, иконописачка радионица, сликарски атеље, специфичан црквени хор који негује старовизантијско црквено појање, са неколико аудио издања својих интерпретација.
У основној школи „Лаза Костић“ у Ковиљу, монаси овог манастира држе часове веронауке, тако доприносе духовном и културном просвећивању младог нараштаја.