Był nie tylko majętnym ziemianinem, dowódcą jarocińskich powstańców wielkopolskich, druhem Komendantem, dowódcą VI Okręgu Wojskowego w powstaniu z siedzibą w Jarocinie, ale także zapalonym myśliwym i organizatorem jednych z największych polowań przed I wojną światową w Wielkim Księstwie Poznańskim. Pasję do polowań odziedziczył po swoim ojcu Stanisławie, budowniczym przepięknego neorenesansowego pałacu w Tarcach. Pałacu, którym zachwycali się już jemu współcześni. Zachwycamy się nim i my. Można więc przypuszczać, że życie towarzyskie majętności tarzeckiej koncentrowało się właśnie wokół polowań. W okresie zaboru pruskiego prawdziwe łowiectwo przeciwstawiono polityce pruskiej, krzewiono w ten sposób polską tradycję narodową. Był to też czas Wielkich Polowań i Wyborowych Myśliwych, którzy szczególnie się wyróżniali. Jednym z nich był właśnie hr. Z. Ostroróg-Gorzeński, którego wnętrza pałacu ozdabiały liczne myśliwskie trofea. Był on także razem ze swoim przyjacielem Zygmuntem hr. Kurnatowskim prekursorem w hodowli danieli, które razem w 1910 r. sprowadzili z Czech.
Zbigniew Ostroróg-Gorzeński, gospodarując w Tarcach włączył się aktywnie w działalność polskich organizacji i towarzystw, działających na Ziemi Jarocińskiej. Był fundatorem szkoły powszechnej i założycielem straży pożarnej w Tarcach, którą wyposażył w niezbędny sprzęt. Był aktywnym członkiem Bractwa Kurkowego w Jarocinie i Towarzystwa Łowieckiego w Poznaniu, w którym przez lata pełnił funkcję prezesa. Popierał Poznańskie Towarzystwo Naukowej Pomocy. Sam łożył na naukę w seminarium duchownym syna wilkowyjskiego organisty, przyszłego powstańca wielkopolskiego i biskupa, sufragana Franciszka Jedwabskiego. Popierał także Towarzystwo Czytelni Ludowych.
Zbigniew Ostroróg-Gorzeński ma ogromne zasługi w organizacji powstańczego batalionu jarocińskiego. 11 listopada 1918 roku w jarocińskich koszarach powstał polski oddział. 29 listopada delegacja jarocińskiej „Jedności” zaproponowała właścicielowi Tarc dowództwo nad polskim oddziałem. Po objęciu komendy zreorganizował oddział liczący w grudniu około 600 żołnierzy. Pod pozorem strzeżenia granicy rozlokował oddziały nad Prosną w rejonie Robakowa, Żernik, Kretkowa i Pogorzelicy. Nawiązał kontakty z Centralnym Komitetem Obywatelskim, a następnie z Naczelną Radą Ludową w Poznaniu. 7 stycznia 1919 r. został mianowany dowódcą VI Okręgu Wojskowego z siedzibą w Jarocinie. W czerwcu 1919 r. został awansowany na stopień kapitana. 24 marca 1920 r., ze względu na stan zdrowia, przeszedł do rezerwy na własną prośbę.
Rada Miejska w Jarocinie w 1920 roku nadała hr. Zbigniewowi Ostroróg-Gorzeńskiemu tytuł Honorowego Obywatela Miasta, a uroczyste wręczenie dyplomu odbyło się w listopadzie 1922 r. Hrabia był inicjatorem budowy pomnika powstańców w Jarocinie.
W 1923 roku w Jarocinie, staraniem ówczesnego burmistrza Czesława Łukowskiego z okazji 5. rocznicy odzyskania przez Polskę Niepodległości, został utworzony park Gorzeńskiego. By to pierwszy park publiczny w Jarocinie. Co ciekawe na patrona parku wybrano hrabiego jeszcze za jego życia. Fakt ten świadczy o tym, jak bardzo szanowaną postacią był dowódca jarocińskich powstańców. Po II wojnie światowej, nazwę parku zmieniono na Bohaterów Stalingradu, a później – Park Zwycięstwa. Przywrócenie pod koniec 2016 roku przedwojennej nazwy temu parkowi było symbolicznym wstępem do jego rewitalizacji. W maju 2019 roku park został oficjalnie otwarty po rewitalizacji i rewaloryzacji, na które gmina Jarocin pozyskała unijną dotację.
Zmarł 12 czerwca 1926 roku. Zgodnie z jego wolą pochowany został w mundurze powstańczym. Komendant hr. Zbigniew Ostroróg-Gorzeński spoczął w rodzinnej krypcie grobowej kościoła we Lgowie. Nie pozostawił potomstwa. Starym zwyczajem szlacheckim nad trumną ostatniego z rodu – w linii męskiej – złamano miecz, tarczę i pieczęć herbową.
