Před okupací sloužil u čs. státní policie, v roce 1939 přešel přes Polsko do Francie, kde sloužil u čs. vojenské jednotky jako účetní. Po evakuaci do Anglie byl povolán k prvnímu specializovanému výcviku pro práci ve vlasti a později zařazen do výsadku CALCIUM. Skupina byla vysazena v dubnu 1944 u Chrudimi a po seskoku se rozdělila. Josef Gemrot odešel s Jaroslavem Odstrčilem do hájenky u Netína. Zde se měli také všichni parašutisté sejít. Schůzka byla ale vyzrazena. Při střetu s gestapem byl Gemrot postřelen, podařilo se mu ale schovat. Až do konce války úspěšně operoval se zbylými členy skupiny na území protektorátu. Po válce nastoupil k SNB, odkud byl v roce 1951 vyhozen. Zemřel v roce 1955 po těžké nemoci.