Na czele krakowskiego Oddziału stanął major Rudolf Broch, który w młodości studiował architekturę. Jego wiedza o sztuce i budownictwie okazała się teraz bardzo przydatna. Zastępcą dowódcy został kapitan Hans Hauptmann, literat i poeta. To właśnie on jest autorem wielu poetyckich inskrypcji na cmentarzach.
 

Do pracy w krakowskim Oddziale Grobów Wojennych skierowano ponad 3000 osób, zarówno żołnierzy, jak i cywilów różnych narodowości. Byli wśród nich kamieniarze, stolarze, ogrodnicy, a także malarze, kreślarze czy fotografowie. Major Broch uznał, iż nekropolie wojenne powinny stanowić wybitne dzieła architektury, i dlatego właśnie kierownikami artystycznymi okręgów cmentarnych zostali architekci bądź rzeźbiarze. Byli wśród nich m.in. Johann Jäger, Dušan Jurkovič, Emil Ladewig, Gustav Ludwig, Hans Mayr, Franz Mazura, Robert Motka, Gustav Rosmann, Heinrich Scholz, Franz Stark, Jan Szczepkowski, Johann Watzal.

Naznaczony śladami wojny obszar Zachodniej Galicji podzielono na 11 okręgów cmentarnych: Nowy Żmigród (31 cmentarzy), Jasło (31 cmentarzy), Gorlice (54 cmentarze), Łużna (27 cmentarzy), Pilzno (27 cmentarzy), Tarnów (62 cmentarze), Dąbrowa Tarnowska (15 cmentarzy), Brzesko (50 cmentarzy), Bochnia (40 cmentarzy), Limanowa (29 cmentarzy), Kraków (22 cmentarze).

Przez trzy lata (1915–1918) swego funkcjonowania Oddział na obszarze blisko 10 tys. km² założył ponad 400 cmentarzy. Spoczęły na nich szczątki ponad 60 tys. żołnierzy (aż 42 tys. ciał musiano wcześniej ekshumować i przenieść). Na nagrobkach – z krzyżami katolickimi i prawosławnymi, z gwiazdami Dawida czy z turbanami – do dziś można zobaczyć nazwiska przedstawicieli wszystkich narodów zamieszkujących Europę Środkową i Wschodnią. Obok siebie śpią snem wiecznym Niemcy, Austriacy, Polacy, Turcy, Chorwaci, Węgrzy, Czesi, Bułgarzy, Bośniacy, Słoweńcy, Rosjanie, Rusini, Litwini, Tatarzy, Niemcy inflanccy, Kałmucy, Kozacy, Baszkirzy, Finowie, Ormianie oraz Żydzi.