En av männen hade vid tiden för mordet permission från ett fängelsestraff han dömts till för att ha misshandlat en annan man till döds för några år sedan, skriver Göteborgs-Posten.
Mannen vid kyrkogården hittades, öppet vid en väg, på valborgsmässoafton. Den döde var i 50-årsåldern.
En av männen som begärts häktade av åklagaren är tidigare dömd för grov misshandel och grovt vållande till en mans död i södra Göteborg 2015. Offret förblödde efter ett knivhugg. Straffet blev fängelse i sex och ett halvt år.
Enligt åklagaren hade den dömde mannen permission, eller någon annan form av frigång, från straffet när det nu aktuella mordet begicks. Mannen nekar till att vara inblandad i händelsen.
En kvinna som varit misstänkt för skyddande av brottsling har släppts av åklagaren.