Kropparna plockades upp av fiskare.
Sammanlagt ska omkring 200 personer ha befunnit sig ombord på båten, som enligt smugglarna kapsejsade för två dagar sedan, uppger myndigheterna. De övriga passagerarnas öde är okänt.
Offren tycks ha varit afrikaner, enligt fiskarna, något som kan tyda på att båten var på väg från Afrikas horn till det krigshärjade Jemen, som många desperata människor är beredda att försöka ta sig igenom på vägen till något av de rika länderna runt Persiska viken.
Internationella migrationsorganisationen (IOM) bekräftar att en båt har sjunkit i vattnen utanför Jemen, men utreder fortfarande detaljerna kring händelsen.