Skylten satt på taket på det av Elon Musk ägda företagets huvudkontor, tidigare känt som Twitter-byggnaden.
San Francisco inledde tidigare en utredning om skylten som sattes upp fredagen den 28 juli. Enligt lokala myndighetsföreträdare krävs det nämligen, bland annat av säkerhetsskäl, tillstånd för att ersätta bokstäver eller symboler på byggnader eller på tak.
CBS rapporterar att skylten också stört boende i området. Många uppges ha klagat på skyltens starkt blinkande ljus.
Skylten började monteras ned under måndagen, och fastighetsägarna kommer att tvingas betala retroaktiva tillståndsavgifter för installeringen samt avgifter för att täcka stadens utredning.
Elon Musk som köpte sociala medier-plattformen Twitter förra året har ändrat företagets namn till X.