Elliott arriveerde in South Carolina in 1867 op 25-jarige leeftijd, waar hij een advocatenbureau oprichtte. Elliott hielp bij het organiseren van de lokale Republikeinse Partij en diende in de staat Constitutionele Conventie in 1868 als een afgevaardigde uit het Edgefield district. In de late jaren 1860 werd hij ingehuurd door Ame bishop en collega-toekomstig congreslid Richard H. Cain als associate editor van de krant, The South Carolina Leader (omgedoopt tot The Missionary Record in 1868), samen met een ander toekomstig congreslid, Alonzo J. Ransier. Rond dezelfde tijd, Elliott vormde de natie de eerste bekende Afro-Amerikaanse advocatenkantoor, Whipper, Elliott, en Allen, met William Whipper en Macon B. Allen.In 1868 werd hij verkozen in het Huis van Afgevaardigden van South Carolina. Het jaar daarop werd hij benoemd tot assistent-adjudant-generaal; hij was de eerste Afro-Amerikaanse bevelhebber van de South Carolina National Guard. Als onderdeel van zijn werk hielp hij een staatsmilitie te vormen om de Ku Klux Klan te bestrijden.Elliott werd verkozen als Republikein in het 42e Congres van de Verenigde Staten, waarbij hij de Democraat John E. Bacon versloeg. Hij werd herkozen in het drieëndertigste Congres van de Verenigde Staten, waarbij hij de Democraat William H. McCann versloeg. In April 1871 hield hij een opmerkelijke toespraak over het “wetsvoorstel om de bepalingen van het veertiende amendement op de grondwet af te dwingen”, ook bekend als de “Ku Klux Bill”. Hij “hield opnieuw een gevierde toespraak” ten gunste van de Civil Rights Act van 1875. Op 1 November 1874 nam hij ontslag om sheriff te worden en de politieke corruptie in South Carolina te bestrijden. Hij diende opnieuw in het Huis van Afgevaardigden van South Carolina, waar hij werd gekozen als voorzitter van het Huis van Afgevaardigden.
hij liep met succes voor South Carolina Attorney General in 1876. In de staat verkiezingen van dat jaar, witte Democraten herwonnen dominantie van de staat wetgever. Het volgende jaar, 1877, toen de laatste van de federale troepen werden teruggetrokken uit South Carolina, werd hij gedwongen uit zijn functie. In 1878 vormde hij een partnerschap met D. Augustus Straker en T. McCants Stewart.Hij bleef betrokken bij de politiek, werkte aan de toenmalige minister van Financiën John Sherman ‘ s campagne voor het presidentschap in 1880, en was een afgevaardigde voor de Republikeinse Nationale Conventie van 1880. In januari 1881 maakte hij deel uit van een zwarte delegatie die een ontmoeting had met president James Garfield om te protesteren tegen het gebrek aan burgerrechten en politieke rechten in het zuiden. Echter, zijn rechtspraktijk haperde. In 1879 werd hij benoemd tot douane-Inspecteur voor het Ministerie van Financiën in Charleston, South Carolina. Hij kreeg malaria toen hij in die hoedanigheid werkte op een reis naar Florida. In 1881 werd hij overgeplaatst naar New Orleans en in 1882 werd hij ontslagen. In New Orleans probeerde hij opnieuw rechten uit te oefenen, maar vond weinig klanten. Verarmd stierf hij in New Orleans op 9 augustus 1884.