Elliott kam 1867 im Alter von 25 Jahren nach South Carolina, wo er eine Anwaltskanzlei gründete. Elliott half bei der Organisation der lokalen Republikanischen Partei und diente 1868 als Delegierter aus dem Bezirk Edgefield im Verfassungskonvent des Staates. In den späten 1860er Jahren wurde er von AME Bishop und dem zukünftigen Kongressabgeordneten Richard H. Cain als Mitherausgeber der Zeitung The South Carolina Leader (1868 in Missionary Record umbenannt) zusammen mit einem anderen zukünftigen Kongressabgeordneten, Alonzo J. Ransier, eingestellt. Etwa zur gleichen Zeit gründete Elliott mit William Whipper und Macon B. Allen die erste bekannte afroamerikanische Anwaltskanzlei des Landes, Whipper, Elliott, and Allen.
1868 wurde er in das Repräsentantenhaus von South Carolina gewählt. Im nächsten Jahr wurde er zum stellvertretenden Generaladjutanten ernannt; Er war der erste afroamerikanische kommandierende General der South Carolina National Guard. Als Teil seiner Arbeit half er, eine staatliche Miliz zu bilden, um den Ku Klux Klan zu bekämpfen.
Elliott wurde als Republikaner in den zweiundvierzigsten Kongress der Vereinigten Staaten gewählt und besiegte den Demokraten John E. Bacon. Er wurde in den dreiundvierzigsten Kongress der Vereinigten Staaten wiedergewählt und besiegte den Demokraten William H. McCann. Im April 1871 hielt er im Kongress eine bemerkenswerte Rede über den „Gesetzentwurf zur Durchsetzung der Bestimmungen des Vierzehnten Verfassungszusatzes“, auch bekannt als „Ku Klux Bill“. Er hielt erneut „eine gefeierte Rede“ zugunsten des Civil Rights Act von 1875. Er trat am 1. November 1874 zurück, um als Sheriff zu dienen und die politische Korruption in South Carolina zu bekämpfen. Er diente erneut im Repräsentantenhaus von South Carolina, wo er zum Sprecher des Hauses gewählt wurde.
Er kandidierte 1876 erfolgreich für den Generalstaatsanwalt von South Carolina. Bei den Landtagswahlen in diesem Jahr gewannen die weißen Demokraten die Dominanz der staatlichen Legislative zurück. Im folgenden Jahr, 1877, als die letzten Bundestruppen aus South Carolina abgezogen wurden, wurde er aus dem Amt gedrängt. 1878 gründete er eine Anwaltspartnerschaft mit D. Augustus Straker und T. McCants Stewart.
Er engagierte sich weiterhin in der Politik und arbeitete 1880 an der Präsidentschaftskampagne des damaligen Finanzministers John Sherman und war Delegierter der Republican National Convention von 1880. Im Januar 1881 war er Teil einer schwarzen Delegation, die sich mit Präsident James Garfield traf, um gegen den Mangel an bürgerlichen und politischen Rechten im Süden zu protestieren. Seine Anwaltspraxis geriet jedoch ins Stocken. 1879 wurde er Zollinspektor für das Finanzministerium in Charleston, South Carolina. Er erkrankte an Malaria, während er in dieser Funktion auf einer Reise nach Florida arbeitete. 1881 wurde er nach New Orleans versetzt und 1882 entlassen. In New Orleans versuchte er erneut, als Anwalt zu praktizieren, fand aber nur wenige Mandanten. Verarmt starb er am 9. August 1884 in New Orleans.