Elliott est arrivé en Caroline du Sud en 1867 à l’âge de 25 ans, où il a établi un cabinet d’avocat. Elliott a aidé à organiser le Parti républicain local et a participé à la convention constitutionnelle de l’État en 1868 en tant que délégué du district d’Edgefield. À la fin des années 1860, il a été embauché par AME bishop et son collègue futur membre du congrès Richard H. Cain pour être rédacteur en chef adjoint du journal, the South Carolina Leader (renommé The Missionary Record en 1868), avec un autre futur membre du congrès, Alonzo J. Ransier. À la même époque, Elliott forme le premier cabinet d’avocats afro-américain connu au pays, Whipper, Elliott et Allen, avec William Whipper et Macon B. Allen.
En 1868, il est élu à la Chambre des représentants de Caroline du Sud. L’année suivante, il est nommé adjudant-général adjoint ; il est le premier Afro-américain commandant général de la Garde nationale de Caroline du Sud. Dans le cadre de son travail, il a aidé à former une milice d’État pour combattre le Ku Klux Klan.
Elliott est élu républicain au Quarante-deuxième Congrès des États-Unis, battant le démocrate John E. Bacon. Il est réélu au Quarante-troisième Congrès des États-Unis, battant le démocrate William H. McCann. Au Congrès en avril 1871, il prononça un discours remarquable sur le » Projet de loi visant à faire appliquer les dispositions du Quatorzième amendement à la Constitution », également connu sous le nom de « Projet de loi du Ku Klux ». Il a de nouveau « prononcé un discours célèbre » en faveur du Civil Rights Act de 1875. Il démissionne le 1er novembre 1874 pour servir de shérif et lutter contre la corruption politique en Caroline du Sud. Il siège à nouveau à la Chambre des représentants de Caroline du Sud, où il est élu Président de la Chambre.
Il se présente avec succès au poste de procureur général de Caroline du Sud en 1876. Aux élections de l’État cette année-là, les démocrates blancs ont repris la domination de la législature de l’État. L’année suivante, 1877, lorsque les dernières troupes fédérales ont été retirées de Caroline du Sud, il a été contraint de quitter ses fonctions. En 1878, il forme un partenariat juridique avec D. Augustus Straker et T. McCants Stewart.
Il continua à s’impliquer en politique, travaillant à la campagne du secrétaire au Trésor de l’époque, John Sherman, pour la présidence en 1880, et fut délégué à la Convention nationale républicaine de 1880. En janvier 1881, il fait partie d’une délégation noire qui rencontre le président James Garfield pour protester contre l’absence de droits civils et politiques dans le Sud. Cependant, sa pratique du droit a vacillé. En 1879, il est nommé inspecteur des douanes pour le département du Trésor à Charleston, en Caroline du Sud. Il a contracté le paludisme alors qu’il travaillait à ce titre lors d’un voyage en Floride. En 1881, il a été transféré à la Nouvelle-Orléans et, en 1882, il a été licencié. À la Nouvelle-Orléans, il tenta à nouveau de pratiquer le droit, mais trouva peu de clients. Appauvri, il meurt à la Nouvelle-Orléans le 9 août 1884.