Elliott anlände till South Carolina 1867 vid 25 års ålder, där han etablerade en advokatpraxis. Elliott hjälpte till att organisera det lokala Republikanska partiet och tjänstgjorde i statens konstitutionella konvention 1868 som delegat från Edgefield district. I slutet av 1860-talet anställdes han av AME bishop och framtida kongressledamot Richard H. Cain för att vara biträdande redaktör för tidningen, South Carolina Leader (bytt namn till Missionary Record 1868), tillsammans med en annan framtida kongressledamot, Alonzo J. Ransier. Ungefär samma tid bildade Elliott landets första kända afroamerikanska advokatbyrå, Whipper, Elliottoch Allen, med William Whipper och Macon B. Allen.
1868 valdes han till representanthuset i South Carolina. Nästa år utsågs han till biträdande adjutant-general; han var den första afroamerikanska befälhavare för South Carolina National Guard. Som en del av sitt jobb hjälpte han till att bilda en statlig milis för att bekämpa Ku Klux Klan.
Elliott valdes till republikan till fyrtioandra USA: s kongress och besegrade demokraten John E. Bacon. Han omvaldes till fyrtiotredje USA: s kongress och besegrade demokraten William H. McCann. I kongressen i April 1871 höll han ett anmärkningsvärt tal om ”lagförslaget för att genomdriva bestämmelserna i fjortonde ändringen av konstitutionen”, även känd som ”Ku Klux Bill”. Han ”höll igen ett hyllat tal” till förmån för Civil Rights Act från 1875. Han avgick den 1 November 1874 för att tjäna som sheriff och bekämpa politisk korruption i South Carolina. Han tjänstgjorde igen i Representanthuset i South Carolina, där han valdes till talman för kammaren.
han sprang framgångsrikt för South Carolina Attorney General 1876. I statsvalet det året återfick vita Demokrater dominans av statens lagstiftare. Året därpå, 1877, när den sista av de federala trupperna drogs tillbaka från South Carolina, tvingades han ut ur kontoret. 1878 bildade han ett lagpartnerskap med D. Augustus Straker och T. McCants Stewart.
han fortsatte att vara involverad i politik och arbetade med dåvarande finansminister John Shermans kampanj för President 1880 och var delegat till 1880 republikanska nationella konventet. I januari 1881 var han en del av en svart delegation som träffade President James Garfield för att protestera mot bristen på medborgerliga och politiska rättigheter i söder. Men hans lagpraxis vacklade. År 1879 utsågs han till tullinspektör för Treasury Department i Charleston, South Carolina. Han fick malaria medan han arbetade i den kapaciteten på en resa till Florida. År 1881 överfördes han till New Orleans, och 1882 avskedades han. I New Orleans försökte han igen att utöva lag, men hittade få kunder. Fattig, han dog i New Orleans den 9 augusti 1884.