Elliott przybył do Karoliny Południowej w 1867 roku w wieku 25 lat, gdzie założył praktykę prawniczą. Elliott pomagał organizować lokalną Partię Republikańską i zasiadał w stanowej Konwencji Konstytucyjnej w 1868 jako delegat z okręgu Edgefield. Pod koniec 1860 roku został zatrudniony przez Ame bishop i przyszłego kongresmena Richarda H. Caina jako redaktor pomocniczy gazety The South Carolina Leader (przemianowanej na the Missionary Record w 1868 roku), wraz z innym przyszłym kongresmenem, Alonzo J. Ransierem. W tym samym czasie Elliott założył pierwszą znaną afroamerykańską kancelarię prawniczą Whipper, Elliott, and Allen, z Williamem Whipperem i Maconem B. Allenem.
w 1868 został wybrany do Izby Reprezentantów Karoliny Południowej. W następnym roku został mianowany adiutantem generalnym; był pierwszym afroamerykańskim dowódcą Gwardii Narodowej Karoliny Południowej. W ramach swojej pracy pomagał formować milicję państwową do walki z Ku Klux Klanem.
Elliott został wybrany jako republikanin do czterdziestego drugiego Kongresu Stanów Zjednoczonych, pokonując demokratę Johna E. Bacona. Został ponownie wybrany do czterdziestego trzeciego Kongresu Stanów Zjednoczonych, pokonując demokratę Williama H. Mccanna. Na kongresie w kwietniu 1871 wygłosił znamienne przemówienie na temat „ustawy o egzekwowaniu postanowień czternastej poprawki do Konstytucji”, znanej również jako”Ustawa Ku Klux”. Ponownie „wygłosił słynne przemówienie” na rzecz ustawy o Prawach Obywatelskich z 1875 roku. Zrezygnował 1 listopada 1874 roku, by służyć jako szeryf i walczyć z korupcją polityczną w Karolinie Południowej. Ponownie zasiadał w Izbie Reprezentantów Karoliny Południowej, gdzie został wybrany na spikera Izby.
w 1876 z powodzeniem kandydował na Prokuratora Generalnego Karoliny Południowej. W wyborach stanowych tego roku biali Demokraci odzyskali dominację w legislaturze stanowej. W następnym roku, 1877, kiedy ostatnie oddziały federalne zostały wycofane z Karoliny Południowej, został zmuszony do wycofania się z urzędu. W 1878 założył spółkę prawniczą z D. Augustusem Strakerem i T. Mccantsem Stewartem.
nadal angażował się w politykę, pracując nad kampanią Sekretarza Skarbu Johna Shermana na prezydenta w 1880 roku i był delegatem na Republikańską Konwencję Narodową w 1880 roku. W styczniu 1881 roku był częścią czarnej delegacji, która spotkała się z prezydentem Jamesem Garfieldem w proteście przeciwko braku praw obywatelskich i politycznych na południu. Jednak jego praktyka prawnicza osłabła. W 1879 roku został mianowany inspektorem celnym Departamentu Skarbu w Charleston w Karolinie Południowej. Zachorował na malarię podczas podróży na Florydę. W 1881 został przeniesiony do Nowego Orleanu, a w 1882 zwolniony. W Nowym Orleanie ponownie próbował praktykować prawo, ale znalazł kilku klientów. Zubożały, zmarł w Nowym Orleanie 9 sierpnia 1884 roku.