Tõenäoliselt üsna varsti peale muistse vabadusvõitluse ehk ristisõdade lõppu 1220tel aastatel rajati Karksi jõe ürgoru kõrgele kaitstud kaldale ordulinnus, millest sai foogti residents. Esmamainitud on seda linnust 1248. aastal. On ka arvatud, et muinasajal asus samas koha peal muinaslinnus, aga selle tõestamiseks ega ka ümberlükkamiseks ei ole senini fakte leitud.

Ordulinnus koosnes künka tipus paiknenud pealinnusest ning temast kagu pool asetsevast eeslinnusest, mis olid üksteisest eraldatud vallikraaviga. Korrapärase kujuga loode-kagu suunaline pealinnus ligikaudsete mõõtmetega 40x60 meetrit valmis arvatavasti 14. sajandi keskpaigas. Tegemist oli kastell-linnusega, mille hooned paiknesid välismüüride ääres ümber sisehoovi. Pealinnusest on kaasajal järel madalaid müüriosi, samuti eeslinnuse ja pealinnuse vahelise silla tugisambaid.

Kagupoolse suure eeslinnuse ehitamist alustati tõenäoliselt 1470-80 aastatel, kui Karksist sai lisaks foogtile ka komtuuri residents. Korrapäratu hulknurga kujuline eeslinnus järgib loodusliku künka piirjooni; ta pikkus loodest kagusse on ligi 200 meetrit, laius kirdest edelasse aga 100-130 meetri lähikonnas. Eeslinnusest on kaasajal alles palju rohkem kui pealinnusest. Kõige paremini on säilinud 130 meetri pikkune kirdetiib koos neljatahuliste tornide ja väravaavaga, mis on osaliselt säilitanud isegi algse kõrguse. Ka eeslinnuse lääne- ja lõunakülgedest on säilinud mitmeid müürilõike.

Karksi linnus on olnud mitmete sõjakäikude tallermaaks. On andmeid, et 1297. aastal vallutasid Karksi leedulased, hävitades seejärel linnuse. 1481. aasta sõjakäigu ajal piirasid vahepeal võimsa kivilinnusena üles ehitatud Karksit Vene väed, suutmata seda küll vallutada. Suuremad lahingud toimusid Karksi all Liivi sõjas.

22. augustil 1560. aastal jõudsid Karksi alla Vene väed, kuid nad ei suutnud seda kahepäevase piiramise vältel vallutada. Orduriigi lagunedes loovutas ordumeister Karksi koos paljude linnustega Poolale. 1563. aastal vallutasid Karksi rootslased, misjärel poolakad püüdsid mitmeid kordi seda edutult tagasi vallutada. 25. veebruaril 1573. aastal vallutasid Karksi venelased ilma suuremate lahinguteta. Venelased loovutasid Karksi oma tollasele liitlasele hertsog Magnusele, kelle valdusse ta jäi ta kuni 1578. aastani. Järgnevalt oli Karksi pikemat aega Poola valduses. 1600. aastal vallutasid Karksi linnuse rootslased, hoides seda enda käes kuni 1602. aastani, mil poolakad selle tagasi võtsid. 1621. aastal läks Karksi lõplikult rootslaste valdusse.

Liivi ja Poola-Rootsi sõjad purustasid Karksi linnuse. Taastatuna ja parandatuna säilis toona kaitsevõimelisena vaid eeslinnus, kuna pealinnus hävis nendes sõdades täielikult. Eeslinnus jäi lõplikult varemetesse arvatavasti Põhjasõja ajal.

Peale Liivi sõda ja eriti peale Põhjasõda hakkas arenema Karksi mõis (Schloß Karkus). Mõisa keskuseks kujunes linnusest kaks kilomeetrit kirdes paiknev teederist. 1747. aastal kinkis vene keisrinna Jelizaveta Karksi mõisa Georg von Lievenile. 1795. aastal läks mõis Johann von Weidemeyeri omandusse. Alates 1800. aastast kuni võõrandamiseni 1919 kuulus mõis von Duntenite suguvõsale. Mõisa viimane omanik oli Reinhard von Dunten-Dalwigk, täisnimega Reinhard Graf Dunten Baron Dalwigk-Schauenburg-Lichtenfels.

Mõis ehitati esimest korda esinduslikumalt välja 18. sajandi teisel poolel von Lievenite ajal ning teist korda 19. sajandi esimesel poolel von Duntenite ajal. Ühekorruseline puidust barokne peahoone on praeguseks hävinud, kuid säilinud on mitmeid stiilseid klassitsistlikke kõrvalhooneid, sh valitsejamaja ja 1840. aastal valminud ait. Ait pärineb tegelikult 18. sajandist, kuid oma rikkaliku klassitsistliku väliskuju sai ta 1830-40 kestnud ümberehituste käigus.

Linnuse kagupoolsel küljel, linnusesse suunduva tee ääres paikneb endine von Lievenite perekonnakalmistu koos väikese barokse matusekabliga, mis on ehitatud 1770tel aastatel. Kabeli iseärasuseks on, et ta on ajahamba tõttu tugevalt vasakule viltu vajunud.

Kaasaegne Karksi-Nuia linn on arenenud Nuia kõrtsi juurde tekkinud asulast, asudes nii mõisast kui ka linnusevaremetest lõunas, teisel pool Halliste jõge.

Ajaloolise jaotuse järgi Pärnumaale Karksi kihelkonda kuulunud mõis jääb kaasajal Viljandimaale Karksi valla territooriumile.