Sindikati – ustanovitelji so konfederacijo ustanovili z namenom, da se bodo skupno zavzemali za boljši socialni in materialni položaj javnih uslužbencev, za spoštovanje človekovih pravic, varovanje poklicnih in sindikalnih pravic članstva in skupno nastopanje v organizacijah in predstavniških organih na državni ravni. Statut in resolucija o programskih smernicah, ki so ju sprejeli delegati na 1. kongresu določata, da bo delovanje konfederacije temeljilo na načelih solidarnosti, medsebojnega sodelovanja, izhajajoč iz temeljnih dokumentov Evropske unije, Mednarodne organizacije dela, Evropske socialne listine in Ustave Republike Slovenije. Januarja 2007 se je Konfederaciji sindikatov javnega sektorja Slovenije pridružil še Sindikat delavcev v pravosodju Slovenije.
Konfederacija se je konstituirala na ustanovnem kongresu, 9. marca 2006, kjer je skupno 200 delegatov sprejelo statut, resolucijo o programskih smernicah, resolucijo o uveljavljanju novega plačnega sistema v javnem sektorju ter izvolilo predsedstvo in predsednika.
Predsedstvo je v mesecu maju 2006 imenovalo generalnega sekretarja, ki je junija 2006 pričel z delom na sedežu KSJS, na Dalmatinovi ulici 4, v Ljubljani.
Konfederacija je 22. 3. 2007 izvedla svoj 2. kongres, kjer je sprejela program do leta 2010, stališča o plačnem sistemu za javne uslužbence, resolucijo o kakovostnem javnem šolstvu in zdravstvu ter izvolila Branimirja Štruklja za predsednika za mandatno obdobje do leta 2010.
KSJS je na 3. kongresu, 7. 4. 2010, sprejela program do leta 2014 in resoluciji:
Za krepitev javnih storitev in ohranitev socialnega položaja
Dodatno pokojninsko zavarovanje za javne uslužbence
ter izvolila
Branimirja Štruklja za predsednika za mandatno obdobje 2010 - 2014.
KSJS je na 4. kongresu, 8. 4. 2014, sprejela program do leta 2018 in resolucijo:
Proti demontaži javnega sektorja in odpuščanju javnih uslužbencev
ter izvolila
Branimirja Štruklja za predsednika KSJS za mandatno obdobje 2014 - 2018.
KSJS je na 5. kongresu, 10. 4. 2018, sprejela poročilo o delovanju v preteklem mandatnem obdobju, spremembe in dopolnitve statuta, program za prihodnje štiriletno obdobje, izvolila
Branimirja Štruklja za predsednika KSJS za mandatno obdobje 2018 – 2022 in potrdila vprašanja, ki jih je pred državnozborskimi volitvami naslovila na politične stranke.