Kiss költészetében szakított a klasszikus verselési szabályokkal, a hangsúlyos verseléssel ötvözött sajátos, modern ritmikát teremtett. Lírájának fő témája a mellőzöttsége miatti keserűség. Sokszínű költészete egyesítette a magyar és a zsidó, a népies és modern, a falusi és a városi, az epikai és a lírai, a realisztikus és a mesei elemeket.
Apja Klein István szegény zsidó falusi boltos, anyja a pogromok elől Magyarországra menekült litván zsidó kántortanító leánya volt. 1850-ben a család a Gömör és Kis-Hont vármegyei Serkére költözött, ahol apja, mint regalebérlő gazdálkodott. Fia itt ismerkedett meg az irodalommal Almási Balogh Sámuel református pap segítségével. Szülei rabbinak szánták, Miskolcon kezdett tanulni. 13 éves korában (1856) Bécsbe szökött.
Hazatérte után a rimaszombati gimnáziumban, majd a Debreceni Református Kollégiumban tanult tovább. 1862-ben abbahagyta a tanulást, 5 évig (1862–1867) vándortanító volt az alföldi városokban. 1867-ben, amikor kimondták a zsidók emancipációját, Pestre ment, hogy kiadassa verseit. A Deutsch-féle nyomdában korrektorként dolgozott, 1870 és 1873 között a nyomda kiadásában megjelenő Képes Világ című lap szerkesztője volt, amelyet Vértesi Arnoldtól vett át.
1873. április 28-án nősült, egy rokonát vette el és eleinte sokat kellett küzdenie. 1874-ben súlyos beteg lett és a Budapesti rejtelmek című regényét ágyban írta tovább Budakeszin. Első sikerét 1875-ben aratta Simon Judit című balladájával, ami Toldy Ferenc kezébe került, aki a költeményt bemutatta a Kisfaludy Társaság ülésén. (1915-ben Mérei Adolf filmet forgatott a ballada alapján. A költemény és vele a költő neve csakhamar országszerte ismertté vált, balladáit és egyéb verseit attól fogva jelentékenyebb érdeklődéssel fogadták.
1876-tól hat éven át a temesvári zsidó hitközség jegyzője volt. 1882-től ismét Budapesten élt, mint a magyar–francia biztosítótársulat tisztviselője. Költői híre ezalatt nőttön-nőtt, különösen, mint ballada-költő tűnt ki (Ágota kisasszony sat.), bár költeményeinek első kötete heves polémiára adott okot. Rákosi Jenő és a Budapesti Szemle között, mely Kiss költői működését szigorúan bírálta. Költeményeit németre is lefordították és Lewinsky Budapesten és másutt is hatással szavalta.
A fővárosba költözése után a pesti izraelita hitközség magyar egyházi énekek szerzésével bízta meg és Kiss a régi zsoltár-eszméket modern foglalatban sok egyéni felfogással dolgozta fel. Dogmatikus észrevételek merülvén fel az énekek ügyében, a szerző a kívánt változásokat nem teljesítette, hanem inkább lemondott a kitűzött jutalomról és arról, hogy művét énekkönyvvül elfogadják; maga adta ki énekeit Ünnepnapok címmel. Amikor a magyar-francia biztosítótársaság 1889-ben megbukott, Kiss ismét állás nélkül maradt. 1890-től A Hét című folyóirat alapító szerkesztője, ami a Nyugat előfutára volt. Ezzel kezdődik a modern magyar irodalom története.
A Petőfi Társaság 1877-ben, a Kisfaludy Társaság 1914-ben tagjává választotta. Pályája kezdetén balladákat írt. Ezek a falusi zsidóság életét ábrázoló tematikájukkal keltettek feltűnést. Később abbahagyta a műfajt, új témájává a város, a modern ember problémái lettek. Leghíresebb verse az 1905-ös orosz forradalom hatására íródott. Verseiből egy egész ciklust megzenésített Szelle Károly. Sírja a Salgótarjáni utcai izraelita temetőben található Budapesten.
Ezt a cikket szerkesztőségünk, tekintettel a szombati munkatilalmakra, még a sábát beállta előtt időzítette.
