Apja a hajdúszoboszlói izraelita iskola tanítója, anyja varrónő volt. Szép Ernő Hajdúszoboszlón, Debrecenben és Mezőtúron járt iskolába, itt fedezte fel költői tehetségét egyik tanára, akinek támogatásával 1902-ben megjelent Első csokor című verseskötete. Az érettségit már nem tette le, Budapestre költözött és újságíró lett. Különböző élclapok közölték bökverseit, volt címíró a Hermes Banknál, és A Hét című szépirodalmi folyóiratban is jelentkezett versekkel. A sovány, apró termetű, félszeg fiatalember emblematikus figurája volt a szerkesztőségeknek, az éjszakai kávéházaknak és a különböző irodalmi köröknek. Mindenki szerette és nagyra becsülte, de egészen komolyan senki sem vette, megrögzött agglegényéletét változatos szerelmek, kisebb kalandok színesítették.

Igazán népszerűvé kabarédalaival, sanzonjaival vált, egy időben a Fővárosi Cabaret Bonbonniere rendszeres szerzője volt. A népszerűség anyagi gyarapodással is járt, így bejárta Európa nagyvárosait, egy szerelme után Szentpétervárra is eljutott. Első érett verseskötetét, az Énekeskönyvet a Nyugat jelentette meg 1912-ben. A kötet lapjain a szelíd emberi kapcsolatok utáni vágy, a városi ember vidéki emlékei és a gyermekkor meghitt képei kaptak költői hangot; humor és érzelmesség, halk bírálat és némi önirónia jellemzi. Az első világháború idején önkéntes betegápoló és haditudósító volt, 1915-től azonban mindinkább a békevágy szószólója lett.

A háború után született meg legjobb és legismertebb műve, a Lila ákác, amely a régi Budapest szellemiségét akarta maradandóvá tenni. A műből maga az író készített színpadi változatot, s ez is hatalmas sikert aratott, máig kedvelt darabja színházainknak. Alkotását két ízben is megfilmesítették, először 1934-ben, majd 1972-ben, érdekesség, hogy mindkettőt Székely István rendezte.

Szép Ernő a húszas években népszerű színpadi szerző volt. A Patika című darabját kísérő botrányok elől ugyan egy évre Bécsbe kellett költöznie, de a Vőlegény című darabja már nagy sikert aratott. Műveit játszotta a Nemzeti Színház, a Belvárosi Színház, a Vígszínház és a Pesti Színház is.

A zsidótörvények és a második világháború alapjaiban rengették meg életvitelét. Margitszigeti lakhelyét 1944-ben, 33 év után el kellett hagynia, lánytestvéreivel a Pozsonyi út egyik csillagos házának lakója lett. Innen hurcolták el a nyilasok munkaszolgálatra 1944. október 20-án, ahonnan november 9-én szabadult. Megpróbáltatásairól az idősödő író 1945-ös, Emberszag című memoárjában vallott.

A háború után elfelejtették, szegénységben élt, és amikor 1953. október 2-án 69 éves korában, hosszú betegség után meghalt, az irodalmi élet alig vette tudomásul elmenetelét.

1984-ben Pogányné Szép Berta, a költő húga Szép Ernő-jutalmat alapított. Végrendeletében nagyobb összeget hagyományozott a kulturális tárcára azzal a céllal, hogy minden esztendőben az évadban bemutatott, vagy nyomtatásban napvilágot látott legjobb magyar dráma szerzőjének, illetve egy alkotói életmű elismeréseként ítéljék oda a jutalmakat. A díjat minden évben a magyar dráma napján, szeptember 21-én adják át. 2000-ben, többéves debreceni működés után, Budapesten alakult újjá a Szép Ernő Színház, amely minden korosztály számára kínál szórakozást.