Eero Nelimarkka syntyi Vaasassa 10.10.1891 nuorimpana räätäli Erkki Nelimarkan ja hänen vaimonsa Marian kahdeksasta lapsesta. Perhe oli vaasalaistunut työn perässä, vaikka vanhempien suvut olivat asuneet Alajärvellä 1700-luvulta alkaen.
Eero kävi kansakoulun, meni sokerileipurin oppiin ja sai sällinkirjan Waasan tehdas ja käsityöläisyhdistykseltä 10.6.1907. Hänestä tuli "sälli sokerileipurin ammatissa". Käsityöyhdistyksen stipendin turvin Eero matkusti opintomatkalle Tukholmaan ja Lyypekkiin. Palattuaan Suomeen ja saatuaan potkut vaasalaisesta leipomosta Nelimarkka lähti 1909 Helsinkiin ja aloitti opinnot Taideteollisuusyhdistyksen keskuskoulun iltalinjalla.
Helsingistä tuli pysyvästi Eero Nelimarkan kotipaikka. Turvatakseen elantonsa hän työskenteli päivisin Löfströmin leipomossa. Puuttuva lyseotodistus esti Eeroa pääsemästä päiväoppilaaksi Taideyhdistyksen piirustuskouluun, nykyiseen Kuvataideakatemiaan. Siksi ja Akseli Gallen-Kallelan vinkistä Eero suuntasikin Pariisiin 1912. Maalattuaan miltei vuoden Academie de la Grande Chaumiéressa hänet hyväksyttiin Helsingin yliopistoon piirtämään Eero Järnefeltin oppilaana 1912-1914. Pariisin matka jätti nuoreen mieheen myös matkustuskipinän.
Eero Nelimarkka avioitui alahärmäläisen Saima Alaviitalan kanssa vuoden 1918 viimeisenä päivänä. He saivat neljä lasta: Eero Jaakon (1919-1941), Katri Helenan (1921-1983), Juha Antti Eliaksen (1923-1990) ja Esko Tuomaksen (1925-1997).
Aloitellessaan taiteilijana 1910-luvulla Eero Nelimarkka kuului modernistiseen Marraskuun ryhmään. Hänen tuotantonsa 1920-luvun lopulle saakka sisältää monia väri- ja muotokokeiluja. Teoksista löytyy piirteitä kubismista, mutta myös vaikutteita varhaisemmasta impressionismista. Nelimarkan taide on ollut aina esittävää ja hän oli taiteilija, joka ei maalannut ilman mallia. Siksi omakuvat ja Saima-vaimon muotokuvat kattavat koko taiteilijanuran.
Eero Nelimarkka on tunnettu pohjalaisista lakeusmaisemistaan. Hän ei kuvannut yksin pohjalaista luontoa vaan myös henkilöitä, asetelmia ja kaupunkinäkymiä. Nelimarkan henkilögalleriassa esiintyvät eri alojen taiteilijat, sotilaat, professorit ja poliitikot siinä missä kansanmiehet ja emännätkin. Interiööreistä etenkin tupakuvat henkivät aitoa pohjalaisuutta.
Eero Nelimarkan taide oli myös kansainvälistä. Hän matkusti maalausmatkoilla runsaasti ensimmäisestä Tukholman-matkastaan aina 1960-luvun alkuun saakka. Hänen teoksiaan oli näyttelyissä kotimaan museoiden ja gallerioiden lisäksi usein ulkomailla alkaen Moskovasta vuonna 1917 ja lopulta Kiinassa 1958.
Näyttelypaikkoja olivat Pohjoismaiden lisäksi myös mm. Kiel, Amsterdam, Antwerpen, Berliini, Düsseldorf, Hampuri, Milano, Rooma, Bryssel, Haag, Praha, Varsova, Zürich, Firenze, Pariisi, Lyypekki, Leningrad ja New York.
Taiteilija Eero Nelimarkka oli Pohjalaisen Taiteilijaliiton perustaja- ja kunniajäsen. Hän perusti 1945 Nelimarkka-Rahasto säätiön, joka on edelleen Nelimarkka-museon kokoelmien pääomistaja. Nelimarkka sai professorin arvonimen 1966.
Eero Nelimarkka halusi perustaa taidekoulun ja -museon Alajärvelle. Se tuli korvaamaan suurta puutetta: Nelimarkan mukaan taide kuului tasa-arvoisesti jokaiselle ja etenkin hänelle niin rakas Etelä-Pohjanmaan väestö oli hänen mielestään jäänyt taiteen näkemisessä paitsioon.