Područje današnje Jarmine bilo je naseljeno još u prethistorijsko vrijeme. O tome svjedoče arheološki nalazi otkriveni 24. ožujka 1959. godine na području jarminske ciglane, gdje su pronađene dvije prethistorijske jame s fragmentima pečene zemlje, ostacima zemunica, posuđa i kostiju.
U srednjem vijeku položaj jarminskog posjeda bio je jasno određen, a na tom se području i danas nalazi istoimeno naselje – Jarmina. U pisanim dokumentima posjed Jarmina prvi se put spominje 1324. godine pod nazivima Jarumna i Jarumpna. Nakon toga spominje se više puta, sve do 1525. godine. Godine 1455. zabilježen je oblik Jaromna, a 1489. godine Jaromna Szent Miklos, odnosno Jarmina Sveti Nikola, prema tadašnjoj župnoj crkvi.
Današnji naziv Jarmina prvi je put zapisan u popisu iz 1702. godine. Pretpostavlja se da naziv mjesta potječe od riječi jaram, preko oblika jaramina, jer se uzvisina ispred sela uzdiže poput jarma na ravnici.
Prijeturska Jarmina nije se nalazila na današnjem položaju naselja, nego na području poznatom pod nazivom Staro Crkvište. Ondje se nalazila srednjovjekovna župna crkva sv. Nikole, koja se spominje u dokumentima između 1332. i 1335. godine, u popisima papinskog sakupljača novca za Svetu zemlju i križarsku vojsku.
Tijekom turske vlasti, od 1536. do 1662. godine, crkva se više ne spominje. Već u 16. stoljeću počela je propadati te je postupno prešla u ruševine. Ipak, sjećanje na njezino postojanje sačuvano je u nazivu zemljišta Staro Crkvište.
Naseljavanje i razvoj mjesta
Nakon nekoliko pokušaja da se u Jarmini zadrže Srbi doseljeni iz Bosne, oni su oko 1770. godine napustili područje Jarmine. Nakon toga u Jarminu se doseljavaju Hrvati Ličani iz Modruša i Brinja, koji su naselili oko tridesetak kuća. Kasnije se, uz Hrvate, u manjem broju doseljavaju i Česi te Slovaci.
U to je vrijeme Jarmina već postala veće selo, a u crkvenom pogledu bila je filijala ivankovačke župe. Oko 1770. godine novi posjednici jarminskog posjeda naseljavaju njemačke doseljenike na područje dotadašnjih hrvatskih, čeških i slovačkih selišta. Obitelji koje su ostale u Jarmini s vremenom su se, ženidbama i stalnim njemačkim utjecajem, ponijemčile.
Župa, crkva i škola
Nakon propasti srednjovjekovne jarminske župe, nova župa u Jarmini osnovana je 1805. godine. U to je vrijeme Jarmina bila znatno naseljena njemačkim stanovništvom. Prvi župnik obnovljene župe bio je Švicarac Franjo Saleški Sebastijan Rueschegg.
Župna crkva sv. Vendelina opata sagrađena je 1847. godine, a blagoslovio ju je vinkovački župnik Ivan Lauš 20. listopada 1847. godine, na blagdan zaštitnika župe sv. Vendelina opata. Crkvu je gradio župnik Karlo Hartl, rodom iz Osijeka. Prije izgradnje današnje crkve u Jarmini je postojala manja crkva, koja je srušena kako bi se na njezinu mjestu podigla nova.
Za vrijeme vladavine austrijskog cara Leopolda, 1790. godine osnovana je pučka škola u Jarmini, što pokazuje dugu obrazovnu tradiciju naselja.
Jarmina u 20. stoljeću
Godine 1944. njemačko stanovništvo napustilo je Jarminu. Na njihova ognjišta doseljavaju se Hrvati iz Hrvatskog zagorja, koji su najprije bili naseljeni u selima između Jarmine i Osijeka. S njima, ili nešto poslije njih, doseljavaju se i nove hrvatske obitelji iz Hrvatskog zagorja.
Jarmina se tako tijekom 20. stoljeća oblikovala kao naselje s većinskim hrvatskim stanovništvom, čuvajući pritom slojevitu povijest prethistorijskog, srednjovjekovnog, crkvenog i novovjekovnog razvoja.