Ол христиан қабылдаған «бұратана» халықтардың балаларына арнап 1863 жылы өз қара-жатына мектеп ашып, ор ұлттың оз тілінде оқуына мүмкіндік жасады. Ол аудармашы ретіндегі жұмысын да қоғамдық негізде жүргізді. Н.И. Ильминскийдің оқыту жүйесі жалпы Россия халықтарының оқу-ағарту ісіне ықпал жасады, орыс оқымыстылары оны ғалым ретінде, орыс халқына шын берілгеп ағартушы, ұйымдастырушы, шығыс халықтарының тілі мен табиғатының білгірі ретінде сыйлады, оның ұсыныстары мен пікірлеріне ерекше құлақ асты.
Н. Й. Ильминскийдің ұсынысы бойынша Қазан қаласында оқытушылар даярлайтын семинар ашу туралы мәселе 1872 жылы шешілді де, оның «Ере жесі» сол жылы 27 наурызда қабылданды. Ол осы семинарияның директоры болып 1872 жылдың 19 тамыз күні бекітілді де, «біржола халық ағарту ісі мен халықтар достығын нығайтуға ауысты». Бұл жұмысты Н. И. Ильмииский өмірінің соңғы күндеріне дейін атқарды.
1872 жылдың 26 қазанда Қазанның оқытушылар даярлайтын семинария ашылды. Семинарияның «Ережесінде» бұл оқу орнында барлық ұлт өкілдерінің оқуына болады, олардың діни сенімі есепке алынбайды делінді. Тұңғыш екі кластың орыс қазақ училищелеріне Қазаннан татар мұғалімдерін жіберді, ондағы ойы татар тілі қазақ тіліне әрі жақын, әрі олар жергілікті тілді тез үйренеді деп ойлады. Бұлардың бәрі де оқытушылар семинариясын бітірген, тапсырған жұмысына адал, ынталы, білімді жігіттер болатын. Олар Торғай мектептеріндегі алғашқы мұғалімдер — С. М. Меркурьев, И. Г. Григорьев, С. Д. Данилов, А. А. Мазохин, И. С. Спиридонов, тағы басқалары еді.
Н. И. Ильминскийдің енгізген оқу жүйесін кезінде сынаушылар көп болғанмен, ол жүйе өміршең болды, аз халықтардың көңілінен шықты. 1881 жылы Н. И. Ильминиский Россия Ғылым академиясының корреспондент-мүшесі болып сайланды.
Н.И. Ильминскийдің ең соңғы еңбегі «Ыбырай Алтынсарин туралы естеліктер» болды. Өзі аурулығына байланысты естеліктің соңғы беттерін 1891 жылдың 23—29 қазанда семинарияның әзірлік бөлімінің мұғалімі К. К. Кондратаевқа ауызша айтып жаздырды. Бұл тұс Николай Ивановичтің өмірінің соңғы күндерінің бірі және аса ауыр қалде болатын, әсіресе, демалу, мүмкіндігі азайған кезең еді. Н.И.Ильминский 1891 жылдың шілде айында денсаулығының нашарлығына қарамастан Санкт-Петербургке барып қайтты. Бұл оның астанамен, жолдас жора, дос адамдарымен қоштасуы іспетті болды.
1891 жылдың күз айларында ол бір тұрып, бір жатып жүріп міндетті әкімшілік жұмысын атқара берді, қолы қалт етсе жазған ғылыми жұмыстарын реттеді. Енді сауығып кетудің жолы жоқ екенін сезген Н. И. Ильминский Қазан оқу округі басшыларымен келісіп, өзі 29 жыл бойына үзбей атқарып келген оқытушылар семинариясы директорлығын, шәкірті, әрі досы Н. А. Бобровскийге тапсырды.
Асқынған және ұзаққа созылған ауыр науқастың салдарынан Н. И. Ильминский өз үйінде отбасы мүшелері, әріптестері мен шәкірттерінің ортасында «1891 жылы 27 желтоқсан күні ертеңгі сағат 9-дан 15 минут кеткенде тұла бойына біткен сабырлылықты еш бұзбастан дүние салды». 1891 жылдың 30 желтоқсан күні түстен кейінгі сағат үштен 15 минут кеткенде «қадірлі Н. И.Ильминскийдің денесі салынған табыт Куртинск қауымының шіркеу қоңырауы ортталасқан орыстың оң жағынан қазылған лақытқа түсірілді. Жиналған халықтың есебі жоқ.
Н. И. Ильминскийдің өзінен ұрпақ болмады, бірақ ол «отбасында үлгі бола білді, дос-жолдастарының арасынан жетім қалған балаларды өз тәрбиесіне алып оқытты, жетілдірді, адам қатарына қоса білді».
Й. Й. Ильминский қазан халқын оқу-ағарту ісіне зор үлес қосты. Ашылған мектептерде сабақтың ана тілінде жүргізілуін және сол тілде оқулықтардың болуын ұсынды осы мәселелерді шешуге өзі тікелей араласты. Араб алфавитінің орнына орыс графикасын пайдаланып қазақ тілінде оқулық-сөздік жасады, қазақ тілінің фонетикасы мен грамматикалық құрылысы жөнінде тұңғыш мағлұмат берді.
Бұл ретте оның өзін сынай айтқан мына бір сөзін ескертіп өткен жөн. «Шындықты айтпауға болмайды,— дейді ол,— Алтынсарин менің көп сөзділігіме асқан төзімділік білдіруші еді. Аса сүйкімді жігіт Алтынсарин садтіп менің отбасымның тұрақты да қадірлі қонағы болып сіңісіп кетті». Ыбырайдың орыс тіліп толық меңгеруіне де Н. И. Илминский мен оның отбасының көп ждәрдемі тиеді. Орыс тілін жетік білу үшін, ол талай түндер бойы Ильминскийдің үйінде көркем шығармаларды дауыстап оқып, өзінің қате айтқан сөздерін түзеттіріп отырады.
Бір айта кететін жәй, Ыбырай Алтынсарин «Қазақ хрестоматиясын» орыс графикасымен жазылған алғашқы кітап деп XIX ғасырдың соңғы жылдығында ресми жұмыста болған қазақ интеллигенциясы да, оның творчествосын зерттеген советтік ғалым-жазушылар да айтып жүр. Қолда бар архив документтеріне жүгінсек «о баста қазақ жазбасына орыс графикасын енгізу идеясын орыс оқымыстылары берген сияқты. Олар қазақтарды қалайда татар ықпалынан тезірек шығаруда, қазақ тілін шағатай тілі дәстүрінен арылтуда қазақ жазбаларында орыс графикасын қолданудың зор маңызы болуға тиіс деп ойлады»
Н. И. Ильминский өзінің естелігінде,— 1870 жылдан бастап екеуміздің арамызда қазақ тіліне арнап алфавит құрастыру және басқа тілдердегі оқулықтарды қазақ тіліне аудару жолдары туралы пікір алысу мақсатында хат жазысу басталды ақыры ол 1879 жылы орыс алфавиті негізінде «Қазақ хрестоматиясы» аталатын оқулық жазып, бастырып шығарды.
«Самоучительдің» 1861 жылы және 1874 жылы басылып шыққан нұсқаларына Ыбырай Алтыысарин кезінде өзі ұйымдастырып ашқан, сабақ берген мектептерінде кең паыдалаыды және оларды жоғары бағалады!
Ыбырай Алтынсарин Н. И. Ильминскиймен 1860 жылдың май айынан 1876 жылдың сентябрь айының 7-не дейін жүздесіп, кездескен жоқ, бірақ екеуінің арасы суымады. Жиі хат жазысып тұрды, бірін-бірі аңсап сағынатын болды.
Ыбырай жазған әрбір хат жеке бір шығарма