Балғожа би өзінің немересі Ыбырайды орысша оқытып, әкімдік қызметке даярлау мақсатында 1850 жылы Орынбор шекара комиссиясының жанынан қазақ балалары үшін ашылған орыс-қазақ мектебіне оқуға берді.
Ыбырай 1857 жылы Орынбордағы жетіжылдық орыс-қазақ мектебін үздік бағамен бітіріп, әуелі атасы Балғожа биге хатшы, кейін Орынбор облыстық басқармасында тілмаштық қызмет атқарады. 1864 жылдан өмірінің ақырғы күніне дейін (алғашқыда Торғайда мұғалім, кейін уездік басқарманың мектеп инспекторы болып) оқу-ағарту саласында аянбай еңбек етеді.
Ауыл-ауылдарды аралап, халықтан қаржы жинап, Торғайда, Ырғызда, Тобылда, Қостанайда орыс-қазақ бастауыш мектептерін ашады. Қостанай, Торғай, Ақтөбе өңірінде қолөнер училищесін, қыздар пансионатын, Красноуфимскіде мұғалімдер мектебін ашып, бар күш-қайратын, ақыл-парасатын халық ағарту ісіне жұмсайды. Қазақ халқының келешегі тек өнер-білімде деп түсінген Ы.Алтынсарин өз ойын іске асыру жолында екі бірдей кертартпа күшпен алысып бақты. Оның бірі – қазақ даласындағы ислам дініне негізделген татарша оқу болса, екіншісі - патша өкіметінің отарлау саясатына негізделген қазақ балаларына христиан дінінің заңдарын оқытуды көздеген миссионерлік саясат еді. Миссионерлік саясатты қолдаушылар мүмкін болғанша қазақ жастарын орысша оқыта отырып, өз ұлтының тілінен, дінінен, салт-дәстүрінен мүлде бездіріп, орыстандыруды-шоқындыруды көздеді.
Ыбырай діни оқудың өзін адамгершілікті, гуманизмді насихаттауға бейімдеу керек деп қарады. Осы мақсатпен ол 1883 жылы өзінің “Мұсылмандық тұтқасы” атты оқу құралын жазып, Қазан қаласында араб әрпімен, өзінің досы Н. И. Ильминскийдің көмегімен бастырып шығарды.
Ы.Алтынсариннің “Мұсылмандық тұтқасы” (“Шараит-ул-ислам”) кітабын жазып шығаруына екі түрлі жағдай себеп болды: біріншіден, сол заманда қазақ ауылдарында оқытылатын діни кітаптар (“Иманшарт”, “Кәлем шариф”, “Әптиек” т. б.) араб тілінде жазылғандықтан, оның мазмұнын не молда, не оқушы түсінбей, құрғақ жаттаумен болды. Ал діни оқулықтардың мазмұнын жете түсінбеген дүмше молдалар дін-шариғат қағидаларын өздерінше бұрмалап, теріс түсініктер беретін. Ыбырай ислам дінінің аяттарындағы адамгершілік, иманжүзділік, қайырымдылық қағидаларын өзінің педагогикалық көзқарастарына негіздей отырып түсіндіруді көздеді.
Ол діннің өзін тәрбиенің құралы деп қарады. Мысалы, Ыбырай осы кітаптың кіріспесінде: “...Имансыз еткен жақсылықтың пайдасы жоқ. Мәселен, біреу намаз оқыса да, ол намаздың керектігіне көңілі дұрысталмаса, әлбетте, ол намаз болып табылмайды...” Құдай тағала ешкімді жамандық жолға бұйырмайды, мынау жамандық, мынау жақсылық деп көрсетіп, адам баласына қай жолға түссе де ықтияр береді”, - деп адамның жамандық, яки жақсылық іс-әрекетін Алла тағала істетті дейтін молдалардың жалған насихатына қарсы шығады.
Өзінің ағартушылық, тәлімгерлік ісінде Ыбырай талай қиыншылықтарға кездесті. Оның елден қаржы жинап, орыс-қазақ мектептерін ашып, дүнияуи пәндерді оқытуды енгізіп, мәдениет атаулыны насихаттауын көре алмай өшіккен ел ішіндегі кейбір қожа-молдалар оны “шоқынған кәпір” деп өсек таратса, енді біреулер 1884 жылы Ішкі істер министрлігі мен Орынбор генерал- губернаторына “үкіметке қарсы ойы бар”, “социалист” деп, өтірік арыз жазып, қаралауға дейін барды.
Ы. Алтынсарин болса, өзі ашқан орыс-қазақ мектептерін миссионерлік бағыттағы жат пікірден де, шығыстың жаттамалы діни оқуынан да қорғап бақты. Жастарға шынайы білім беретін дүнияуи пәндерді (жаратылыстану, география, тарих, есеп, т.б.) оқытуды іске асырды.
Ол орыс-қазақ училищелерінің шәкірттеріне сол кездегі прогрессивтік, гуманистік идеяда жазылған К.Д.Ушинскийдің “Балалар әлемі”, Л.Н.Толстойдың “Әліппе және оқу кітабы”, Б.Ф.Бунаковтың “Әліппе мен оқу құралы”, Тихомировтың “Грамматиканың элементарлық курсы” атты оқу құралдарын пайдалануды ұсынды.
Ы.Алтынсарин алдыңғы қатарлы орыс педагогтарының оқу құралдарын басшылыққа ала отырып, қазақ ауыз әдебиеті мен салт-дәстүрлеріне негізделген екі төл оқу құралын (“Қазақ хрестоматиясы”, “Қазақтарға орыс тілін үйретудің бастауыш құралы”) 1879 жылы жазып бастырып шығарды.
Ол қазақ жастарын оқытып-тәрбиелеу ісіне ең басты мәселе деп қарады. “Халық үшін қызмет ететін білімді адамдардың қатарын көбейту арқылы қазақ қоғамының мешеулігін жоюға болады, сондықтан жастарды оқытып-тәрбиелеу ісінен артық еш нәрсе жоқ”,— деп ой түйді.
Ыбырай аударып, хрестоматияға енгізген орыс жазушылары Пауэльсонның, Ушинскийдің, Толстойдың әңгімелерінде де қайырымдылық, кішіпейілділік, талаптылық, еңбексүйгіштік сияқты зор адамгершілік қасиеттер дәріптеліп, оған қарама-қарсы жауыздық, екіжүзділік, дүниеқорлык, т.б. жексұрын мінез-құлықтарды әшкерелеу өзекті орын алады. Ыбырай осы арқылы жастардың ізгі жүректі, инабатты, талапты, ел-жұртына пайдалы азамат болуын көздейді.
Ыбырай Алтынсарин қазақ даласында дүнияуи мектептер ашу, оқушыларға арнап тұңғыш оқулықтар жазумен бірге, мектептің материалдық базасын күшейтуге баса зер салды. “Мектеп дегеніміз шын мектепке ұқсас болуы үшін оған қаржыны көбірек бөлу керек… Өйткені мектеп – білім берудің басты құралы” деп қарады. Ол оқушылардың бойына адамгершілік қасиеттерді ұялатуға бар күшін жұмсады. Ол өзінің досы Н.Н.Ильминскийге жазған бір хатында “Шәкірттер кейін парақор болып шықпаулары үшін оларға адамгершілік жағынан әсер етуге бар күшімді салып отырмын… Мен балаларды жазалауды сүйетін онша қатал адам емеспін… Бірақ, кейде, балаларды тентектіктен тыймай да болмайды. Тентек етіп өсірсең, балалардың адамгершілік қасиетін бұзып аласың” деп өзінің педагогтік ұстанымын айқын көрсетеді.
Ыбырай Алтынсарин өзінің біраз еңбектерін қазақ халқының салт-дәстүрлерінің ерекшеліктерін зерттеп, этнографиялық очерктер жазуға арнады.
Ол 1870 жылы Ресей география қоғамының Орынбор өлкетану бөлімшесінің тапсыруы бойынша “Орынбор ведомствосы қазақтарының өлген адамды жерлеу және оған ас беру дәстүрлерінің очеркі” мен “Орынбор ведомствосы қазақтарының құда тұсу, қыз ұзату және той жасау дәстүрлерінің очерктері” атты екі еңбегін жазып тапсырды. Бұл еңбектер орыс зиялы қауымына қазақ қоғамының әр алуан тұрмыс-салт ерекшеліктері туралы түсінік берген тұңғыш жазба еңбектер еді.
Ыбырайдың қазақ халқының салт-дәстүрлерін зерттеудегі мақсаты — дәстүрдің озығы мен тозығын ғылыми түрде талдап, өзінің көзқарасын білдіре отырып, мән-мағынасын ашу, озық дәстүрді тәрбиенің құралы ету болатын. Қазақтың салт-дәстүрін жан-жақты зерттеп, жинақтаумен бірге, әр ауыл мен болыс сайын мектеп ашып, мектеп жанынан монша, кітапхана салып, қайтсем қазақ елін мәдениетті елдердің қатарына жеткіземін деп арпалысқан Ыбырай “қазақ халқы деген оқу-білімге сусап отырған халық, әттең, бұл іске оқыған адамдардың жаны ашымайтыны есіңе түскенде, кейде күйінесің” деп, ел билеуші орыс әкімдеріне қатты реніш білдіреді.
Ы. Алтынсарин өзінің ориенталист досы В.В.Катаринскийге жазған хатында: “...ең жаманы халықтың караңғылығымен емес, қоғамның әл-ауқаты мен мәдениетін көтеруге көмектесу үшін үкіметтің өзі қойған білімді адамдармен күресуге тура келеді” деп қынжылуы да тектен-тек емес еді. Ыбырай орыс мәдениетінен нәр ала отырып, патша өкіметінің отарлау саясатына, патша чиновниктерінің қарапайым халыққа жасап отырған қысымына ашық наразылық білдірген. Ол жөнінде өзінің “Орынбор листогы” газетіне (1880 ж. 4 сәуірде) жазған мақаласы туралы В.В.Катаринскийге жолдаған хатында: “...Осы мақаламда қазақ еліне орыс переселендерін (көшіп-қонушы орыстар) әкеп орнатпақ болған пікірге қарсы екенімді білдірдім”, — дейді. (Бұл жерде Ыбырай орыс патшасының 1879-1880 жж. орталық Ресей мен Украина жерінен орыс крестьяндарын көшіріп, Қазақстанның шұрайлы егістік жерлеріне орналастыру туралы заңы жайында сөз қозғап отыр (С.Қ.)).
Ыбырайдың Орынбор генерал-губернаторы Проценко тарапынан қуғынға ұшырауы, оның Ыбырай ашқан мектептерді жауып, өзін инспекторлық қызметтен босатпақ болып, ісін сотқа беруді ұйғаруы да осы кез болатын. Ыбырай өзінің орыс достары Н.И.Ильминский мен В.В.Катаринскийлердің қолдауымен ғана бұл істен аман қалған еді.
Халқы үшін жар құлағы жастыққа тимей, оқу-ағарту жолында аянбай еңбек еткен Ы.Алтынсариннің ғылыми және әдеби еңбектерінің бүгінгі жастарға берер ғибраты мол асыл мұра.
Ыбырай бір жағынан ақын болса, екінші жағынан халық ағарту майданында қызмет қылған. Ең бірінші рет қазақтың ана тілінде оқу құралын жазған және сол ана тілінде қазақ баласын оқытқан ең алғашқы тұңғыш оқытушысы болған. Қазақ әдебиетін Европа жолына, өнер жолына бұрып бастаған ең тұңғыш жаңашыл, суретші ақын.Ыбырайдың шығармаларының мәні сол замандағы орыс елінің өнерге, өнеркәсіптеріне аяқ басуы арқасында орыс оқығандарынан шыққан, жаңашылдардың әсерімен және қазақ даласына сауда капиталының, отаршылдықтың мықтап шеңгел салуының әсерімен Ыбырай жастарды оқуға, өнерге шақырды. Енді одан басқа жолдың жоқ екенін біледі. Онан соң Ыбырай қазақ елінің білім майданында тез ілгерілеуіне үлкен бөгет болатын сол заманда – ақ білген, араб әрпіне қарсы болған. Сондықтан қазақтың ана тілінде жазған оқу құралын орыс әрпімен жазған. Бұл ретте Ыбырайды орыс миссионерлері пайдаланбақ болған, Ыбыраймен жақындасқан, Ыбырай олардан қашпай, оларды өзі пайдаланып жүрген, сондықтан қазақ ескішілдері оны «шоқынды» деп шығарған, талай өсектер таратқан.Осы күнде кейбіреулер Ыбырайдың істерімен таныс болғандықтан, сол бұрынғы ескішілдердің таратқан өсектерінің қалдық – сарынымен Ыбырайдың заманында қазақ көпшілігіне кәдірсіз болған еді, — деген сияқты теріс сөздерге малданатын тәрізді. Расында, оқуға талпына бастаған қазақ жастарына Ыбырай айрықша болған адам. Жас буынға арнап шығарған Ыбырайдың «Кел, балалар, оқылығын» жатқа білмеген оқушы болмаған.
Ыбырайдың өмірі мен ісіне көз жіберіп, оның жұмыс еткен жағдайын еске алсақ, таңқалмасқа болмайды. Ол іске кіріскенде, сонау Торғай,Ол армандары орындалмады. Оқып білім алып, өз тізгінін өз қолына алған күннен бастап – ақ Ыбырай туыстарынан іргесін бөлек салды. Олардың күткен үміттерін үзіп кетті. Осы айтылғандардың бәрі де Ыбырайдың жолында бүк түсіп жатқан үлкен – үлкен бөгеттер болатын. Өзімен білімі тең келген, көзқарасы бір серігі жоқ, ең қараңғылықтың жуан ортасында жалғыз өзі болса да, Ыбырай бар бөгетке қарсы барып, күрес майданына шықты. Сүйгені де,сүйенері де халық болды. Сол халықтың келешегі үшін басын бәйгеге тігіп, желіні ұзаққа тартып, белсеніп іске кірісті. Кезіндегі жағдаймен санаса отырып, Алтынсарин екі түрлі ірі мәселені алдына мақсат етіп, қойды: біріншісі – мектеп ашу, бала оқыту – жалпы халық ағарту жұмысы да , екіншісі халықтың ой – санасын жаңалыққа қарай бейімдеу жолындағы тәрбиелік істері. 1871 жылы отыз бірінші август күні Н.И.Ильминскийге жазған хатында жастарға дін мектептерінің басын қатырған зияннан басқа ешбір пайда берметінін, халықтың ілгері дамуына бөгет жасайтындықтарын айта келіп:«Қазақтардың білімге қолын жеткізетін ең басты құралы – мектеп. Бірақ даладағы мектептер шашылыңқы, сондықтан әлі пайдалы бола алмай отыр, әйтсе де олардың үміт күтері – мектеп, тек қана мектеп және қазақ халқының болашағы да мектептермен байланысты», — деді.