Реферат тақырыбы: Желі ұғымы және оның қолданылуы, жасанды нейрондық желілердің артықшылықтарын, стандартты формалдық нейрон. Тобы: Инф-21-23 пед Орындаған: Бердібек А.Ә
жүктеу/скачать 26,1 Kb.
|
- Бұл бет үшін навигация:
- РЕФЕРАТ Тақырыбы
- Орындаған: Бердібек А.Ә Қабылдаған:Жүсіпбек Б.К Қызылорда ,2023
|
Қазақстан Республикасы Ғылым және жоғары білім министрлігі Қорқыт Ата атындағы Қызылорда университеті Жаратылыстану институты «Информатика және ақпараттық-коммуникациялық технологиялар» кафедрасы РЕФЕРАТ Тақырыбы: Желі ұғымы және оның қолданылуы, жасанды нейрондық желілердің артықшылықтарын, стандартты формалдық нейрон. Тобы:Инф-21-23 пед Орындаған: Бердібек А.Ә Қабылдаған:Жүсіпбек Б.К Қызылорда ,2023 Желі ұғымы және оның қолданылуы, жасанды нейрондық желілердің артықшылықтарын, стандартты формалдық нейрон. «Нейрондық желі» ұғымы пайда болғаннан бері 150 жыл өткен екен. Бұл ұғым алғаш пайда болған уақытта, ми және жұлындағы нейрондарды зерттеуге қатысты қолданылған. Жасанды нейронды желілер аумағындағы зерттеулер үшін жандандыру түрлі кезеңнен өтті. Негізі жасанды нейронды желілер туралы 1940 жылдардан бастап сөздер айтыла бастаған-ды. Алғашқы зерттеулер 1940 жылдардағы Мак Каллок пен Питстің жұмыстарынан көріне бастаған, олар кез келген логикалық және арифметикалық алгоритмдерді нейрондық желілер көмегімен жүзеге асыруға болатынын көрсетті. 1949 жылы нейрондық желілерді үйренудің бастапқы нүкесі болатын заңды қалаған Дональд Олдинг Хэбб модельін атап өту керек. Дональд Олдинг Хэбб теориясы өзін-өзі үйренудің өзіндік үлгісі болып табылады, онда тестілеу жүйесі экспериментатордың араласуынсыз қажетті тапсырманы орындау үшін үйретіледі. Екінші кезең Ф.Розенблактың 1958 жылы объектілерді жіктеуге арналған персепрон деп аталатын нейрондық желіні ұсынды, персептронның үйлесу теоремасына және қарапайым персептронның мүмкіндіктерінің шектеулілігін көрсеткен. Сонымен қатар, дайындалған персепрон бұрын қолданылмаған нысандарды өз бетінше жіктеуге қабілетті болды, алайда қателіктерде жоқ емес еді. Мински мен Пеперттің жұмыстарының нәтижелері көпшілік зерттеушілердің, әсіресе есептеуіш техника ғылымдары аясында жұмыс жасаған зерттеушілердің қызығушылығын арттырды. Осыдан кейін нейронды желілерге деген зерттеулер шамамен 20 жылға дейін дамусыз тыныштықта болды. 1980 жылдардың басынан жасанды нейрондық желілерге деген қызығушылық қайта жандандырыла түсті. 1982 жылы Американдық биофизик Дж.Хопфилд нейрондық желінің дербес түрін ұсынды, ол өз атымен аталды, және осы Дж.Хопфилдтің туындысы пайда болғаннан соң нейрондық желілерге деген қызығушылық күрт өсті. Жоғары өнімді дербес компьютерлер пайда болған кезде нейрондық желілерді модельдеу мүмкіндігі пайда болды. Келесі жылдары көптеген тиімді алгоритмдер табылды: қарама-қарсы ағын желісі, екі жақты ассоциативті жады, т.б.Дж.Хопфилдтің энергиялық тәсілі мен ең алғаш Вербастың ұсынған көп қабатты персептрон үшін кері таралу алгоритмінің дүниге келуімен байланысты болды. Бұл алгоритм Румельхарттың өз жұмысында жария ету негізінде баршаға белгілі болды. Содан кейін 1986 жылы Уильямс, Румельхарт және Хинтон бірлескен жұмысы жасалды, ол қабатты нейрондық желілердің қуы мінез-құлықтарды анықтау, тану туралы маңызды сұраққа жауап берді. Осыдан кейін Хинтон ұсынған алгоритм көптеген өзгерістерге ұшырады. 1980 жылдарда біртұтас теориялық негіз бірте-бірте қалыптасты, оның негізінде көптеген желілер бүгінгі күні жасалынады. Пайда болған 10 проблемаларды шешу үшін соңғы екі онжылдықта дамыған теория кеңінен қолданылды. 90-шы жылдары нейрондық желілер бизнесте қолданыла бастады, онда олар үлкен тиімділік көрсетті, көптеген проблемаларды шешуде өнімге деген сұранысты банктің клиенттерінің төлем қабілеттілігін талдау үшін болжау. 2007 жылы Торонто университетінде Джеффри Хинтон нейрондық желілерді терең зерттеуге арналған алгоритмдер құрды. Желінің төменгі қабаттарын оқытуда Хинтон стохастикалық қайталама нейрондық желіні ұсынатын шектеулі Больцман машинасын қолданды. Желіні оқып болғаннан кейін алынған бағдарлама мәселені жылдам шеше алады (мысалы, фототегі тұлғаларды іздеу, тұлғаның эмоциясын тану). Бұл мүмкіндік қазір барлық сандық камераларға орнатылған. Мамандардың бағалауы бойынша, нейрондық желілер мен нейрокомпьютерлерді жобалау саласында технологиялық даму күтілуде. Соңғы жылдары көптеген жаңа мүмкіндіктер ашылып, осы салада жұмыс ғылымға, технологияға және экономикаға маңызды үлес қосып келеді. Нейрондық модельдеуді зерттеу алпыс жылдан астам жүргізілгеніне қарамастан, ақпаратты өңдеу процесі соңына дейін анық болатын мидың бірде-бір аймағы жоқ. Сондай-ақ, импульстер тізбегі түрінде ақпаратты беру кодын анықтауға болатын бірде-бір нейрон жоқ. Қазіргі уақытта жұмыс принципі бойынша ерекшеленетін нейрондық желілердің көптеген конфигурациясы бар, олар әртүрлі тапсырмаларға бағытталған. 1.2 Жасанды нейрондық желі түсінігі Адам миы шамамен 86 миллиард нейроннан тұрады. Олардың жиынтығы нейрондық желіні құрайды. Әр нейрон көптеген дендрит пен бір аксоннан тұратын жеке жасуша. Ондағы аксон тармақталып, ақпаратты бірден бірнеше жасушаға жеткізе алады. Нейрондар электр импульстерін жіберіп қана қоймай, химиялық сигналдар жіберетін де қабілетке ие. Нейрондық желілер – бұл, мәліметтер қорынан көзге көрінбейтін заңдылықтарды ала отырып, мысалдар негізінде оқып үйрене алатын алгортимдер тобының жалпыланған атауы. Нейрожелілік деген атауға ие болған компьютерлік технологиялар адамның бас миындағы нейрондардың құрылым принципі мен қызмет етуіне ұқсас жұмыс жасап өте кең шеңбердегі мәселелерді шешуге мүмкіндік береді. Нейрожелілік технологиялар маманға анықталмағандық уақыттың жетіспеушілігі және ақпараттық қорлардың шектеулілігі жағдайында маңызды және шынайы емес шешімдерді жеңіл қабылдауды қамтамасыз етеді. Нейрондық желілер – бұл, белгілі бір жолмен бір-бірімен байланысқан нейрондар жиынтығы.Биологиялық нейрондардың негізгі құрылымы мен жұмыс жасау принципіне мыналар жатады:Жүйке жүйесінің қызметінде 11 бастапқы рөлді өзара жүйке талшықтары арқылы байланысқан арнайы (торшалар) клеткалар нейрондар атқарады. Нейрондар бір-біріне әр түрлі қуатты және жиіліктік электр импульстарын жібере алады. Нейрон дейндриттерден олар арқылы басқа нейрондардан сигналдар қабылданады. Нейрондар және аксондардар барлық клетканың өмір сүруін қамтамасыз етеді, Аксон – бұл ұзын талшық, аксон арқылы нейрон басқа нейрондарға сигналарды жібере алады. Аксон басқа нейрондардың дейндриттерімен сигналдың қуатына әсер ететін арнайы түзілістер синапстар арқылы байланысады. Қандай да бір нейронға басқа бірнеше нейрондардан бір уақытта алынған сигналдар қосылады. Егер қосынды сигналдың қуаты қайсы бір шекаралық мәннен артатын болса онда сигналдың ұзақтығы да маңызды болады. Онда нейрон қозып өзінің меншікті импульсін генерациялап аксон арқылы береді. Осы үрдістің математикалық үлгісін құру үшін мынандай болжамдарды ескеру қажет: Әрбір нейрон алынған сигналдың қуатына тәуелді оның қозу шарттарын анықтайтын берілу функциясына ие болады. Берілу функциялары уақытқа тәуелсіз синапс арқылы өткенде сигнал сызықты өзгереді, яғни сигналдың қуаты синапастың салмағы немесе нейронның сәйкестік кіріс салмағы деп аталатын қандай да бір санға көбейтіледі. Нейронның жұмысы синхрондалған, яғни сигналдың нейроннан нейронға өту уақыты тұрақталған және барлық байланыстар үшін бірдей болып табылады. Нейрондық желілер – қарапайым процессорларлық (жасанды нейрондар) жүйелердің бір-бірімен байланысы. Мұндай процессорлар әдетте өте қарапайым (әсіресе дербес компьютерлерде қолданылатын процессорлармен салыстырғанда). Осындай желінің әрбір процессоры мезгілінде қабылдайтын сигналдармен ғана жұмыс істейді және ол басқа өңдеушілерге мерзімді түрде жіберетін сигналдармен жұмыс істейді. Дегенмен, бақыланатын өзара әрекеттестігі бар өте үлкен желіге қосылғандықтан, бұл процессорлар өте күрделі тапсырмаларды орындауға қабілетті, өйткені жүйеде нейрондық желілер дайындалады. Нейрондық желілер кең ауқымды деректерді өңдеу және талдау міндеттерін шеше алады - үлгіні тану және жіктеу, болжау, бақылау және т.б. Ең жиі пайдаланылатын бағдарламалар нейроимитаторлар болып табылады – олар қарапайым компьютерлерде жұмыс істейді, және қазіргі заманғы нейроалгоритмдер үлкен көлемдегі ақпаратты жылдам өңдеуге мүмкіндік береді. Күрделі нақты проблемаларды шешу үшін нейрондық желілерді пайдаланылады. Бағдарламалар нейрондық желілерді құру, үйрету және манипуляциялау, бастапқы деректер, нейрондық желілердің қасиеттері және нейрондық шешімдер, сондай-ақ ең қарапайым әрекеттер тізбектерін орындаудың автоматтандырылған процедуралары, мысалы, оңтайлы желі параметрлерін және оқу алгоритмін анықтауға арналған негізгі әрекеттер жиынтығын қамтиды. Нейрондық желілерді бағдарламалау бағдарламалық кодты жазу емес, желіні оқытуды білдіреді. Дәл осы оқыту арқасында желі 12 деректер (кіріс және шығыс) арасындағы тәуелділікті анықтауға, қорытындылауға, нәтижелерді жеңілдетуге, күрделі есептерді анағұрлым оңай бөлуге арналған білімді пайдалануға мүмкіндік береді. Биологиялық нейрон және жасанды нейрон Адам миы және оның жүйке жүйесі жүйке талшықтарымен байланыстырылған нейрондардан тұрады. Нейрондар арасында жүйке талшықтарының көмегімен электр импульстері беріледі. Тірі ағзамен кездесетін барлық әрекеттер, терінің, көздің, аурудың, ойлау процестерінің барлық тітіркенуі нейрондардың өзара әрекетінен туындайды. Биологиялық нейронның құрылысы 1-те көрсетілген. 1- – Биологиялық нейрон Дендрит – нейронның импульстарын қабылдайды; Аксон – нейрон импульсін береді; Синапстар – аксон мен дендрит байланысы үшін импульс күшіне әсер ететін түзілімдер. Синапстан өткен кезде импульс күші белгілі бір санға өзгереді (синапс салмағы). Нейронға бірнеше дендриттер бойынша импульстер түскенде, олар қосылады. Егер жиынтық импульс табалдырықтан асып кетсе, онда нейрон қозу жағдайына ауысады, өз импульсін қалыптастырады және оны одан әрі аксон бойымен жібереді. Тиісті нейронның мінез-құлқы өзгеруі мүмкін, себебі Нейронның денеесі Импультің қозғалысы дендриттер аксондар синапстар 13 синапстардың салмағы уақытпен өзгереді. Сипатталған процестің математикалық модельі 2-те көрсетілген. – Нейронның математикалық модельі Бұл модель үш кіріс (дендерриттер) бар нейронды сипаттайды, онда синапстардың 𝑤1, 𝑤2, 𝑤3 салмақтары бар, оларға сәйкес 𝑥1, 𝑥2, 𝑥3 күші тиісінше сәйкес келеді. Алынған жиынтық импульс x=𝑥1𝑤1+𝑥2𝑤2+𝑥3𝑤3 нейрон F(x) өткізу функциясына сәйкес түрлендіреді. y = f(x)=f(𝑥1𝑤1+𝑥2𝑤2+𝑥3𝑤3) – шығу импульсінің қуаты. Қорытындылай келе, кіріс түрінде 𝑥𝑘 (вектор) сандар жиынтығын аламыз. Содан кейін нейрон шығу кезінде кейбір санды береді. Жасанды нейрон келесідей көрінеді: оның кіруіне көптеген сигналдар түседі, олардың әрқайсысы бір мезгілде басқа нейронның шығуы болып табылады. Мұндай кіріс тиісті салмаққа көбейтіледі, содан кейін туындылар нейронды белсендіру деңгейін анықтайды. Бұл идеяны іске асыратын модель 3-те көрсетілген: 3- – Нейронды белсендіру модельі Мұнда x1, x2, ..., xn сигналдар жиынтығы жасанды нейронның кірісіне өтеді, олардың жиынтығында олар X векторымен белгіленеді. Бұл сигналдар кіретін биологиялық нейронға ұқсас. Сонымен қатар, сигнал да тиісті салмақ w1, w2, ..., wn көбейтіледі, содан кейін Σ жинақтау бірлігіне қосылады. Әрбір салмақ бір синаптикалық қосылымның күшіне тең биологиялық нейрон. 14 Әдетте NET деп аталатын шығу өлшенген элементтер алгебралық түрде қалыптасатын жиынтықтаушы блоктан құрылады. NET сигналы активтендіру деп аталатын қарапайым сызықты функциямен түрлендіріледі. Ол F белгіленеді және OUT шығыс сигналын береді. OUT = K (NET), К - тұрақты, шекті функциялар, Егер NET>T, онда OUT = 1 Қалған жағадйда OUT = 0 T - нейрондық желіні нақты модельдейтін тұрақты шекті шама. 4-те белсендіру функциясы бар жасанды нейрон көрсетілген: 4- – Белсендірілген нейрон функциясы F деп белгіленген блок, NET сигналын қабылдайды және OUT сигналын шығарады. F – кез келген NET мәндері үшін OUT мәндері кейбір соңғы аралыққа тиесілі болса, қысу функциясы деп аталады. Жасанды нейрон модельі биологиялық нейронның көптеген қасиеттерін елемейді. Мысалы, жүйенің динамикасына әсер ететін уақыт кідірісі. Кіріс сигналдары бірден шығу сигналын тудырады. Сонымен қатар, жасанды нейрон биологиялық нейронды синхрондау функциясының әсерін ескермейді. Дегенмен, тірі нейронның және жасанды нейронның ерекше ұқсастығын атап өту керек. Ақпараттық технологиялар саласындағы нейрондық желілердің орнын анықтау үшін жасанды зияткерлік жүйелердің классификациясына жүгіну қажет. ПАЙДАЛАНЫЛҒАН ӘДЕБИЕТТЕР ТІЗІМІ 1 Маркова С.В., Жиглалов К.Ю. применение нейронной сети для создания системы распознавания изображений // Фундаментальные исследования. – 2017. – № 8-1. – 60-64.б 2 Айвазян С.А., Бухстабер В.М., Энюков И.С., Мешалкин Л.Д. Қолданбалы статистика: Өлшемді жіктеу және азайту. - М.: Қаржы және статистика, 1989. 3 Urban Sound Classification // Сайттың электронды нұсқасы https://www.kaggle.com/pavansanagapati/urban-sound-classification/kernels 4 Фундаментальные исследования // Сайттың электрондық нұсқасы http://www.fundamental-research.ru/ru/article/view?id=41621 5 Андрей Созыкин Сохранение Нейросети в процессе обучения // Сайттың электронды нұсқасы http://www.itproger.com. 2015. – № 4-1.– 3.б 6 Маргарита Акулич Распознавание лиц в маркетинге и ритейле // Сайттың электрондық нұсқасы https://www.litres.ru/margaritaakulich/raspoznavanie-lic-v-marketinge-i-riteyle/chitat-onlayn/ 7 Д.В.Брилюк, В.В.Старовойтов Распознавание человека по изображению лица нейросетевыми методам // Сайттың электрондық нұсқасы https://www.researchgate.net/publication/ жүктеу/скачать 26,1 Kb. Достарыңызбен бөлісу:
|