Реферат Пәні: Зияткерлік және smart жүйелер Тақырыбы: Перцепронмен үлгіні тану Жетекшісі: Сейпишова Э. К

Ақпараттық технология және қауіпсіздік кафедрасы

Жетекшісі: Сейпишова Э.К.

Студент: Халбаев М.П.

Тобы: ВТ-18-2

2021

Мазмұны

	Кіріспе	3
1	Перцептронның пайда болуы	4
2	Элементарлы перцептронның сипаттамасы	5
3	Перцептрондар теориясының негізгі түсініктері	6
3.1	Сигналға негізделген сипаттама	6
3.2	Предикатқа негізделген сипаттама	7
4	Оқыту алгаритімі	8
4.1	Мұғаліммен оқыту	9
4.2	Мұғалімсіз оқыту	10
4.3	Қатені кері тарату әдісі	10
	Қорытынды	11
	Қолданылған әдебиеттер	12

Кіріспе

Перцептрон элементтердің үш түрінен тұрады, атап айтқанда Сенсорлардан келетін сигналдар ассоциативті элементтерге, содан кейін реактивті элементтерге беріледі. Осылайша, перцептрондар кіріс қоздырғыштары мен Шығыс реакциясы арасында "ассоциациялар" жиынтығын құруға мүмкіндік береді. Биологиялық тұрғыдан алғанда, бұл, мысалы, визуалды ақпаратты моторлы нейрондардың физиологиялық реакциясына айналдыруға сәйкес келеді. Қазіргі терминологияға сәйкес перцептрондарды жасанды нейрондық желілер ретінде жіктеуге болады:

• 
  бір жасырын қабатпен;
  
• 
  шекті беру функциясымен;
  
• 
  сигналдың тікелей таралуымен.
  

Кейіннен нейрондық желілерге, атап айтқанда Розенблаттқа деген қызығушылық қайта жанданды. Мәселен биокомпьютинг қазір тез дамып келеді, ол теориялық есептеу негізінде, соның ішінде нейрондық желілерге негізделген, ал перцептрон бактериородопсині бар пленкалар негізінде көбейтіледі.

1. 
   Перцептронның пайда болуы
   

Бұл идеяларды бірнеше жылдан кейін американдық нейрофизиолог Фрэнк Розенблатт дамыды. Ол адамның қабылдау процесін модельдейтін құрылғы схемасын ұсынды және оны "перцептрон"деп атады. Перцептрон сенсорлық өріс болып табылатын фотоэлементтерден сигналдарды электромеханикалық жад ұяшықтарының блоктарына жіберді. Бұл жасушалар коннективизм принциптеріне сәйкес кездейсоқ бір-бірімен байланысқан. 1957 жылы Корнелл Аэронавтика зертханасында IBM 704 компьютеріндегі перцептронды модельдеу сәтті аяқталды, ал екі жылдан кейін, 1960 жылы 23 маусымда Корнелл университетінде алғашқы нейрокомпьютер — "Марк-1" көрсетілді, ол ағылшын алфавитінің кейбір әріптерін тани алды.

Перцептронды суреттерді жіктеуге "үйрету" үшін адамның оқу процесін еске түсіретін сынақтар мен қателіктерді оқытудың арнайы итерациялық әдісі — қатені түзету әдісі жасалды. Сонымен қатар, бір немесе басқа әріпті тану кезінде перцептрон жеке жағдайларда маңызды емес айырмашылықтарға қарағанда статистикалық түрде жиі кездесетін әріптің сипаттамаларын ажырата алды. Осылайша, перцептрон әр түрлі жолмен жазылған әріптерді бір жалпыланған кескінге жинақтай алды. Алайда, перцептронның мүмкіндіктері шектеулі болды: машина ішінара жабық әріптерді, сондай-ақ оның жаттығу кезеңінде қолданылғаннан гөрі ығысу немесе бұралу арқылы орналастырылған басқа өлшемдегі әріптерді сенімді түрде тани алмады.

Алғашқы нәтижелер туралы есеп 1958 жылы пайда болды-содан кейін Розенблатт "Перцептрон: мидағы ақпаратты сақтау мен ұйымдастырудың ықтималды моделі"атты мақала жариялады. Бірақ ол 1962 жылы "нейродинамика принциптері: Перцептрондар және механизмдерінің теориясы"кітабында қабылдау және перцептро.

2. 
   Элементарлы перцептронның сипаттамасы
   

Элементар перцептрон үш типтегі элементтерден тұрады: S-элементтер, A-элементтер және бір R-элемент. S элементтері-бұл сенсорлар немесе рецепторлар қабаты. Физикалық көріністе олар, мысалы, көздің тор қабығының фотосезгіш жасушаларына немесе камера матрицасының фоторезисторларына сәйкес келеді. Әрбір рецептор екі күйдің бірінде болуы мүмкін — демалу немесе қозу, тек соңғы жағдайда ол ассоциативті элементтерге келесі қабатқа бірлік сигнал береді.

A-элементтер ассоциативті деп аталады, өйткені мұндай элементтердің әрқайсысы S-элементтердің бүкіл жиынтығына (қауымдастығына) сәйкес келеді. A-элемент кірісіндегі S-элементтерден сигналдардың саны шамасынан асқаннан кейін іске қосылады. Осылайша, егер тиісті S-элементтердің жиынтығы сенсорлық өрісте "Д" әрпі түрінде орналасса, a-элемент белсенді болады, егер рецепторлардың жеткілікті саны олардың айналасында "ақ жарық дақтары" пайда болғанын хабарлаған болса, яғни A-элемент белгілі бір аймақта "Д" әрпінің болуымен/болмауымен байланысты болады.

A-элементтер сияқты, R-элемент салмаққа (сызықтық пішінге) көбейтілген кіріс сигналдарының мәндерінің қосындысын есептейді. R-элемент және онымен қарапайым перцептрон, егер сызықтық форма θ шегінен асып кетсе, "1" береді, әйтпесе шығу кезінде "-1"болады. Математикалық тұрғыдан, R-элементімен орындалатын функцияны келесідей жазуға болады.

Қарапайым перцептронды оқыту салмақ коэффициенттерін өзгертуден тұрады A—R байланыстары.S—A байланыстарының салмағы ({-1; 0; +1} мәндерін қабылдай алатын) және A-элементтерінің шекті мәндері басында кездейсоқ таңдалады, содан кейін өзгермейді. (Алгоритмнің сипаттамасын төменде қараңыз.)

Оқудан кейін перцептрон тану[10] немесе жалпылау режимінде жұмыс істеуге дайын. Бұл режимде перцептрон бұрын белгісіз нысандарды ұсынады, ал перцептрон олардың қай класқа жататынын анықтауы керек. Перцептронның жұмысы келесідей: нысанды ұсынған кезде қоздырылған a-элементтер R-элементіне тиісті коэффициенттердің қосындысына тең сигнал береді.Егер бұл сома оң болса, онда бұл нысан бірінші сыныпқа, ал егер ол теріс болса, онда екінші сыныпқа жатады деген шешім қабылданады.

3. 
   Перцептрондар теориясының негізгі түсініктері
   

Перцептрондар теориясымен байыпты танысу негізгі анықтамалар мен теоремаларды білуді талап етеді, олардың жиынтығы жасанды нейрондық желілердің барлық кейінгі түрлеріне негіз болады. Бірақ, кем дегенде, кем дегенде, сигнал теориясы тұрғысынан түсіну қажет, ол түпнұсқа, яғни перцептрон авторы Ф.Розенблатт сипаттаған.

3.1 Сигналға негізделген сипаттама

Қарапайым S элементі (сенсорлық)-бұл энергияның кез-келген түрінің әсерінен (мысалы, Жарық, дыбыс, қысым, жылу және т.б.) сигнал шығаратын сезімтал элемент. Егер кіріс сигналы θ шегінен асып кетсе, элементтің шығысында біз +1 аламыз, әйтпесе — 0.

Қарапайым a-элемент (ассоциативті) - бұл +1 шығыс сигналын беретін логикалық шешуші элемент, егер оның кіріс сигналдарының алгебралық қосындысы белгілі бір шекті мәннен асып кетсе θ (элемент Белсенді деп айтылады), әйтпесе шығу нөлге тең болады.

Қарапайым R-элемент (реактивті, яғни белсенді) - егер оның кіріс сигналдарының қосындысы қатаң оң болса, +1 сигналын беретін элемент, ал кіріс сигналдарының қосындысы қатаң теріс болса -1 сигнал. Егер кіріс сигналдарының қосындысы нөлге тең болса, Шығыс нөлге тең немесе белгісіз болып саналады.

Егер кез-келген элементтің шығысында біз 1 аламыз, онда элемент белсенді немесе қозған деп айтылады.

Қарастырылған барлық элементтер қарапайым деп аталады, өйткені олар секіргіш функцияларды орындайды. Розенблатт сонымен қатар күрделі мәселелерді шешу үшін басқа функциялар қажет болуы мүмкін, мысалы, сызықтық.

Нәтижесінде Розенблатт келесі анықтамаларды енгізді:

Перцептрон-бұл S -, A -, R — элементтерінен тұратын, айнымалы өзара әрекеттесу матрицасы бар W өткен желілік белсенділік күйлерінің реттілігімен анықталады.

Тізбекті байланысы бар перцептрон-бұл ең жақын S элементінен d логикалық қашықтығы бар элементтерден басталатын барлық байланыстар ең жақын S элементінен d+1 логикалық қашықтығы бар элементтерде аяқталатын жүйе.

Қарапайым перцептрон - келесі бес шартты қанағаттандыратын кез-келген жүйе:

• 
  жүйеде тек бір R элементі бар (әрине, ол барлық a элементтерімен байланысты);
  
• 
  жүйе-бұл тек S элементтерінен A элементтеріне және A элементтерінен R элементтеріне дейін созылатын тізбекті байланысы бар перцептрон;
  
• 
  S-элементтерден A-элементтерге (s—a байланыстарына) дейінгі барлық байланыстардың салмағы өзгермейді;
  
• 
  әр байланыстың берілу уақыты нөлге тең немесе тұрақты
  

Сонымен қатар, сіз кітапта ұсынылған және кейінірек нейрондық желілер теориясы аясында дамыған келесі тұжырымдамаларды көрсете аласыз:

Кросс - байланысы бар Перцептрон-бұл S элементтерінен бірдей логикалық қашықтықта орналасқан бір типтегі элементтер (S, A немесе R) арасында байланыс бар жүйе, ал қалған барлық байланыстар сериялық түрде болады.

Кері байланыс перцептроны - бұл логикалық тұрғыдан неғұрлым алыс элементтен аз қашықтыққа кем дегенде бір байланыс бар жүйе. Қазіргі терминологияға сәйкес мұндай желілер қайталанатын деп аталады.

S-a айнымалы байланыстары бар Перцептрон-бұл S-элементтерден A-элементтерге бекітілген байланыстарға шектеу алынып тасталған жүйе. S-a байланыстарын оңтайландыру арқылы перцептрон сипаттамаларын едәуір жақсартуға болатындығы дәлелденді.

2. 
   Предикатқа негізделген сипаттама
   

Минск марвині параллель есептеулердің қасиеттерін зерттеді, сол кезде оның ерекше жағдайы перцептрон болды. Оның қасиеттерін талдау үшін перцептрондар теориясын предикат тіліне қайта енгізуге тура келді. Бұл тәсілдің мәні келесідей болды:

• 
  S-элементтерінен алынған сигналдар жиынына x айнымалысы сәйкес келді;
  
• 
  әр а элементіне жеке предикат деп аталатын φ(X) (Fi x) предикаты сәйкес келді;
  
• 
  әр R элементіне жеке предикаттарға тәуелді ψ (PSI) предикаты сәйкес келді;
  

"Көрнекі" перцептронға қатысты x айнымалысы кез-келген геометриялық фигураның бейнесін (ынталандыру) білдірді.

Ғалымдар қызықты қасиеттері бар перцептрондардың 5 отбасын анықтады.
Диаметрі шектеулі перцептрондар-жеке предикаттармен танылған әрбір x фигурасы белгілі бір бекітілген мәннен диаметрден аспайды.

Шектеулі ретті перцептрондар - әрбір жеке предикат x нүктелерінің шектеулі санына байланысты.

Гамба перцепторлары-әрбір жеке предикат сызықтық шекті функция, яғни мини перцептрон болуы керек.

Кездейсоқ перцептрондар-шектеулі ретті перцептрондар, мұнда жеке предикаттар кездейсоқ таңдалған логикалық функциялар болып табылады. Кітапта Розенблатт тобы егжей-тегжейлі зерттеген бұл модель екендігі айтылған.

Шектеулі перцептрондар-бұл шексіз жеке предикаттар жиынтығы, және коэффициенттердің мүмкін мәндерінің жиынтығы әрине.

Мұндай математикалық аппарат талдауды Розенблаттың қарапайым перцептронына ғана қолдануға мүмкіндік бергенімен, қазіргі заманғы жасанды нейрондық желілердің бірде-бір түрі еркін болмайтын параллель есептеулер үшін көптеген негізгі шектеулерді ашты.

4. Оқыту алгоритмдері
Кез-келген нейрондық желінің маңызды қасиеті-оқу қабілеті. Оқу процесі-Шығыс кезінде қажетті (мақсатты) және алынған векторлар арасындағы айырмашылықты азайту үшін салмақ пен шекті реттеу процедурасы. Розенблатт өзінің кітабында перцептронды оқытудың әртүрлі алгоритмдерін жіктеуге тырысты, оларды күшейту жүйелері деп атады.

Арматура жүйесі-бұл уақыт өте келе перцептронның өзара әрекеттесу матрицасын (немесе жад күйін) өзгертуге болатын кез-келген ережелер жиынтығы.

Осы күшейту жүйелерін сипаттай отырып және олардың мүмкін түрлерін нақтылай отырып, Розенблатт Д. Хеббтің 1949 жылы ұсынған оқыту идеяларына негізделді[2], оны екі бөліктен тұратын келесі Ережеге келтіруге болады:

• 
  егер синапстың (қосылыстың) екі жағындағы екі Нейрон бір уақытта іске қосылса (яғни синхронды), онда бұл қосылыстың беріктігі артады;
  
• 
  егер синапстың екі жағындағы екі Нейрон асинхронды түрде іске қосылса, онда мұндай синапс әлсірейді немесе тіпті өледі;
  

4.1 Мұғаліммен оқыту

Бірінші сыныптағы объектілерді ұсынған кезде перцептронның шығысы оң (+1), ал екінші сыныптағы объектілерді ұсынған кезде теріс (-1) болатындай етіп перцептронды объектілердің екі класын бөлуге үйреткіміз келеді делік. Ол үшін келесі алгоритмді орындаймыз:

• 
  кездейсоқ түрде біз a элементтерінің шегін таңдап, s—A байланысын орнатамыз (олар бұдан әрі өзгермейді).
  
• 
  бастапқы коэффициенттер нөлге тең деп санаймыз.
  

Перцептронға бірінші класс объектісін көрсетеміз. Бұл жағдайда кейбір a элементтері қозғалады. Осы қозған элементтерге сәйкес келетін коэффициенттері 1-ге көбейтіледі.

Біз екінші класты нысанды және коэффициенттерін осы дисплейде қозғалатын A-элементтерінің 1-ге азайтамыз.

3-қадамның екі бөлігі де бүкіл жаттығу үлгісі үшін жарамды. Оқыту нәтижесінде байланыс салмақтарының мәндері пайда болады.

Ф. Розенблатт сипаттаған және дәлелдеген перцептронның конвергенция теоремасы (Блок, Джозеф, кестен және онымен бірге жұмыс істеген басқа зерттеушілердің қатысуымен) мұндай алгоритм бойынша оқытылатын қарапайым перцептрон, салмақ коэффициенттерінің бастапқы күйіне және ынталандырудың пайда болу дәйектілігіне қарамастан, әрқашан соңғы уақыт ішінде шешімге қол жеткізуге әкелетінін көрсетеді.

4.2 Мұғалімсіз оқыту

Альфа күшейту жүйесі-бұл элементіне әкелетін барлық белсенді байланыстардың салмақтары бірдей r мәніне өзгеретін және осы уақыт ішінде белсенді емес байланыстардың салмағы өзгермейтін күшейту жүйесі.

Содан кейін көп қабатты перцептрон ұғымын дамыта отырып, альфа жүйесі өзгертіліп, дельта ережесі деп атала бастады. Модификация оқыту функциясын дифференциалдау үшін жүргізілді (мысалы, сигма тәрізді), бұл өз кезегінде градиентті түсіру әдісін қолдану үшін қажет, соның арқасында бірнеше қабатты оқытуға болады.

4.3 Қатені кері тарату әдісі

Қорытынды

"Жасанды интеллект қысы" деп аталатын кезеңнен кейін кибернетикалық модельдерге деген қызығушылық 1980 жылдары жанданды, өйткені АИ-дегі символдық көзқарасты жақтаушылар "түсіну" және "мағынасы" туралы мәселелерді шешуге жақындай алмады, сондықтан машиналық аударма мен үлгіні техникалық тану әлі де жойылмайтын кемшіліктерге ие. Минскийдің өзі оның сөзі перцептрондар тұжырымдамасына нұқсан келтіргеніне өкініш білдірді, дегенмен кітапта тек бір құрылғының кемшіліктері мен оның кейбір өзгерістері көрсетілген. Бірақ, негізінен, AI адам миының күрделі қызметін модельдейтін компьютерлер үшін барған сайын күрделі бағдарламаларды құрастыруда көрінетін символдық тәсілдің синониміне айналды.

Қолданылған әдебиеттер
1.Бонгард, М. М. Проблема узнавания. — М.: Наука, 1967. — 320 с.

2.Брюхомицкий, Ю. А. Нейросетевые модели для систем информационной безопасности: Учебное пособие. — Таганрог: Изд-во ТРТУ, 2005. — 160 с.

3.Мак-Каллок, У. С., Питтс, В. Логическое исчисление идей, относящихся к нервной активности = A logical calculus of the ideas immanent in nervous activity // Автоматы : Сб.. — М., 1956. — С. 363—384.

4.Минский, М., Пейперт, С. Персептроны = Perceptrons. — М.: Мир, 1971. — 261 с.

5.Розенблатт, Ф. Принципы нейродинамики: Перцептроны и теория механизмов мозга = Principles of Neurodynamic: Perceptrons and the Theory of Brain Mechanisms. — М.: Мир, 1965. — 480 с.

6.Уоссермен, Ф. Нейрокомпьютерная техника: Теория и практика = Neural Computing. Theory and Practice. — М.: Мир, 1992. — 240 с. — ISBN 5-03-002115-9.

7.Хайкин, С. Нейронные сети: Полный курс = Neural Networks: A Comprehensive Foundation. — 2-е изд. — М.: «Вильямс», 2006. — 1104 с.

8.Яковлев С. С. Система распознавания движущихся объектов на базе искусственных нейронных сетей // ИТК НАНБ. — Минск, 2004. — С. 230—234.