08.11.2018

Haykin Simon мэдрэлийн сүлжээ бүрэн курс татаж авах. Саймон Хэйкиний "Мэдрэлийн сүлжээ: Бүрэн курс" номын үсгийн алдаа


С.Хайкины шинэхэн орчуулсан суурь сурах бичиг (Америкийн 1999 оны хоёр дахь хэвлэлийг орчуулсан) нь нейроинформатикийн талаархи Оросын уран зохиолд 2006 оны үйл явдал болсон гэж нэлээд нотолсон. Гэхдээ орчуулга нь тодорхой алдаагүйгээр хийгдсэн боловч орчуулагчдын зүүлт тайлбар, тайлбар нь нэр томъёог тодруулахад хор хөнөөл учруулахгүй гэдгийг тэмдэглэх нь зүйтэй (учир нь нейроинформатик, статистик, системийг тодорхойлоход ижил зүйлийг өөр өөр үгээр нэрлэж болно. Нэр томьёог нэг талбар болгон багасгах, эсвэл ижил утгатай үгсийн жагсаалтыг өгөх шаардлагатай - бүх уншигчид өргөн хүрээний үзэл бодолтой байдаггүй). Сэтгэгдэл нь мөн англи хэл дээрх эх хувилбарыг хэвлэснээс хойш хиймэл мэдрэлийн сүлжээний салбарт гарсан ахиц дэвшлийг тусгаж болно. Ном эрэлттэй байж, дахин хэвлэгдэн гарахад өөрчлөлт оруулах байх гэж найдаж байна. Түүгээр ч барахгүй математикийн томъёонд маш олон тооны үсгийн алдаа байдаг. Энэ хуудас нь голчлон үсгийн алдаа засахад зориулагдсан болно. Гэхдээ энд өгөгдсөн алдааны жагсаалтыг би бүрэн баталгаажуулахгүй гэдгийг тэмдэглэх нь зүйтэй - би номыг "диагональ" байдлаар уншсан. янз бүрийн түвшиндАнхаар, тиймээс би ямар нэг зүйлийг алдсан байж магадгүй (эсвэл өөрөө алдаа гаргасан).

1-р бүлэг

  • P.32 хоёр дахь догол мөр. Зөвхөн энд "гүйцэтгэл" гэдэг үгийг үйлдлийн хурд, компьютерийн хүч гэж ойлгож болно. Номын сүүлд "гүйцэтгэл" гэдэг нь мэдрэлийн сүлжээний ажлын нарийвчлал, чанарыг илэрхийлнэ (жишээлбэл, доод талаас хоёр дахь догол мөрний 73-р хуудас).
  • P.35 p.7. "VLSI Implementability" гэдэг нь "өргөжүүлэх чадвар" гэж бус харин "VLSI дээр үр дүнтэй хэрэгжих чадвар - маш том хэмжээний нэгдсэн хэлхээ" гэж орчуулагдсан нь дээр.
  • P.39 p.7. Орос хэл дээрх мэдрэл судлалын "баяжуулалт, импульс" гэдэг үгийг ихэвчлэн "баяжуулалт" гэж шууд орчуулдаг.
  • P.49 догол мөрийн гарчиг. Магадгүй "чиглүүлсэн график" гэхээсээ илүү "чиглүүлсэн график" байх болно.
  • P.76 гурав дахь догол мөр. Холбоосны оронд Эшбигийн номын холбоос байх ёстой.
  • P.99 дүгнэлт 1. Мөн эдгээр ижил нөхцлүүдийг нэгэн зэрэг хангасан тохиолдлыг "" тэмдгээр нэмэх шаардлагатай.
  • P.105 догол мөр 2. Та (харагдах) өмнө "харагдах" гэсэн үгийг оруулах хэрэгтэй.

2-р бүлэг

  • Х.94 зүүлт тайлбар 2. Лавлагаа нь буруу байх магадлалтай, учир нь Энэ бол ном биш бөгөөд гарчиг нь үнэхээр тохирохгүй байна.
  • P.122 сүүлийн догол мөр. Би "нейроны бүтцийн хэв гажилт" гэсэн хэллэгийг хараад инээв: тархины доргилтын гадаад үйл явдал хангагдах хүртэл хүн энэ үйл явдлыг санахгүй байх болно. Санах ой нь зөвхөн дендритын тэмтрүүлээс синаптик оролтыг (терминалуудыг) салгах эсвэл нэг тэмтрүүлээс нөгөөд шилжих замаар л хэрэгждэг гэж маргаж байсан (40-р хуудасны 1.2-р зураг дээрх нэр томъёо, учир нь энэ зураг дүрслэхэд тохиромжтой). . Тэдгээр. Бидний тархи амьд, хөдөлж байна.
  • P.129 томъёо (2.39). Оронд нь Xбайх ёстой X.
  • P.129 томъёо (2.40), (2.41), (2.44). Дээд үсэг нь байх ёстой qоронд нь м.
  • P.137 эхний догол мөр ба томъёо (2.61). E нь налуу үсгээр байх ёстой. Мөн 138-р хуудасны (2.64), (2.65), (2.67), (2.68) томъёонд.
  • P.142 томъёо (142). Эхний сумны дараа 0 нэмнэ.
  • P.142 сүүлийн догол мөр. Өмнө нь сүүлчийн үг"хасах" хэсгийг оруулна уу.
  • P.147 эхний догол мөр. | Л|=л. Тэдгээр. хувьсагч лилэрхийллийн баруун талд налуугаар өгөгдсөн байх ёстой (номын хувилбар нь үүнийг нэгтэй андуурсан тул).
  • P.151 томъёо (2.90). Буржгар хаалтны дараа дээд мөрөнд оруулна Ф.
  • C.151 томъёо (2.91). Өмнө нь "at" гэж оруулна уу Н.
  • С.160 зүүлт тайлбар дахь сүүлийн догол мөр. "бага хэмжээний" гэснийг "их хэмжээний" гэж солих хэрэгтэй.

3-р бүлэг

  • Х.173 Зураг 3.1. Хувьсагчийг номонд ашигласан тэмдэглэгээний дагуу налуу үсгээр бичнэ, учир нь Эдгээр хувьсагч нь скаляр байна.
  • P.176 томъёо (3.5), (3.7). Байх ёстой w* оронд w* .
  • C.176 сүүлчийн мөр. Магадгүй та лавлах хэрэгтэй, гэхдээ энэ асуудлыг мөн заасан асуудалд авч үзэх боломжтой.
  • P.179 зүүлт тайлбар. "w-ийн хувьд f(w)-ийн дериватив" байх ёстой
  • P.180 зүүлт тайлбарын өмнөх сүүлийн мөр. Оронд нь авсан нь дээр байж болох ч холбоос буруу байж магадгүй.
  • P.184 (3.30) томъёоны дээд мөрөнд завсрын илэрхийлэл. Оронд нь x(n) байх ёстой x(би)
  • P.200 томьёоны дараа догол мөр (3.59). "Гуччи-Шварцын тэгш бус байдал"-ыг инээв. Их сургуулийн хичээлээс хүн бүр мэддэг Коши-Шварцын тэгш бус байдал байх ёстой.
  • P.204 3.10-р хэсгийн эхний догол мөр нь Байес ангилагчийг Гауссын орчинд шугаман тусгаарлагч болгон хувиргах тухай юм. Энэ нь хоёр ангиллын ковариацын матрицууд ижил байх нөхцөлийг хэлж байгаа юм (207-р хуудасны хэсэгт танилцуулах болно), гэхдээ би "Гаусын орчин" гэсэн хэллэгийг сонсохдоо дурын ковариацтай хоёр хэвийн тархалтын ерөнхий нөхцөл байдлыг ихэвчлэн санаж байна. Матрицууд нь Бэйс нь шугаман тусгаарлагч болж доройтохгүй, харин квадрат хуваах гадаргууг өгдөг.
  • P.206 томъёо (3.77). Дараа нь томьёонд заасан λ-ийн оронд Λ нь текст болон 3.10-р зурагт хэд хэдэн удаа хэвлэгдэх болно.
  • Х.216 даалгавар 3.11. Дүнгийн дээд хязгаарт өгөгдсөн зүйлийг нийлбэрийн тэмдгийн доор шилжүүлэх ёстой (мөн хасахыг нийлбэрийн урд байрлуулж болно). Мөн энэ томъёоны дараа догол мөрөнд, оронд нь wТ xбайх ёстой wТ x

4-р бүлэг

Бүлгийн талаархи миний тайлбар: хар дарсан зүүд, мэдрэлийн сүлжээ, оновчлолын аргын талаар анхлан суралцагч, энэ бүлгийг олон удаа уншиж, давтан туршилт хийсний дараа ч (зориудаар эсвэл санамсаргүй байдлаар) мэдрэлийн сүлжээний сургалтыг буцааж тархалтыг ашиглан зөв програмчлах магадлал багатай юм. арга. By ядаж, зөвхөн аймгийн техникийн их сургуулийн оюутнуудыг авч үзэхэд би энэ талаар нэлээд өндөр бооцоотой маргахад бэлэн байна. Танилцуулга нь шаардлагатай болон шаардлагагүй зүйлийг хоёуланг нь хольж, илтгэлийг онцлон, хэт төвөгтэй болгохгүйгээр (алхам алхмаар нэмэхийн оронд "бүгд эсвэл юу ч биш" гэсэн хандлагыг баримталсан). Дээрээс нь маш олон эмпирик. Нарийн төвөгтэй функцийн градиентийг тооцоолох аргачлалыг (мэдрэлийн сүлжээ, түүний гаралт дээр, шаардлагатай бол мэдрэлийн сүлжээний шинж чанарууд дээр нэмээд объектив функц) яагаад зүгээр л тоймлож болохгүй гэж, 6-р бүлгийн адилаар уншигчдыг градиент руу чиглүүлээрэй. Оновчлолын аргуудыг хязгаарлалтгүйгээр (6-р бүлэгт квадрат програмчлалын аргууд руу чиглүүлнэ) мөн градиент оновчлолын онолын үүднээс сүлжээгээр тооцоолсон градиент ашиглах зөв, буруу хандлагын хэд хэдэн түүхэн жишээг тоймлон харуулав. (суралцах түвшин).

Та бүлгээс (эсвэл номноос) ямар нэмэлт зүйлийг хармаар байна. Нэгдүгээрт, хамгийн бага квадратаас бусад зорилгын функцууд, ялангуяа ангилагчийн сүлжээг сургахад зориулагдсан (жишээлбэл, кросс энтропи функц). Хоёрдугаарт, хэд хэдэн нэр томъёоноос бүрдсэн зорилгын функцтэй байх боломжийг илүү тодорхой онцлон тэмдэглэв: алдааны утгаас гадна сүлжээний гаралтын дохионы скаляр квадрат градиентийг тодорхой багасгах замаар Тихоновын дагуу тогтмолжуулсан жишээг ашиглан. синапс жинг (LeCun, Drucker 1991-92 нарын хамтарсан ажил) эсвэл Хохрейтер ба Шмидхубер нарын Flat minina хайлтын аргын жишээг ашиглан эсвэл Андреас Вайгенд нар сүлжээний оролтын дохиог цэвэрлэх Clearning аргын жишээг ашиглан. Гуравдугаарт, сүлжээн дэх хоёр дахь деривативыг тооцоолох боломжийн талаар илүү нарийвчилсан тайлбар (LeCun, Drucker нарын хийсэн бүтээлүүд, тоймд жагсаасан аргууд). Дөрөвдүгээрт, мэдээллийн агуулгыг тооцоолох аргуудын илүү нарийвчилсан тайлбар - сүлжээн дэх янз бүрийн элемент, дохионы ашиг тус (жишээ нь: оролтын мэдээллийн агуулгыг тодорхойлох, номонд дурдсан аргуудыг ашиглан зөвхөн синапсыг багасгах боломж, гэхдээ бас багасгах боломж). мэдрэлийн эсүүд бүхэлдээ, мөн синапсыг багасгах бусад аргууд олон байдаг). Тавдугаарт, сүлжээний оролтын дохиог ашиглан градиентийг тооцоолох чадвартай (шийдвэрлэх) тухай тодорхой заалт байдаг (уншигч үүнийг өөрөө ойлгохгүй). урвуу асуудлууд Clearning аргыг танилцуулахын тулд шууд асуудлыг шийдвэрлэхэд сургагдсан мэдрэлийн сүлжээнд). Нэмж дурдахад энэ болон бусад бүлгүүдэд хяналттай суралцах даалгавар гарч ирдэг мэдрэлийн сүлжээнүүдийн сургалтын муруйг илүү нарийвчлан тайлбарлана уу.

5-р бүлэг

  • (5.23) томъёоны дараа P.357. Цаашид хэд хэдэн хуудсан дээр Эналуу эсвэл тод үсгээр өгөгдсөн байж болох бөгөөд бичгийн хэлбэрийг өөрчлөх нь маш санамсаргүй үйлдэл юм. Илүү зөв - налуу үсгээр, for E(F), E s(F), E c (F), E(F,h).
  • P.361 томъёо (5.31). Зээлийн оронд Хбайх ёстой Х .
  • P.363 сүүлийн догол мөр. "...шугаман давхцалаар..."-ын оронд "...шугаман хослолоор...".
  • P.364 томъёо (5.43). 1/λ-ийг хас.
  • P.367 томъёо (5.59). δ-ийн оронд σ.
  • (5.65) томъёоны дараа P.369. Дахиад л байх ёстой" шугаман хослол"шугаман суперпозиция" -ын оронд.
  • P.373 томъёоны гурав дахь мөр (5.74). Хоёр дахь хашилтын өмнө нээх хаалт оруулна т би .
  • P.382 томъёо (5.112). Хэмжээний доод хязгаарт “тэнцэхгүй к".
  • P.390 5.12 хэсгийн гарчиг. Орос хэлний шинжлэх ухаанд "цөмийн регресс" гэхийн оронд "параметрийн бус регресс" (статистикийн энэ аргыг оросоор ингэж нэрлэдэг) эсвэл "цөмийн регресс" (хэрэв "толгой" гэж орчуулсан бол) гэсэн нэр томъёог ихэвчлэн ашигладаг.
  • P.393 томъёо (5.135). Дараагийн хуудсанд (5.139)-ын дагуу “...for all...” гэж оруулна.
  • P.399 "дунд" догол мөр. "... кластер хийх алгоритмаар к-дундаж...”, тэгвэл “дундаж” гэдэг үгийг алгасахаа болино.
  • P.403 дугааргүй жагсаалт. Зохиогчид дийлэнх нь санал нийлж байгаа хэдий ч нэг туршилтаас хэт олон нийтийг хамарсан, хоёрдмол утгагүй дүгнэлт гаргадаг.
  • P.404 нь жагсаалтын эхний зүйл юм. Ялангуяа "оролтын параметрүүдэд үзүүлэх нөлөө"-ийн талаар би ойлгохгүй байна. гэхээсээ илүү илүү үнэ цэнэλ, загварын эцсийн шинж чанарт ерөнхийдөө өгөгдлийн нөлөө бага байх болно.
  • P.408 эхний догол мөр. Холбоос нь эргэлзээтэй байна, магадгүй энэ нь ажиллах болно.
  • P.408 2 дахь хэсгийн 6-р мөрөнд "үндсэн функц" гэсний оронд "үндсэн функц".

6-р бүлэг

  • P.431 6.4-ийн өмнөх сүүлчийн өгүүлбэр. Би санал болгож буй сонголтын түүврийн дунджаас "сайн" гэдгийг ойлгосонгүй (мөн зөвийг нь авсан юм шиг байна) b 0боломжгүй болно).
  • P.434 томъёо (6.35). Индекс бисүүлийн ганц xбайх ёсгүй.
  • P.435 Мерсерийн теорем дахь дугаарлагдаагүй томьёо. ψ-ийн оронд φ байх ёстой.
  • P.444 зүүлт тайлбар. Хубер овог нь өмнө нь Хабер биш, харин Орос хэл рүү орчуулагдсан байдаг (жишээ нь ЗХУ-ын үед түүний номын орчуулга: Хубер, "Статистикийн бат бөх байдал").

7-р бүлэг (бүрэн биш)

  • P.459 дээд талаас гурав дахь мөр. "Сул сурах алгоритм" гэсэн нэр томъёоны тодорхойлолтыг дээд талаас хоёр дахь догол мөрөнд 467-р хуудсанд өгсөн болно.
  • P.459 дугаар 2-т дугааргүй дэд зүйл. "Хаалганы сүлжээ" гэсэн нэр томъёоны орчуулга болох "гарц сүлжээ" гэдэг нь хэтэрхий болхи боловч орос хэл дээр өөр (болон сайн) хувилбар одоогоор алга байна. Хатуу сэлгэн залгах (хяналттай дохионы хувьд 0 эсвэл 1-ийн үржүүлэгч) болон сулралтын коэффициентийг зөөлөн хянах (мужаас үржүүлэгч) хоёуланд нь түгээмэл байдаг "жингийн сүлжээ" гэсэн нэр томъёог ашиглах нь дээр байх.
  • P.463 p.2. Бид энэ өгүүлбэрээс "биш" хэсгийг хасдаг - чуулгын тархалт нь бие даасан функцүүдийн тархалтаас бага юм.
  • P.471 эхний мөрүүд. Анхны олшруулалтын аргын “Гүйцэтгэл” (энд “гүйцэтгэл” гэдэг нь хурд гэсэн утгаар биш харин шийдэл, ерөнхий ойлголтын нарийвчлал гэсэн утгаараа ойлгогдож байгааг бид танд сануулж байна - бидний тайлбарыг 32-р хуудаснаас үзнэ үү) мөн адил хуваарилалтаас хамаарна. хоёр дахь болон дараагийн мэргэжилтнүүдэд зориулсан үйл ажиллагааны явцад бий болсон.
  • P.472 хүснэгт 7.2 сүүлчийн мөр. Байх ёстой Фсэрвээ ( x)=…

Ном зүй

  • Хэрэглээ, ойролцоо, арга, хэрэглэгдэх, дэмжлэг, зураглал, хэрэглэх боломж, дээд гэсэн үгсийг нэгээр бичих нь олонтаа. х.
  • . Зөв бичихЗохиогчдын аль нэгнийх нь нэрийг эндээс харж болно.
  • . Мюллерийн зөв овог нь түүний овогтой ижил байна.
  • . Анхны зохиолч - Б у ntine.
  • . -тай ижил NIPS-д гарсан.
  • . Зохиогчдын сүүлчийнх нь зөв нэрлэгдсэн байна.
  • . Бид долоо хоногийн оронд сул дорой байх хэрэгтэй.
  • . Сүүлийн зохиогчийн нэрийг зөв бичсэн байна.
  • . Эхнийх нь Ланда у.
  • . Энэ бол номын нэг бүлэг юм.
  • . Sch ö lkopf.
  • . Гарчиг дээр - “…bia снэр томъёо". Давхардсан тоогоор зөв бичсэн байна.
  • . Гарчиг дээр - "...гамм дээр".
  • . Давт.


Бид хамгийн их тайлбарласан энгийн шинж чанаруудалбан ёсны мэдрэлийн эсүүд. Босго нэмэгч нь нэг баяжуулалтын шинж чанарыг илүү нарийвчлалтай гаргаж өгдөг бөгөөд шугаман нэмэгч нь хэд хэдэн импульсээс бүрдэх нейроны хариу үйлдлийг дуурайлган хийх боломжийг олгодог тухай бид ярилцсан. Шугаман нэмэгчийн гаралтын утгыг жинхэнэ нейроны цочролын давтамжтай харьцуулж болохыг тэд харуулсан. Одоо бид ийм албан ёсны нейронуудын үндсэн шинж чанаруудыг авч үзэх болно.

Hebb шүүлтүүр

Дараах зүйлд бид ихэвчлэн мэдрэлийн сүлжээний загваруудыг дурдах болно. Зарчмын хувьд мэдрэлийн сүлжээний онолын бараг бүх үндсэн ойлголтууд нь жинхэнэ тархины бүтэцтэй шууд холбоотой байдаг. Тодорхой асуудалтай тулгарсан хүн мэдрэлийн сүлжээний олон сонирхолтой загваруудыг гаргаж ирэв. Хувьсал нь мэдрэлийн бүх боломжит механизмуудыг дамжуулж, түүнд хэрэгтэй гэж үзсэн бүх зүйлийг сонгосон. Хүний зохион бүтээсэн олон загваруудын хувьд биологийн тодорхой прототипүүд олддог нь гайхах зүйл биш юм. Бидний өгүүлэл мэдрэлийн сүлжээний онолыг нарийвчлан харуулахыг зорьдоггүй тул бид зөвхөн хамгийн их зүйлийг хөндөх болно. ерөнхий цэгүүдгол санааг тайлбарлах шаардлагатай. Илүү гүнзгий ойлгохын тулд би тусгай уран зохиол руу хандахыг зөвлөж байна. Миний хувьд мэдрэлийн сүлжээний шилдэг сурах бичиг бол Саймон Хайкины “Мэдрэлийн сүлжээ. Бүрэн курс" (Хайкин, 2006).

Мэдрэлийн сүлжээний олон загварууд нь сайн мэддэг Хеббийн сургалтын дүрэмд суурилдаг. Үүнийг 1949 онд физиологич Дональд Хебб санал болгосон (Хебб, 1949). Бага зэрэг сул тайлбараар бол энэ нь маш энгийн утгатай: хамтдаа шатдаг мэдрэлийн эсүүдийн хоорондын холбоо бэхжиж, бие даан галладаг мэдрэлийн эсүүдийн хоорондын холбоо сулрах ёстой.
Шугаман нэмэгчийн гаралтын төлөвийг дараах байдлаар бичиж болно.

Хэрэв бид жингийн анхны утгыг жижиг утгуудаар эхлүүлж, янз бүрийн зургийг оруулга болгон оруулбал энэ нейроныг Хеббийн дүрмийн дагуу сургахад юу ч саад болохгүй.

Хаана n– салангид хугацааны алхам, – суралцах хурдны параметр.

Энэхүү процедурын тусламжтайгаар бид дохио өгч буй оролтын жинг нэмэгдүүлдэг, гэхдээ бид үүнийг илүү хүчтэй хийх тусам сургалтын нейроны өөрөө илүү идэвхтэй байдаг. Хэрэв ямар нэгэн хариу үйлдэл үзүүлэхгүй бол суралцах чадваргүй болно.

Үнэн бол ийм жин хязгааргүй өсөх тул тогтворжуулахын тулд хэвийн болгох боломжтой. Жишээлбэл, "шинэ" синаптик жингээс олж авсан векторын уртаар хуваана.

Ийм сургамжтай бол жинг синапсуудын хооронд дахин хуваарилдаг. Хэрэв та жингийн өөрчлөлтийг хоёр үе шаттайгаар хянаж байвал дахин хуваарилалтын мөн чанарыг ойлгоход хялбар болно. Нэгдүгээрт, нейрон идэвхтэй байх үед дохио хүлээн авдаг синапсууд нэмэлт тэжээл хүлээн авдаг. Дохиогүй синапсуудын жин өөрчлөгдөөгүй хэвээр байна. Дараа нь ерөнхий хэвийн байдал нь бүх синапсуудын жинг бууруулдаг. Гэхдээ үүнтэй зэрэгцэн дохиогүй синапсууд өмнөх утгатай харьцуулахад алдаж, дохио бүхий синапсууд эдгээр алдагдлыг өөр хоорондоо дахин хуваарилдаг.

Хеббийн дүрэм нь алдааны гадаргуугийн дагуу градиент буурах аргын хэрэгжилтээс өөр зүйл биш юм. Үндсэндээ бид нейроныг нийлүүлсэн дохионд дасан зохицохыг албадаж, жингээ алдааны эсрэг чиглэлд, өөрөөр хэлбэл антиградиентийн чиглэлд шилжүүлдэг. Градиент уруул нь биднийг хэтрүүлэхгүйгээр орон нутгийн экстремум руу хүргэхийн тулд буух хурд нь нэлээд бага байх ёстой. Хеббийн сургалтанд параметрийн жижиг байдлыг харгалзан үздэг.

Сурах хурдны параметрийн жижиг байдал нь өмнөх томьёог дараах байдлаар цуврал болгон дахин бичих боломжийг бидэнд олгодог.

Хэрэв бид хоёр дахь ба түүнээс дээш зэрэглэлийн нэр томъёог хасвал Ожагийн сурах дүрмийг авна (Oja, 1982):

Эерэг нэмэлт нь Hebbian сурах, сөрөг нэмэлт нь ерөнхий тогтвортой байдлыг хариуцдаг. Энэ хэлбэрээр бичлэг хийх нь ийм сургалтыг тооцоололгүйгээр, зөвхөн эерэг ба сөрөг холболтоор ажилладаг аналог орчинд хэрхэн хэрэгжүүлж болохыг мэдрэх боломжийг олгодог.

Тиймээс ийм маш энгийн сургалт нь гайхалтай шинж чанартай байдаг. Хэрэв бид суралцах хурдыг аажмаар бууруулбал сургагдсан нейроны синапсуудын жин нь ийм утгатай нийлж, түүний гаралт нь эхний үндсэн бүрэлдэхүүн хэсэгтэй тохирч эхлэх бөгөөд хэрэв бид үндсэн бүрэлдэхүүн хэсгүүдийн шинжилгээний зохих процедурыг хэрэглэвэл олж авах болно. нийлүүлсэн өгөгдөл. Энэ загварыг Hebb шүүлтүүр гэж нэрлэдэг.

Жишээлбэл, пикселийн дүрсийг нейроны оролтод оруулъя, өөрөөр хэлбэл мэдрэлийн эсийн синапс бүрт нэг дүрсний цэгийг холбоно. Бид нейроны оролтод зөвхөн хоёр дүрсийг өгөх болно - төвийг дайран өнгөрөх босоо болон хэвтээ шугамын зургууд. Нэг сурах алхам - нэг зураг, нэг шугам, хэвтээ эсвэл босоо. Хэрэв эдгээр зургуудыг дунджаар тооцвол та загалмай авна. Гэхдээ сургалтын үр дүн дундажтай адилгүй байх болно. Энэ нь шугамуудын нэг байх болно. Илгээсэн зургуудад илүү олон удаа гарч ирэх нэг. Нейрон нь дундаж буюу огтлолцлыг онцлохгүй, гэхдээ ихэвчлэн хамт тохиолддог цэгүүдийг онцлон тэмдэглэнэ. Хэрэв зургууд илүү төвөгтэй байвал үр дүн нь тийм ч тодорхой биш байж магадгүй юм. Гэхдээ энэ нь үргэлж гол бүрэлдэхүүн хэсэг байх болно.

Нейроныг сургах нь тодорхой дүрсийг түүний масштаб дээр тодруулж (шүүлтэд) хүргэдэг. Шинэ дохио өгөх үед дохио болон жингийн тохиргооны хооронд илүү нарийвчлалтай таарах тусам нейроны хариу үйлдэл өндөр болно. Сургалтанд хамрагдсан нейроныг илрүүлэгч нейрон гэж нэрлэж болно. Энэ тохиолдолд масштабаар дүрсэлсэн дүрсийг ихэвчлэн шинж чанарын өдөөлт гэж нэрлэдэг.

Үндсэн бүрэлдэхүүн хэсгүүд

Үндсэн бүрэлдэхүүн хэсгийн аргын санаа нь энгийн бөгөөд ухаалаг юм. Бид үйл явдлын дараалалтай гэж бодъё. Бид тэдгээр тус бүрийг бидний ертөнцийг хүлээн авч буй мэдрэгчүүдэд үзүүлэх нөлөөгөөр нь тодорхойлдог. Бидэнд онцлог шинж чанарыг тодорхойлдог мэдрэгчүүд байгаа гэж бодъё. Бидний хувьд бүх үйл явдлыг хэмжээсийн вектороор дүрсэлсэн болно. Ийм векторын бүрэлдэхүүн хэсэг бүр нь харгалзах th шинж чанарын утгыг илэрхийлнэ. Тэд хамтдаа санамсаргүй хэмжигдэхүүнийг үүсгэдэг X . Бид эдгээр үйл явдлуудыг хэмжээст орон зайн цэгүүд болгон дүрсэлж болох бөгөөд тэнхлэгүүд нь бидний ажиглаж буй тэмдгүүд байх болно.

Дундаж утгууд нь санамсаргүй хэмжигдэхүүний математикийн хүлээлтийг өгдөг X, E гэж тэмдэглэсэн X). Хэрэв бид өгөгдлийг төвлөрүүлэх юм бол E( X)=0, тэгвэл цэгүүдийн үүл эхийн эргэн тойронд төвлөрнө.

Энэ үүл аль ч чиглэлд уртассан байж болно. Бүх зүйлийг туршиж үзсэн боломжит чиглэлүүд, бид өгөгдлийн тархалт хамгийн их байх нэгийг олж чадна.

Тиймээс энэ чиглэл нь эхний үндсэн бүрэлдэхүүн хэсэгтэй тохирч байна. Үндсэн бүрэлдэхүүн хэсэг нь өөрөө гарал үүслээс гарч буй нэгж вектороор тодорхойлогддог бөгөөд энэ чиглэлтэй давхцдаг.

Дараа нь бид эхний бүрэлдэхүүн хэсэгтэй перпендикуляр өөр чиглэлийг олох боломжтой бөгөөд үүний дагуу тархалт нь бүх перпендикуляр чиглэлүүдийн дунд хамгийн их байх болно. Үүнийг олсны дараа бид хоёр дахь бүрэлдэхүүн хэсгийг авна. Дараа нь бид хайлтыг үргэлжлүүлж, аль хэдийн олдсон бүрэлдэхүүн хэсгүүдийн перпендикуляр чиглэлүүдийн дунд хайх ёстой гэсэн нөхцөлийг тавьж болно. Хэрэв анхны координатууд нь шугаман бие даасан байсан бол орон зайн хэмжээ дуусах хүртэл бид үүнийг нэг удаа хийж болно. Тиймээс бид харилцан ортогональ бүрэлдэхүүн хэсгүүдийг олж авах бөгөөд тэдгээрийн тайлбарлаж буй өгөгдлийн дисперсийн хэдэн хувиар эрэмбэлэгдэх болно.

Мэдээжийн хэрэг, үндсэн бүрэлдэхүүн хэсгүүд нь бидний өгөгдлийн дотоод хэв маягийг тусгасан байдаг. Гэхдээ одоо байгаа хэв маягийн мөн чанарыг тодорхойлдог илүү энгийн шинж чанарууд байдаг.

Бидэнд нийт n үйл явдал байна гэж бодъё. Үйл явдал бүрийг вектороор дүрсэлсэн байдаг. Энэ векторын бүрэлдэхүүн хэсгүүд:

Тэмдэг тус бүрийн хувьд та үйл явдал бүрт хэрхэн илэрч байсныг бичиж болно.

Тодорхойлолт дээр үндэслэсэн аливаа хоёр шинж чанарын хувьд тэдгээрийн хамтарсан илрэлийн зэргийг харуулсан утгыг тооцоолох боломжтой. Энэ хэмжигдэхүүнийг ковариац гэж нэрлэдэг:

Энэ нь нэг шинж чанарын дундаж утгын хазайлт нь өөр шинж чанарын ижил төстэй хазайлттай хэрхэн давхцаж байгааг харуулж байна. Хэрэв шинж чанаруудын дундаж утгууд тэгтэй тэнцүү бол ковариац нь дараах хэлбэртэй байна.

Хэрэв бид шинж чанарт хамаарах стандарт хазайлтын ковариацийг засвал бид Пирсон корреляцийн коэффициент гэж нэрлэгддэг шугаман корреляцийн коэффициентийг олж авна.

Корреляцийн коэффициент нь гайхалтай шинж чанартай байдаг. Энэ нь -1-ээс 1 хүртэлх утгыг авна. Түүнээс гадна 1 нь хоёр хэмжигдэхүүний шууд пропорциональ, -1 нь тэдгээрийн урвуу шугаман хамаарлыг илэрхийлнэ.

Онцлогуудын бүх хос ковариацуудаас бид ковариацын матрицыг үүсгэж болох бөгөөд энэ нь таны харж байгаагаар бүтээгдэхүүний математик хүлээлт юм.

Тиймээс үндсэн бүрэлдэхүүн хэсгүүдийн хувьд дараах зүйл үнэн болох нь харагдаж байна.

Өөрөөр хэлбэл, үндсэн бүрэлдэхүүн хэсгүүд буюу тэдгээрийг бас нэрлэдэг хүчин зүйлүүд нь корреляцийн матрицын хувийн векторууд юм. Тэд хувийн утгатай тохирч байна. Үүний зэрэгцээ, илүү их хувийн утга, энэ хүчин зүйлээр тайлбарласан дисперсийн хувь хэмжээ их байх болно.

Бодит байдал болох үйл явдал бүрийн хувьд бүх үндсэн бүрэлдэхүүн хэсгүүдийг мэддэг X , бид түүний төсөөллийг үндсэн бүрэлдэхүүн хэсгүүдэд бичиж болно:

Тиймээс, бүх анхны үйл явдлыг шинэ координатууд, үндсэн бүрэлдэхүүн хэсгүүдийн координатуудаар төлөөлөх боломжтой.

Ерөнхийдөө үндсэн бүрэлдэхүүн хэсгүүдийг хайх журам, хүчин зүйлээс үндэслэл олох журам, түүний дараачийн эргэлтийг хооронд нь ялгаж үздэг бөгөөд энэ нь хүчин зүйлсийг тайлбарлахад хялбар байдаг боловч эдгээр процедур нь үзэл суртлын хувьд ойрхон бөгөөд ижил төстэй үр дүнг өгдөг тул бид. хоёуланг нь хүчин зүйлийн шинжилгээ гэж нэрлэх болно.

Хүчин зүйлийн шинжилгээний нэлээд энгийн процедурын цаана маш гүн гүнзгий утга агуулагддаг. Баримт нь хэрэв анхны шинж чанаруудын орон зай нь ажиглагдах орон зай юм бол хүчин зүйлүүд нь хүрээлэн буй ертөнцийн шинж чанарыг тодорхойлдог боловч ерөнхий тохиолдолд (хэрэв тэдгээр нь ажиглагдсан шинж чанаруудтай давхцахгүй бол) далд биетүүд юм. Өөрөөр хэлбэл, хүчин зүйлийн шинжилгээний албан ёсны журам нь ажиглагдаж болох үзэгдлээс шууд үл үзэгдэх боловч хүрээлэн буй ертөнцөд байгаа үзэгдлийг илрүүлэхэд шилжих боломжийг олгодог.

Бидний тархи бидний эргэн тойрон дахь ертөнцийг ойлгох процедурын нэг болох хүчин зүйлийг сонгохдоо идэвхтэй ашигладаг гэж үзэж болно. Хүчин зүйлсийг тодорхойлсноор бид өөрт тохиолдож буй зүйлийн талаар шинэ тайлбар хийх боломжийг олж авдаг. Эдгээр шинэ тайлбаруудын үндэс нь тодорхойлсон хүчин зүйлд нийцсэн үзэгдлүүдийн юу болж байгааг илэрхийлэх явдал юм.

Өдөр тутмын түвшинд хүчин зүйлсийн мөн чанарыг бага зэрэг тайлбарлая. Таныг хүний ​​нөөцийн менежер гэж бодъё. Олон хүмүүс тан дээр ирдэг бөгөөд тэд тус бүрдээ та тодорхой маягт бөглөж, зочны талаархи янз бүрийн ажиглалтын мэдээллийг бүртгэдэг. Тэмдэглэлээ дараа нь хянасны дараа зарим графикууд тодорхой харилцаатай байгааг олж мэдэх болно. Жишээлбэл, эрэгтэй хүний ​​үсний засалт эмэгтэйчүүдийнхээс дунджаар богино байх болно. Та халзан хүмүүстэй зөвхөн эрчүүдийн дунд таарах магадлалтай бөгөөд зөвхөн эмэгтэйчүүд уруулын будаг түрхэх болно. Хэрэв хувийн мэдээлэлд хамаарах бол хүчин зүйлийн шинжилгээ, дараа нь хүйс нь хэд хэдэн хэв маягийг нэгэн зэрэг тайлбарлах хүчин зүйлүүдийн нэг байх болно. Гэхдээ хүчин зүйлийн шинжилгээ нь өгөгдлийн багц дахь хамаарлыг тайлбарлах бүх хүчин зүйлийг олох боломжийг олгодог. Энэ нь бидний ажиглаж болох жендэрийн хүчин зүйлээс гадна далд, үл ажиглагдах хүчин зүйлс зэрэг бусад хүчин зүйлүүд онцолж байна гэсэн үг. Хэрэв асуулгад жендэр нь тодорхой харагдаж байвал өөр чухал хүчин зүйлшугамын хооронд үлдэх болно. Хүмүүсийн бодлоо илэрхийлэх чадварыг үнэлж, ажил мэргэжлийн амжилтыг нь үнэлж, дипломын дүн болон үүнтэй төстэй шинж тэмдгүүдэд дүн шинжилгээ хийснээр та дараахь дүгнэлтэд хүрнэ. нийт үнэлгээасуулгад тодорхой тусгаагүй ч түүний олон зүйлийг тайлбарласан хүний ​​оюун ухаан. Тагнуулын үнэлгээ гэж юу вэ далд хүчин зүйл, тайлбарлах өндөр нөлөөтэй үндсэн бүрэлдэхүүн хэсэг. Бид энэ бүрэлдэхүүн хэсгийг тодорхой ажигладаггүй, гэхдээ үүнтэй холбоотой шинж тэмдгүүдийг тэмдэглэдэг. Амьдралын туршлагатай бол бид тодорхой шинж чанарууд дээр үндэслэн ярилцагчийнхаа оюун ухааны талаархи ойлголтыг ухамсартайгаар бий болгож чадна. Энэ тохиолдолд бидний тархи ашигладаг процедур нь үндсэндээ хүчин зүйлийн шинжилгээ юм. Тодорхой үзэгдлүүд хамтдаа хэрхэн гарч ирдгийг ажиглахдаа тархи нь албан ёсны процедурыг ашиглан бидний эргэн тойрон дахь ертөнцөд тогтсон статистикийн тогтвортой хэв маягийн тусгал болох хүчин зүйлсийг тодорхойлдог.

Хүчин зүйлийн багцыг тодорхойлох

Бид Hebb шүүлтүүр нь эхний үндсэн бүрэлдэхүүн хэсгийг хэрхэн сонгодгийг харуулсан. Мэдрэлийн сүлжээний тусламжтайгаар та зөвхөн эхний төдийгүй бусад бүх бүрэлдэхүүн хэсгүүдийг хялбархан олж авах боломжтой болж байна. Үүнийг жишээ нь дараах байдлаар хийж болно. Бидэнд оролтын функцууд байгаа гэж бодъё. Шугаман мэдрэлийн эсүүдийг авч үзье, хаана .

Хеббийн ерөнхий алгоритм(Хайкин, 2006)

Бид эхний нейроныг Хебб шүүлтүүр болгон сургаж, эхний үндсэн бүрэлдэхүүн хэсгийг сонгох болно. Гэхдээ бид дараагийн нейрон бүрийг дохиогоор сургах бөгөөд үүнээс өмнөх бүх бүрэлдэхүүн хэсгүүдийн нөлөөллийг үгүйсгэх болно.
Нэг алхамын үед мэдрэлийн эсийн үйл ажиллагаа nгэж тодорхойлсон

Мөн синоптик жингийн залруулга нь иймэрхүү байна

1-ээс , 1-ээс .

Бүх нейронуудын хувьд энэ нь Hebb шүүлтүүртэй адил төстэй юм шиг харагдаж байна. Цорын ганц ялгаа нь дараагийн нейрон бүр дохиог бүхэлд нь хардаггүй, харин өмнөх мэдрэлийн эсүүдийн "хараагүй" зүйлийг л хардаг. Энэ зарчмыг дахин үнэлгээ гэж нэрлэдэг. Бид үнэндээ хязгаарлагдмал бүрэлдэхүүн хэсгүүдээс анхны дохиог сэргээж, дараагийн мэдрэлийн эсийг зөвхөн үлдсэн хэсэг, анхны дохио болон сэргээгдсэн дохионы хоорондох ялгааг харахыг албаддаг. Энэ алгоритмыг ерөнхийлсөн Хебб алгоритм гэж нэрлэдэг.

Хеббийн ерөнхий алгоритмын хувьд тийм ч сайн биш зүйл бол энэ нь хэтэрхий "тооцооллын" шинж чанартай байдаг. Нейроныг захиалж, үйл ажиллагааг нь дарааллаар нь нарийн тооцоолох ёстой. Энэ нь тархины бор гадаргын үйл ажиллагааны зарчимд тийм ч нийцэхгүй бөгөөд нейрон бүр нь бусадтай харилцан үйлчилдэг боловч бие даасан байдлаар ажилладаг, үйл явдлын ерөнхий дарааллыг тодорхойлох тодорхой тодорхойлогдсон "төв процессор" байдаггүй. Эдгээр шалтгааны улмаас декорреляцийн алгоритм гэж нэрлэгддэг алгоритмууд арай илүү сонирхолтой харагдаж байна.

Бидэнд Z 1 ба Z 2 нейронуудын хоёр давхарга байна гэж төсөөлье. Эхний давхарга дахь нейронуудын үйл ажиллагаа нь тодорхой дүр зургийг бүрдүүлдэг бөгөөд энэ нь аксонуудын дагуу дараагийн давхарга руу чиглэгддэг.


Нэг давхаргыг нөгөө давхарга дээр гаргах

Хоёр дахь давхаргын нейрон бүр нь энэ нейроны тодорхой хөршийн хил хязгаарт багтаж байгаа бол эхний давхаргаас гарч буй бүх аксонуудтай синаптик холболттой байна гэж төсөөлөөд үз дээ (доорх зураг). Ийм бүсэд нэвтэрч буй аксонууд нь мэдрэлийн эсийн хүлээн авах талбарыг бүрдүүлдэг. Нейроны хүлээн авах талбар нь түүнд ажиглалт хийх боломжтой ерөнхий үйл ажиллагааны хэсэг юм. Бусад бүх зүйл энэ нейроны хувьд байдаггүй.

Нейроны хүлээн авах талбараас гадна бид дарангуйлах бүс гэж нэрлэх арай бага талбайг нэвтрүүлэх болно. Нейрон бүрийг энэ бүсэд хамаарах хөршүүдтэйгээ холбоно. Ийм холболтыг хажуугийн эсвэл биологид хүлээн зөвшөөрөгдсөн нэр томъёоны дагуу хажуугийн гэж нэрлэдэг. Хажуугийн холболтыг дарангуйлдаг, өөрөөр хэлбэл мэдрэлийн эсийн үйл ажиллагааг бууруулдаг. Тэдний ажлын логик нь идэвхтэй нейрон нь түүний дарангуйлах бүсэд ордог бүх мэдрэлийн эсүүдийн үйл ажиллагааг дарангуйлдаг явдал юм.

Өдөөгч ба дарангуйлагч холболтыг бүх аксон эсвэл мэдрэлийн эсүүдтэй харгалзах талбайн хил хязгаарт хатуу хуваарилж болно, эсвэл санамсаргүй байдлаар, жишээлбэл, тодорхой төвийг нягт дүүргэж, холболтын нягтралын экспоненциал бууралтаар тодорхойлж болно. түүнээс холддог. Тасралтгүй дүүргэх нь загварчлахад илүү хялбар байдаг санамсаргүй тархалт нь бодит кортекс дэх холболтын зохион байгуулалтын үүднээс илүү анатомийн шинж чанартай байдаг.

Нейроны үйл ажиллагааны функцийг дараах байдлаар бичиж болно.

Эцсийн үйл ажиллагаа хаана байна, сонгосон нейроны хүлээн авах хэсэгт унасан аксонуудын багц, сонгосон нейрон унадаг дарангуйллын бүсэд нейронуудын багц, харгалзах хажуугийн дарангуйллын хүч юм. сөрөг утгыг авдаг.

Энэ үйл ажиллагааны функц нь рекурсив юм, учир нь мэдрэлийн эсийн үйл ажиллагаа нь бие биенээсээ хамааралтай байдаг. Энэ нь практик тооцооллыг давталттайгаар гүйцэтгэхэд хүргэдэг.

Синаптик жинг сургах нь Hebb шүүлтүүртэй адил хийгддэг.

Хажуугийн жин нь Хеббийн эсрэг дүрмийн дагуу суралцаж, "ижил төстэй" нейронуудын хоорондох дарангуйллыг нэмэгдүүлдэг.

Энэхүү дизайны мөн чанар нь Хеббийн сургалт нь нийлүүлсэн өгөгдлийн эхний гол хүчин зүйлд тохирсон нейроны масштабын утгыг хуваарилахад хүргэх ёстой. Гэхдээ нейрон идэвхтэй байж л аливаа хүчин зүйлийн чиглэлд суралцах чадвартай. Нейрон нь ямар нэг хүчин зүйл ялгаруулж, үүний дагуу хариу үйлдэл үзүүлж эхлэхэд түүний дарангуйллын бүсэд орж буй мэдрэлийн эсийн үйл ажиллагааг хааж эхэлдэг. Хэрэв хэд хэдэн нейронууд идэвхжүүлэхийн тулд өрсөлддөг бол харилцан өрсөлдөөн нь бусад бүх нейроныг дарангуйлж, хамгийн хүчтэй нейрон ялахад хүргэдэг. Бусад мэдрэлийн эсүүд ойролцоох хөршүүд байхгүй үед суралцахаас өөр аргагүй байдаг. өндөр идэвхжил. Тиймээс декорреляци үүсдэг, өөрөөр хэлбэл хэмжээ нь дарангуйлах бүсийн хэмжээнээс хамаарч тодорхойлогддог талбайн доторх нейрон бүр бусад бүх хэсэгт ортогональ өөрийн хүчин зүйлийг тодруулж эхэлдэг. Энэ алгоритмыг дасан зохицох үндсэн бүрэлдэхүүн хэсгийн олборлолт (APEX) алгоритм гэж нэрлэдэг (Kung S., Diamantaras K.I., 1990).

Хажуугийн дарангуйлах санаа нь сайн мэддэг хүмүүст ойрхон байдаг янз бүрийн загварууд"Ялагч бүгдийг авна" гэсэн зарчим нь ялагчийг хайж буй бүсийг засах боломжийг олгодог. Энэ зарчмыг жишээлбэл, Фукушимагийн неокогнитрон, Коханены өөрөө зохион байгуулдаг газрын зурагт ашигладаг бөгөөд энэ зарчмыг Жефф Хоукинсийн алдартай шаталсан цаг хугацааны ой санамжийг сургахад ашигладаг.

Та ялагчийг тодорхойлох боломжтой энгийн харьцуулалтнейроны үйл ажиллагаа. Гэхдээ компьютер дээр хялбархан хэрэгжүүлдэг ийм хайлт нь жинхэнэ бор гадаргын аналогитай зарим талаараа нийцэхгүй байна. Гэхдээ хэрэв та бүх зүйлийг нейрон хоорондын харилцан үйлчлэлийн түвшинд гадны алгоритмыг оролцуулалгүйгээр хийх зорилго тавьсан бол хөршүүдийн хажуугийн дарангуйллаас гадна нейрон нь түүнийг өдөөдөг эерэг санал хүсэлттэй байвал ижил үр дүнд хүрч чадна. Ялагчийг олох энэ аргыг жишээлбэл, Гроссберг дасан зохицох резонансын сүлжээнд ашигладаг.

Хэрэв мэдрэлийн сүлжээний үзэл суртал үүнийг зөвшөөрдөг бол "ялагч бүгдийг нь авна" дүрмийг ашиглах нь маш тохиромжтой, учир нь хамгийн их үйл ажиллагааг хайх нь харилцан дарангуйллыг харгалзан үйл ажиллагааг давталттайгаар тооцоолохоос хамаагүй хялбар байдаг.

Энэ хэсгийг дуусгах цаг болжээ. Энэ нь нэлээд урт байсан ч би утгаараа холбоотой өгүүллэгийг салахыг үнэхээр хүсээгүй. KDPV-д бүү гайх, энэ зураг миний хувьд хиймэл оюун ухаан, гол хүчин зүйлтэй холбоотой байсан.

Энэ нийтлэлд хиймэл мэдрэлийн сүлжээг судлах үндсэн материалууд - ихэвчлэн орос хэл дээр байдаг.

Хиймэл мэдрэлийн сүлжээ буюу ANN - математик загвар, түүнчлэн биологийн мэдрэлийн сүлжээ - сүлжээг зохион байгуулах, ажиллуулах зарчим дээр суурилсан програм хангамж эсвэл техник хангамжийн хувилбар мэдрэлийн эсүүдамьд организм. Мэдрэлийн сүлжээний шинжлэх ухаан нэлээд удаан хугацаанд оршин тогтнож ирсэн боловч энэ нь яг үүнтэй холбоотой юм хамгийн сүүлийн үеийн ололт амжилтШинжлэх ухаан, технологийн дэвшлийг дагаад энэ салбар түгээмэл болж эхэлж байна.

Номууд

Сонголтыг дараахаас эхэлцгээе сонгодог аргасуралцах - номын тусламжтайгаар. Бид олон тооны жишээ бүхий орос хэл дээрх номуудыг сонгосон.

  • Ф.Вассерман, Нейрокомпьютерийн технологи: Онол ба практик. 1992 он
    Энэхүү ном нь нейрокомпьютер бүтээх үндсийг нийтэд хүртээмжтэй хэлбэрээр тусгасан болно. Мэдрэлийн сүлжээний бүтэц, тэдгээрийн тохиргооны янз бүрийн алгоритмуудыг тайлбарласан болно. Мэдрэлийн сүлжээг хэрэгжүүлэхэд тусдаа бүлгүүд зориулагдсан болно.
  • С.Хайкин, Мэдрэлийн сүлжээ: Бүрэн курс. 2006 он
    Хиймэл мэдрэлийн сүлжээний үндсэн парадигмуудыг энд авч үзэх болно. Үзүүлсэн материал нь бүх мэдрэлийн сүлжээний парадигмуудын хатуу математик үндэслэлийг агуулсан, жишээнүүд, компьютерийн туршилтуудын тайлбар, олон зүйлийг агуулсан болно. практик асуудлууд, түүнчлэн өргөн хүрээтэй ном зүй.
  • D. Forsythe, Компьютерийн хараа. Орчин үеийн хандлага. 2004 он
    Компьютерийн хараа нь дэлхийн дижитал компьютерийн технологийн хөгжлийн энэ үе шатанд хамгийн алдартай салбаруудын нэг юм. Энэ нь үйлдвэрлэл, роботын удирдлага, процессын автоматжуулалт, эмнэлгийн болон цэргийн хэрэглээ, хиймэл дагуулын тандалт, дижитал зураг авах зэрэг хувийн компьютерийн хэрэглээнд шаардлагатай.

Видео

Видео ашиглан визуал сурахаас илүү хүртээмжтэй, ойлгомжтой зүйл байхгүй.

  • Ерөнхийдөө машин сургалт гэж юу болохыг ойлгохын тулд эндээс харна уу энэ хоёр лекц Yandex ShAD-аас.
  • Оршилмэдрэлийн сүлжээний дизайны үндсэн зарчмууд - мэдрэлийн сүлжээг үргэлжлүүлэн нэвтрүүлэхэд маш тохиромжтой.
  • Лекцийн курсМосквагийн Улсын Их Сургуулийн Тооцооллын Хорооноос "Компьютерийн хараа" сэдвээр. Компьютерийн хараа нь зураг, видеон дээрх объектуудыг илрүүлж, ангилах хиймэл системийг бий болгох онол, технологи юм. Эдгээр лекцийг энэхүү сонирхолтой, нарийн төвөгтэй шинжлэх ухааны танилцуулга гэж үзэж болно.

Боловсролын нөөц ба ашигтай холбоосууд

  • Хиймэл оюун ухааны портал.
  • "Би бол оюун ухаан" лаборатори.
  • Matlab дахь мэдрэлийн сүлжээ.
  • Python хэл дээрх мэдрэлийн сүлжээ (Англи):
    • Текстийг ашиглан ангилах;
    • Энгийн.
  • Мэдрэлийн сүлжээ асаалттай.

Энэ сэдвээр манай цуврал нийтлэлүүд

Бид өмнө нь курс нийтэлсэн # neuralnetwork@tprogerмэдрэлийн сүлжээнүүд дээр. Энэхүү жагсаалтад нийтлэлүүдийг танд тав тухтай байлгах үүднээс судлах дарааллаар нь байрлуулсан болно.