شبكات عصبية مدربة بشكل فوري

الشبكات العصبية المدربة بشكل فوري هي شبكات عصبية اصطناعية مغدية تقوم بإنشاء عقدة عصبية جديدة مخفية لكل عينة تدريب جديدة وأن الأوزان بالنسبة لهذه الخلية العصبية المخفية الجديدة منفصلة ليست فقط هذه العينة بل العينات الأخرى القريبة منها وبالتالي توفير تعميم.^[1]

يتم إجراء هذا الفصل باستخدام أقرب مستوى تشعبي يمكن كتابته على الفور.

في التطبيقين الأكثر اهمية يختلف جوار التعميم مع عينة التدريب (شبكة cc1) أو يضل ثابتا (شبكة cc4) هذه الشبكات تستخدم تشفيرًا أحادي لتمثيل فعال لمجموعة البيانات.^[2]

وقد أُقترح هذا النوع من الشبكات لأول مرة في ورقة في عام 1933 بعنوان سوبهاش كاك،^[1] من ذلك الوقت، أُقترحت الشبكات العصبية المدربة على الفور كنماذج للتعلم قصير المدى واستخدامها في بحث الويب وتطبيقات التنبؤ بالسلاسل الزمنية المالية.^[3]

وقد أُستخدم هذا التصنيف أيضا في التصنيف الفوري للوثائق،^[4] وللتعلم العميق واستخراج البيانات.^[5]^[6]

وكما هو الحال في الشبكات العصبية الأخرى فان استخدامها الطبيعي كان كبرنامج ولكن تم تنفيذها أيضا في الاجهزة باستخدام (FPGA) وبالوسائط الضوئية.^[7]

شبكة CC4[عدل]

في شبكة CC4 وهي شبكة ثلاثية المراحل يكون عدد عقد الإدخال أكبر بمقدار واحد من ناقل التدريب مع وجود العقدة الاضافية التي تعمل كعقدة منحاز التي يكون الإدخال الخاص بها دائما 1 . بالنسبة لمتجهات الإدخال الثنائية فان الاوزان من عقد الإدخال إلى الخلية العصبية المخفية (قل المؤشر j) المقابلة للموجه المدرب يتم إعطاؤها بواسطة الصيغة التالية

w_{ij}={\begin{cases}-1,&{\mbox{for }}x_{i}=0\\+1,&{\mbox{for }}x_{i}=1\\r-s+1,&{\mbox{for }}i=n+1\end{cases}}

حيث r هو نص قطر التعميم و 8 هو وزن هامنغ (عدد 1s) من التسلسل الثنائي.من الطبقة المخفية إلى طبقة الإخراج، تكون الأوزان 1 أو -1 اعتمادًا على ما إذا كان المتجه ينتمي إلى فئة إخراج معينة أم لا

تُخرج الخلايا العصبية في الطبقات المخفية والمخرجة 1 إذا كان المجموع المرجح للمدخل 0 أو موجبًا و 0، إذا كان المجموع المرجح للمدخل

سالبًا:

y=\left\{{\begin{matrix}1&{\mbox{if }}\sum x_{i}\geq 0\\0&{\mbox{if }}\sum x_{i}<0\end{matrix}}\right.

شبكات أخرى[عدل]

تم تعديل شبكة CC4 أيضًا لتشمل مدخلات غير ثنائية مع أنصاف أقطار متفاوتة للتعميم بحيث توفر بشكل فعال تنفيذ،^[8]^[9](CC1) في شبكات التغذية الراجعة، يمكن لشبكة ويلشو وكذلك شبكة هوبفيلد التعلم على الفور.

المصادر[عدل]

^{[بحاجة لمصدر]}

^[1]^[2]^[3]^[4]^[5]^[6]^[7]^[9]^[8]

^ ^أ ^ب ^ت Kak، Subhash (1993-01). "On training feedforward neural networks". Pramana. ج. 40 ع. 1: 35–42. DOI:10.1007/bf02898040. ISSN:0304-4289. مؤرشف من الأصل في 5 سبتمبر 2019. {{استشهاد بدورية محكمة}}: تحقق من التاريخ في: |تاريخ= (مساعدة)
^ ^أ ^ب Kak، Subhash (1994-03). "New algorithms for training feedforward neural networks". Pattern Recognition Letters. ج. 15 ع. 3: 295–298. DOI:10.1016/0167-8655(94)90062-0. ISSN:0167-8655. مؤرشف من الأصل في 2020-09-18. {{استشهاد بدورية محكمة}}: تحقق من التاريخ في: |تاريخ= (مساعدة)
^ ^أ ^ب Kak، Subhash C. (1998-11). "On generalization by neural networks". Information Sciences. ج. 111 ع. 1–4: 293–302. DOI:10.1016/s0020-0255(98)10009-9. ISSN:0020-0255. مؤرشف من الأصل في 2020-09-18. {{استشهاد بدورية محكمة}}: تحقق من التاريخ في: |تاريخ= (مساعدة)
^ ^أ ^ب Zhenya؛ Zhang، Shuguang؛ Chen، Enhong؛ Wang، Xufa؛ Cheng، Hongmei (2005). Advances in Neural Networks – ISNN 2005. Berlin, Heidelberg: Springer Berlin Heidelberg. ص. 232–237. ISBN:978-3-540-25913-8. مؤرشف من الأصل في 2018-06-16.
^ ^أ ^ب Zhang، Zhen-ya؛ Zhang، Shu-guang؛ Wang، Xu-fa (2006). "Document Classification Via TextCC Based on Stereographic Projection". 2006 International Conference on Machine Learning and Cybernetics. IEEE. DOI:10.1109/icmlc.2006.258706. ISBN:1-4244-0061-9. مؤرشف من الأصل في 2020-09-18.
^ ^أ ^ب Schmidhuber، Jürgen (2015-01). "Deep learning in neural networks: An overview". Neural Networks. ج. 61: 85–117. DOI:10.1016/j.neunet.2014.09.003. ISSN:0893-6080. مؤرشف من الأصل في 2020-09-18. {{استشهاد بدورية محكمة}}: تحقق من التاريخ في: |تاريخ= (مساعدة)
^ ^أ ^ب Jihan؛ Milne، George (2000). Lecture Notes in Computer Science. Berlin, Heidelberg: Springer Berlin Heidelberg. ص. 260–269. ISBN:978-3-540-67899-1. مؤرشف من الأصل في 2018-06-02.
^ ^أ ^ب Tang، Kun Won؛ Kak، Subhash (1 مارس 2002). "Fast Classification Networks For Signal Processing". Circuits, Systems, and Signal Processing. ج. 21 ع. 2: 207–224. DOI:10.1007/s00034-002-2007-7. ISSN:0278-081X. مؤرشف من الأصل في 2018-06-17.
^ ^أ ^ب SHORTT، A؛ KEATING، J؛ MOULINIER، L؛ PANNELL، C (4 مارس 2005). "Optical implementation of the Kak neural network". Information Sciences. ج. 171 ع. 1–3: 273–287. DOI:10.1016/j.ins.2004.02.028. ISSN:0020-0255. مؤرشف من الأصل في 2020-09-18.

[:0-1] أ ^ب ^ت Kak، Subhash (1993-01). "On training feedforward neural networks". Pramana. ج. 40 ع. 1: 35–42. DOI:10.1007/bf02898040. ISSN:0304-4289. مؤرشف من الأصل في 5 سبتمبر 2019. {{استشهاد بدورية محكمة}}: تحقق من التاريخ في: |تاريخ= (مساعدة)

[:2-2] أ ^ب Kak، Subhash (1994-03). "New algorithms for training feedforward neural networks". Pattern Recognition Letters. ج. 15 ع. 3: 295–298. DOI:10.1016/0167-8655(94)90062-0. ISSN:0167-8655. مؤرشف من الأصل في 2020-09-18. {{استشهاد بدورية محكمة}}: تحقق من التاريخ في: |تاريخ= (مساعدة)

[:3-3] أ ^ب Kak، Subhash C. (1998-11). "On generalization by neural networks". Information Sciences. ج. 111 ع. 1–4: 293–302. DOI:10.1016/s0020-0255(98)10009-9. ISSN:0020-0255. مؤرشف من الأصل في 2020-09-18. {{استشهاد بدورية محكمة}}: تحقق من التاريخ في: |تاريخ= (مساعدة)

[:4-4] أ ^ب Zhenya؛ Zhang، Shuguang؛ Chen، Enhong؛ Wang، Xufa؛ Cheng، Hongmei (2005). Advances in Neural Networks – ISNN 2005. Berlin, Heidelberg: Springer Berlin Heidelberg. ص. 232–237. ISBN:978-3-540-25913-8. مؤرشف من الأصل في 2018-06-16.

[:5-5] أ ^ب Zhang، Zhen-ya؛ Zhang، Shu-guang؛ Wang، Xu-fa (2006). "Document Classification Via TextCC Based on Stereographic Projection". 2006 International Conference on Machine Learning and Cybernetics. IEEE. DOI:10.1109/icmlc.2006.258706. ISBN:1-4244-0061-9. مؤرشف من الأصل في 2020-09-18.

[:6-6] أ ^ب Schmidhuber، Jürgen (2015-01). "Deep learning in neural networks: An overview". Neural Networks. ج. 61: 85–117. DOI:10.1016/j.neunet.2014.09.003. ISSN:0893-6080. مؤرشف من الأصل في 2020-09-18. {{استشهاد بدورية محكمة}}: تحقق من التاريخ في: |تاريخ= (مساعدة)

[:7-7] أ ^ب Jihan؛ Milne، George (2000). Lecture Notes in Computer Science. Berlin, Heidelberg: Springer Berlin Heidelberg. ص. 260–269. ISBN:978-3-540-67899-1. مؤرشف من الأصل في 2018-06-02.

[:8-8] أ ^ب Tang، Kun Won؛ Kak، Subhash (1 مارس 2002). "Fast Classification Networks For Signal Processing". Circuits, Systems, and Signal Processing. ج. 21 ع. 2: 207–224. DOI:10.1007/s00034-002-2007-7. ISSN:0278-081X. مؤرشف من الأصل في 2018-06-17.

[:9-9] أ ^ب SHORTT، A؛ KEATING، J؛ MOULINIER، L؛ PANNELL، C (4 مارس 2005). "Optical implementation of the Kak neural network". Information Sciences. ج. 171 ع. 1–3: 273–287. DOI:10.1016/j.ins.2004.02.028. ISSN:0020-0255. مؤرشف من الأصل في 2020-09-18.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

بحاجة لمصدر