شبكات عصبية مدربة بشكل فوري: الفرق بين النسختين

عدل الوصلات
من ويكيبيديا، الموسوعة الحرة
تصفح التاريخ تفاعلياً
[مراجعة غير مفحوصة][مراجعة غير مفحوصة]
→ التعديل السابقالتعديل اللاحق ←
تم حذف المحتوى تمت إضافة المحتوى
مرئينص الويكي
ط اضافة المصادر
تمت اضافة استشهاد بالمراجع
سطر 35: سطر 35:
'''''المصادر'''''
'''''المصادر'''''
<references group=" Kak, S. On training feedforward neural networks. Pramana, vol. 40, pp. 35-42, 1993 [1] Kak, S. New algorithms for training feedforward neural networks. Pattern Recognition Letters 15: 295-298, 1994. Kak, S. On generalization by neural networks, Information Sciences 111: 293-302, 1998. Kak, S. Faster web search and prediction using instantaneously trained neural networks. IEEE Intelligent Systems 14: 79-82, November/December 1999. Zhang, Z. et al., TextCC: New feedforward neural network for classifying documents instantly. Advances in Neural Networks ISNN 2005. Lecture Notes in Computer Science 3497: 232-237, 2005. Zhang, Z. et al., Document Classification Via TextCC Based on Stereographic Projection and for deep learning, International Conference on Machine Learning and Cybernetics, Dalin, 2006 Schmidhuber, J. Deep Learning in Neural Networks: An Overview, arXiv:1404.7828, 2014 https://arxiv.org/abs/1404.7828 Zhu, J. and G. Milne, Implementing Kak Neural Networks on a Reconfigurable Computing Platform, Lecture Notes in Computer Science Volume 1896: 260-269, 2000. Shortt, A., J.G. Keating, L. Moulinier, C.N. Pannell, Optical implementation of the Kak neural network, Information Sciences 171: 273-287, 2005. Tang, K.W. and Kak, S. Fast classification networks for signal processing. Circuits, Systems, Signal Processing 21, 2002, pp. 207-224" responsive="" />
<references group=" Kak, S. On training feedforward neural networks. Pramana, vol. 40, pp. 35-42, 1993 [1] Kak, S. New algorithms for training feedforward neural networks. Pattern Recognition Letters 15: 295-298, 1994. Kak, S. On generalization by neural networks, Information Sciences 111: 293-302, 1998. Kak, S. Faster web search and prediction using instantaneously trained neural networks. IEEE Intelligent Systems 14: 79-82, November/December 1999. Zhang, Z. et al., TextCC: New feedforward neural network for classifying documents instantly. Advances in Neural Networks ISNN 2005. Lecture Notes in Computer Science 3497: 232-237, 2005. Zhang, Z. et al., Document Classification Via TextCC Based on Stereographic Projection and for deep learning, International Conference on Machine Learning and Cybernetics, Dalin, 2006 Schmidhuber, J. Deep Learning in Neural Networks: An Overview, arXiv:1404.7828, 2014 https://arxiv.org/abs/1404.7828 Zhu, J. and G. Milne, Implementing Kak Neural Networks on a Reconfigurable Computing Platform, Lecture Notes in Computer Science Volume 1896: 260-269, 2000. Shortt, A., J.G. Keating, L. Moulinier, C.N. Pannell, Optical implementation of the Kak neural network, Information Sciences 171: 273-287, 2005. Tang, K.W. and Kak, S. Fast classification networks for signal processing. Circuits, Systems, Signal Processing 21, 2002, pp. 207-224" responsive="" />
<references group="Kak, S. On training feedforward neural networks. Pramana, vol. 40, pp. 35-42, 1993 [1]" />
<references group="Kak, S. On training feedforward neural networks. Pramana, vol. 40, pp. 35-42, 1993 [1]" /><ref>{{استشهاد بدورية محكمة|title=Instantaneously trained neural networks|url=https://en.wikipedia.org/w/index.php?title=Instantaneously_trained_neural_networks&oldid=914833024|journal=Wikipedia|date=2019-09-09|language=en}}</ref>

<ref>{{استشهاد بدورية محكمة|title=On training feedforward neural networks|url=http://dx.doi.org/10.1007/bf02898040|journal=Pramana|date=1993-01|issn=0304-4289|pages=35–42|volume=40|issue=1|DOI=10.1007/bf02898040|first=Subhash|last=Kak}}</ref><ref>{{استشهاد بدورية محكمة|title=New algorithms for training feedforward neural networks|url=http://dx.doi.org/10.1016/0167-8655(94)90062-0|journal=Pattern Recognition Letters|date=1994-03|issn=0167-8655|pages=295–298|volume=15|issue=3|DOI=10.1016/0167-8655(94)90062-0|first=Subhash|last=Kak}}</ref><ref>{{استشهاد بدورية محكمة|title=On generalization by neural networks|url=http://dx.doi.org/10.1016/s0020-0255(98)10009-9|journal=Information Sciences|date=1998-11|issn=0020-0255|pages=293–302|volume=111|issue=1-4|DOI=10.1016/s0020-0255(98)10009-9|first=Subhash C.|last=Kak}}</ref><ref>{{استشهاد بكتاب|title=Advances in Neural Networks – ISNN 2005|url=http://dx.doi.org/10.1007/11427445_37|publisher=Springer Berlin Heidelberg|date=2005|place=Berlin, Heidelberg|ISBN=978-3-540-25913-8|pages=232–237|author1=Zhenya|first2=Shuguang|author2=Zhang|first3=Enhong|last3=Chen|first4=Xufa|last4=Wang|first5=Hongmei|last5=Cheng}}</ref><ref>{{استشهاد بدورية محكمة|title=Document Classification Via TextCC Based on Stereographic Projection|url=http://dx.doi.org/10.1109/icmlc.2006.258706|publisher=IEEE|journal=2006 International Conference on Machine Learning and Cybernetics|date=2006|ISBN=1-4244-0061-9|DOI=10.1109/icmlc.2006.258706|first=Zhen-ya|last=Zhang|first2=Shu-guang|last2=Zhang|first3=Xu-fa|last3=Wang}}</ref><ref>{{استشهاد بدورية محكمة|title=Deep learning in neural networks: An overview|url=http://dx.doi.org/10.1016/j.neunet.2014.09.003|journal=Neural Networks|date=2015-01|issn=0893-6080|pages=85–117|volume=61|DOI=10.1016/j.neunet.2014.09.003|first=Jürgen|last=Schmidhuber}}</ref><ref>{{استشهاد بكتاب|title=Lecture Notes in Computer Science|url=http://dx.doi.org/10.1007/3-540-44614-1_29|publisher=Springer Berlin Heidelberg|date=2000|place=Berlin, Heidelberg|ISBN=978-3-540-67899-1|pages=260–269|author1=Jihan|first2=George|author2=Milne}}</ref><ref>{{استشهاد بدورية محكمة|title=Optical implementation of the Kak neural network|first=A|first4=C|last3=MOULINIER|first3=L|last2=KEATING|first2=J|last=SHORTT|DOI=10.1016/j.ins.2004.02.028|url=http://dx.doi.org/10.1016/j.ins.2004.02.028|issue=1-3|volume=171|pages=273–287|issn=0020-0255|date=2005-03-04|journal=Information Sciences|last4=PANNELL}}</ref><ref>{{استشهاد بدورية محكمة|title=Fast Classification Networks For Signal Processing|url=http://dx.doi.org/10.1007/s00034-002-2007-7|journal=Circuits, Systems, and Signal Processing|date=2002-03-01|issn=0278-081X|pages=207–224|volume=21|issue=2|DOI=10.1007/s00034-002-2007-7|first=Kun Won|last=Tang|first2=Subhash|last2=Kak}}</ref>

نسخة 16:19، 18 سبتمبر 2020

الشبكات العصبية المدربة بشكل فوري هي شبكات عصبية اصطناعية مغدية تقوم بانشاء عقدة عصبية جديدة مخفية لكل عينة تدريب جديدة ان الاوزان بالنسبة لهذه الخلية العصبية المخفية الجديدة منفصلة ليست فقط هذه العينة بل العينات الاخرى القريبة منها وبالتالي توفير تعميم (1)(2)

يتم اجراء هاذا الفصل باستخدام اقرب مستوى تشعبي يمكن كتابته على الفور .

في التطبيقين الاكثر اهمية يختلف جوار التعميم مع عينة التدريب (شبكة cc1) او يضل ثابتا (شبكة cc4) هذه الشبكات تستخدم تشفيرا احادي لتمثيل فعال لمجموعه البيانات (3)

وقد اقترح هاذا النوع من الشبكات لاول مرة في ورقة بعام 1933 بعنوان سوبهاش كاك (1) من ذلك الوقت ، اقترحت الشبكات العصبية المدربة على الفور كنماذج للتعلم قصير المدى واستخدامها في بحث الويب وتطبيقات التنبؤ بالسلاسل الزمنية المالية.(4)

وقد استخدم هاذا التصنيف ايضا في التصنيف الفوري للوثائق (5) وللتعلم العميق واستخراج البيانات (6)(7)

وكما هة الحال في الشبكات العصبية الاخرى فان استخدامها الطبيعي كان كبرنامج ولكن تم تنفيذها ايضا في الاجهزة باستخدام (FPGA) (8) وبالوسائط الضوئية .


شبكة CC4

في شبكة CC4 وهي شبكة ثلاثية المراحل يكون عدد عقد الادخال اكبر بمقدار واحد من ناقل التدريب مع وجود العقدة الاضافية التي تعمل كعقدة منحاز التي يكون الادخال الخاص بها دائما 1 . بالنسبة لمتجهات الادخال الثنائية فان الاوزان من عقد الادخال الى الخلية العصبية المخفية (قل المؤشر j) المقابلة للموجه المدرب يتم إعطاؤها بواسطة الصيغة التالية


https://wikimedia.org/api/rest_v1/media/math/render/svg/f643f1c6ee1c3d8c035f5ea455f3e61d035508a2


حيث r هو نص قطر التعميم و 8 هو وزن هامنغ (عدد 1s) من التسلسل الثنائي.من الطبقة المخفية إلى طبقة الإخراج ، تكون الأوزان 1 أو -1 اعتمادًا على ما إذا كان المتجه ينتمي إلى فئة إخراج معينة أم لا

تُخرج الخلايا العصبية في الطبقات المخفية والمخرجة 1 إذا كان المجموع المرجح للمدخل 0 أو موجبًا و 0 ، إذا كان المجموع المرجح للمدخل

سالبًا:https://wikimedia.org/api/rest_v1/media/math/render/svg/e91412e6329565b31d316fd785ffff9e3d04ab59

شبكات أخرى

تم تعديل شبكة CC4 أيضًا لتشمل مدخلات غير ثنائية مع أنصاف أقطار متفاوتة للتعميم بحيث توفر بشكل فعال تنفيذ( CC1. (10]في شبكات التغذية الراجعة ، يمكن لشبكة ويلشو وكذلك شبكة هوبفيلد التعلم على الفور .



المصادر

[1]

[2][3][4][5][6][7][8][9][10]

  1. ^ "Instantaneously trained neural networks". Wikipedia (بالإنجليزية). 9 Sep 2019.
  2. ^ Kak، Subhash (1993-01). "On training feedforward neural networks". Pramana. ج. 40 ع. 1: 35–42. DOI:10.1007/bf02898040. ISSN:0304-4289. {{استشهاد بدورية محكمة}}: تحقق من التاريخ في: |date= (مساعدة)
  3. ^ Kak، Subhash (1994-03). "New algorithms for training feedforward neural networks". Pattern Recognition Letters. ج. 15 ع. 3: 295–298. DOI:10.1016/0167-8655(94)90062-0. ISSN:0167-8655. {{استشهاد بدورية محكمة}}: تحقق من التاريخ في: |date= (مساعدة)
  4. ^ Kak، Subhash C. (1998-11). "On generalization by neural networks". Information Sciences. ج. 111 ع. 1–4: 293–302. DOI:10.1016/s0020-0255(98)10009-9. ISSN:0020-0255. {{استشهاد بدورية محكمة}}: تحقق من التاريخ في: |date= (مساعدة)
  5. ^ Zhenya؛ Zhang، Shuguang؛ Chen، Enhong؛ Wang، Xufa؛ Cheng، Hongmei (2005). Advances in Neural Networks – ISNN 2005. Berlin, Heidelberg: Springer Berlin Heidelberg. ص. 232–237. ISBN:978-3-540-25913-8.
  6. ^ Zhang، Zhen-ya؛ Zhang، Shu-guang؛ Wang، Xu-fa (2006). "Document Classification Via TextCC Based on Stereographic Projection". 2006 International Conference on Machine Learning and Cybernetics. IEEE. DOI:10.1109/icmlc.2006.258706. ISBN:1-4244-0061-9.
  7. ^ Schmidhuber، Jürgen (2015-01). "Deep learning in neural networks: An overview". Neural Networks. ج. 61: 85–117. DOI:10.1016/j.neunet.2014.09.003. ISSN:0893-6080. {{استشهاد بدورية محكمة}}: تحقق من التاريخ في: |date= (مساعدة)
  8. ^ Jihan؛ Milne، George (2000). Lecture Notes in Computer Science. Berlin, Heidelberg: Springer Berlin Heidelberg. ص. 260–269. ISBN:978-3-540-67899-1.
  9. ^ SHORTT، A؛ KEATING، J؛ MOULINIER، L؛ PANNELL، C (4 مارس 2005). "Optical implementation of the Kak neural network". Information Sciences. ج. 171 ع. 1–3: 273–287. DOI:10.1016/j.ins.2004.02.028. ISSN:0020-0255.
  10. ^ Tang، Kun Won؛ Kak، Subhash (1 مارس 2002). "Fast Classification Networks For Signal Processing". Circuits, Systems, and Signal Processing. ج. 21 ع. 2: 207–224. DOI:10.1007/s00034-002-2007-7. ISSN:0278-081X.
مجلوبة من «https://ar.wikipedia.org/w/index.php?title=شبكات_عصبية_مدربة_بشكل_فوري&oldid=50484533»