ตามความหมายของชื่อ backpropagation คือไฟล์ อัลกอริทึม กลับเผยแพร่ข้อผิดพลาดจากโหนดเอาต์พุตไปยังโหนดอินพุต ดังนั้นจึงเรียกกันง่ายๆว่า 'การเผยแพร่ข้อผิดพลาดย้อนหลัง' แนวทางนี้ได้รับการพัฒนาจากการวิเคราะห์สมองของมนุษย์ การรู้จำเสียงการจดจำตัวอักษรการตรวจลายเซ็นการจดจำใบหน้ามนุษย์เป็นแอปพลิเคชั่นที่น่าสนใจของเครือข่ายประสาทเทียม เครือข่ายประสาทเทียมผ่านการเรียนรู้ภายใต้การดูแลเวกเตอร์อินพุตที่ผ่านเครือข่ายจะสร้างเวกเตอร์เอาต์พุต เวกเตอร์เอาต์พุตนี้ได้รับการตรวจสอบเทียบกับเอาต์พุตที่ต้องการ หากผลลัพธ์ไม่ตรงกับเวกเตอร์เอาต์พุตระบบจะสร้างรายงานข้อผิดพลาด จากรายงานข้อผิดพลาดน้ำหนักจะถูกปรับเพื่อให้ได้ผลลัพธ์ที่ต้องการ
โครงข่ายประสาทเทียมคืออะไร?
อัน โครงข่ายประสาทเทียม ใช้กฎการเรียนรู้ภายใต้การดูแลเพื่อให้มีประสิทธิภาพและทรงพลัง ข้อมูลในเครือข่ายประสาทไหลในสองวิธีที่แตกต่างกัน โดยพื้นฐานแล้วเมื่อโมเดลกำลังได้รับการฝึกฝนหรือเรียนรู้และเมื่อโมเดลทำงานได้ตามปกติไม่ว่าจะเพื่อการทดสอบหรือใช้เพื่อทำงานใด ๆ ข้อมูลในรูปแบบต่างๆจะถูกป้อนเข้าไปในแบบจำลองผ่านเซลล์ประสาทอินพุตกระตุ้นเซลล์ประสาทที่ซ่อนอยู่หลายชั้นและไปถึงเซลล์ประสาทขาออกซึ่งเรียกว่าเครือข่ายฟีดฟอร์เวิร์ด
เนื่องจากเซลล์ประสาททั้งหมดไม่ได้ทำงานในเวลาเดียวกันเซลล์ประสาทที่รับอินพุตจากด้านซ้ายจะถูกคูณด้วยน้ำหนักเมื่อพวกมันเคลื่อนที่ผ่านชั้นที่ซ่อนอยู่ ตอนนี้เพิ่มอินพุตทั้งหมดจากทุกเซลล์ประสาทและเมื่อผลรวมเกินระดับเกณฑ์ที่กำหนดเซลล์ประสาทที่นิ่งเฉยจะทริกเกอร์และเชื่อมต่อกัน
วิธีที่เครือข่ายประสาทเทียมเรียนรู้คือการเรียนรู้จากสิ่งที่ทำผิดและทำถูกต้องและสิ่งนี้เรียกว่าข้อเสนอแนะ โครงข่ายประสาทเทียมใช้ข้อมูลย้อนกลับเพื่อเรียนรู้ว่าอะไรถูกและผิด
Backpropagation คืออะไร?
คำจำกัดความ: Backpropagation เป็นกลไกสำคัญที่ทำให้โครงข่ายประสาทเทียมได้รับการฝึกฝน เป็นกลไกที่ใช้ในการปรับน้ำหนักของโครงข่ายประสาทเทียม (หรือเรียกอีกอย่างว่าแบบจำลองในบทความนี้) เกี่ยวกับอัตราความผิดพลาดที่เกิดขึ้นในการทำซ้ำก่อนหน้านี้ คล้ายกับผู้ส่งสารบอกโมเดลว่าเน็ตทำผิดพลาดหรือไม่ทันทีที่ทำนาย
backpropagation-neural-network
Backpropagation ในโครงข่ายประสาทเทียมเป็นเรื่องเกี่ยวกับ การแพร่เชื้อ ของข้อมูลและเกี่ยวข้องกับข้อมูลนี้กับข้อผิดพลาดที่สร้างขึ้นโดยแบบจำลองเมื่อมีการคาดเดา วิธีนี้พยายามลดข้อผิดพลาดซึ่งเรียกอีกอย่างว่าฟังก์ชันการสูญเสีย
Backpropagation ทำงานอย่างไร - Simple Algorithm
Backpropagation ในการเรียนรู้เชิงลึกเป็นแนวทางมาตรฐานสำหรับการฝึกอบรมโครงข่ายประสาทเทียม วิธีการทำงานคือ - เริ่มแรกเมื่อมีการออกแบบโครงข่ายประสาทเทียมค่าสุ่มจะถูกกำหนดเป็นน้ำหนัก ผู้ใช้ไม่แน่ใจว่าค่าน้ำหนักที่กำหนดนั้นถูกต้องหรือเหมาะสมกับรุ่นหรือไม่ ด้วยเหตุนี้แบบจำลองจึงส่งออกค่าที่แตกต่างจากผลลัพธ์จริงหรือที่คาดไว้ซึ่งเป็นค่าความผิดพลาด
เพื่อให้ได้ผลลัพธ์ที่เหมาะสมโดยมีข้อผิดพลาดน้อยที่สุดควรฝึกโมเดลเกี่ยวกับชุดข้อมูลหรือพารามิเตอร์ที่เกี่ยวข้องและติดตามความคืบหน้าทุกครั้งที่คาดการณ์ โครงข่ายประสาทเทียมมีความสัมพันธ์กับข้อผิดพลาดดังนั้นเมื่อใดก็ตามที่พารามิเตอร์เปลี่ยนแปลงข้อผิดพลาดก็จะเปลี่ยนไปด้วย backpropagation ใช้เทคนิคที่เรียกว่ากฎเดลต้าหรือการไล่ระดับสีเพื่อเปลี่ยนพารามิเตอร์ในแบบจำลอง
แผนภาพด้านบนแสดงการทำงานของ backpropagation และการทำงานได้รับด้านล่าง
- 'X' ที่อินพุตเข้าถึงจากเส้นทางที่เชื่อมต่อล่วงหน้า
- 'W' น้ำหนักจริงจะใช้ในการจำลองอินพุต ค่าของ W ถูกจัดสรรแบบสุ่ม
- เอาต์พุตสำหรับเซลล์ประสาททุกเซลล์คำนวณผ่านการขยายพันธุ์ส่งต่อ - ชั้นอินพุตชั้นที่ซ่อนอยู่และชั้นเอาต์พุต
- ข้อผิดพลาดถูกคำนวณที่ผลลัพธ์โดยใช้สมการการเผยแพร่ย้อนกลับอีกครั้งผ่านเอาต์พุตและเลเยอร์ที่ซ่อนอยู่น้ำหนักจะถูกปรับเพื่อลดข้อผิดพลาด
เผยแพร่ไปข้างหน้าอีกครั้งเพื่อคำนวณผลลัพธ์และข้อผิดพลาด หากข้อผิดพลาดถูกย่อให้เล็กสุดกระบวนการนี้จะสิ้นสุดหรือมิฉะนั้นจะเผยแพร่ย้อนกลับและปรับค่าของน้ำหนัก
กระบวนการนี้จะทำซ้ำจนกว่าข้อผิดพลาดจะลดลงเหลือน้อยที่สุดและได้ผลลัพธ์ที่ต้องการ
ทำไมเราต้อง Backpropagation?
นี่เป็นกลไกที่ใช้ในการฝึกโครงข่ายประสาทที่เกี่ยวข้องกับชุดข้อมูลเฉพาะ บางส่วนของ ข้อดีของ Backpropagation คือ
- มันง่ายรวดเร็วและง่ายต่อการตั้งโปรแกรม
- เฉพาะตัวเลขของอินพุตเท่านั้นที่ได้รับการปรับแต่งไม่ใช่พารามิเตอร์อื่น ๆ
- ไม่จำเป็นต้องมีความรู้มาก่อนเกี่ยวกับเครือข่าย
- มีความยืดหยุ่น
- แนวทางมาตรฐานและทำงานได้อย่างมีประสิทธิภาพ
- ไม่จำเป็นต้องให้ผู้ใช้เรียนรู้ฟังก์ชันพิเศษ
ประเภทของ Backpropagation Network
มีเครือข่าย backpropagation สองประเภท แบ่งออกเป็นด้านล่าง:
Backpropagation แบบคงที่
Static backpropagation เป็นเครือข่ายประเภทหนึ่งที่มีจุดมุ่งหมายในการสร้างแผนที่ของอินพุตแบบคงที่สำหรับเอาต์พุตแบบคงที่ เครือข่ายประเภทนี้สามารถแก้ปัญหาการจำแนกแบบคงที่เช่นการรู้จำอักขระด้วยแสง (OCR)
Backpropagation ที่เกิดซ้ำ
backpropagation ที่เกิดซ้ำเป็นเครือข่ายอีกประเภทหนึ่งที่ใช้ในการเรียนรู้แบบจุดคงที่ การกระตุ้นใน backpropagation ที่เกิดซ้ำจะถูกป้อนไปข้างหน้าจนกว่าจะได้รับค่าคงที่ หลังจากนี้ข้อผิดพลาดจะถูกคำนวณและเผยแพร่ย้อนหลัง ก ซอฟต์แวร์ NeuroSolutions มีความสามารถในการทำ backpropagation ที่เกิดขึ้นอีก
ความแตกต่างที่สำคัญ: การย้อนกลับแบบคงที่จะนำเสนอการทำแผนที่ในทันทีในขณะที่การทำแผนที่ย้อนกลับที่เกิดซ้ำจะไม่เกิดขึ้นทันที
ข้อเสียของ Backpropagation
ข้อเสียของ backpropagation คือ:
- Backpropagation อาจมีความอ่อนไหวต่อข้อมูลที่มีเสียงดังและความผิดปกติ
- ประสิทธิภาพของสิ่งนี้ขึ้นอยู่กับข้อมูลอินพุตเป็นอย่างมาก
- ต้องการเวลาฝึกมากเกินไป
- ความจำเป็นในการใช้วิธีการที่ใช้เมทริกซ์สำหรับ backpropagation แทน mini-batch
การประยุกต์ใช้ Backpropagation
การใช้งานคือ
- โครงข่ายประสาทเทียมได้รับการฝึกฝนให้แยกแยะตัวอักษรของคำและประโยคแต่ละตัว
- มันถูกใช้ในด้าน การรู้จำเสียง
- ใช้ในด้านการจดจำตัวอักษรและใบหน้า
คำถามที่พบบ่อย
1). ทำไมเราต้องมีการขยายภาพย้อนกลับในโครงข่ายประสาทเทียม?
นี่เป็นกลไกที่ใช้ในการฝึกโครงข่ายประสาทที่เกี่ยวข้องกับชุดข้อมูลเฉพาะ
2). วัตถุประสงค์ของอัลกอริทึม backpropagation คืออะไร?
วัตถุประสงค์ของอัลกอริทึมนี้คือการสร้างกลไกการฝึกอบรมสำหรับเครือข่ายประสาทเทียมเพื่อให้แน่ใจว่าเครือข่ายได้รับการฝึกฝนเพื่อแมปอินพุตกับเอาต์พุตที่เหมาะสม
3). อัตราการเรียนรู้ในโครงข่ายประสาทเทียมคืออะไร?
อัตราการเรียนรู้ถูกกำหนดในบริบทของการเพิ่มประสิทธิภาพและลดฟังก์ชันการสูญเสียของโครงข่ายประสาทเทียม หมายถึงความเร็วที่เครือข่ายประสาทสามารถเรียนรู้ข้อมูลใหม่โดยการแทนที่ข้อมูลเก่า
4). โครงข่ายประสาทเทียมเป็นอัลกอริทึมหรือไม่?
ใช่. เครือข่ายประสาทเทียมคือชุดของอัลกอริทึมการเรียนรู้หรือกฎที่ออกแบบมาเพื่อระบุรูปแบบ
5). ฟังก์ชั่นการเปิดใช้งานในเครือข่ายประสาทคืออะไร?
ฟังก์ชั่นการกระตุ้นของเครือข่ายประสาทจะตัดสินว่าเซลล์ประสาทควรถูกกระตุ้น / กระตุ้นหรือไม่ขึ้นอยู่กับผลรวมทั้งหมด
ในบทความนี้, แนวคิดของ Backpropagation ของโครงข่ายประสาทเทียมอธิบายโดยใช้ภาษาง่ายๆเพื่อให้ผู้อ่านเข้าใจ ในวิธีนี้เครือข่ายประสาทเทียมได้รับการฝึกฝนจากข้อผิดพลาดที่สร้างขึ้นเพื่อให้พึ่งตัวเองได้และจัดการกับสถานการณ์ที่ซับซ้อน โครงข่ายประสาทเทียมมีความสามารถในการเรียนรู้อย่างแม่นยำด้วยตัวอย่าง