Όπως υποδηλώνει το όνομα, το backpropagation είναι ένα αλγόριθμος ότι πίσω διαδίδει τα σφάλματα από κόμβους εξόδου στους κόμβους εισόδου. Ως εκ τούτου, αναφέρεται απλώς ως «καθυστερημένη διάδοση σφαλμάτων». Αυτή η προσέγγιση αναπτύχθηκε από την ανάλυση ενός ανθρώπινου εγκεφάλου. Αναγνώριση ομιλίας, αναγνώριση χαρακτήρων, επαλήθευση υπογραφής, αναγνώριση ανθρώπινου προσώπου είναι μερικές από τις ενδιαφέρουσες εφαρμογές των νευρωνικών δικτύων. Τα νευρωνικά δίκτυα περνούν από εποπτευόμενη μάθηση, ο φορέας εισόδου που διέρχεται από το δίκτυο παράγει φορέα εξόδου. Αυτός ο φορέας εξόδου επαληθεύεται έναντι της επιθυμητής εξόδου. Εάν το αποτέλεσμα δεν ταιριάζει με το διάνυσμα εξόδου, δημιουργείται μια αναφορά σφάλματος. Με βάση την αναφορά σφάλματος, τα βάρη προσαρμόζονται για να λάβετε την επιθυμητή έξοδο.

Τι είναι το Τεχνητό Νευρωνικό Δίκτυο;

Ενα Τεχνητό νευρωνικό δίκτυο χρησιμοποιεί κανόνα εποπτευόμενης μάθησης για να γίνει αποτελεσματική και ισχυρή. Οι πληροφορίες στα νευρικά δίκτυα ρέουν με δύο διαφορετικούς τρόπους. Κατά κύριο λόγο, όταν το μοντέλο εκπαιδεύεται ή μαθαίνει και όταν το μοντέλο λειτουργεί κανονικά - είτε για δοκιμές είτε χρησιμοποιείται για την εκτέλεση οποιασδήποτε εργασίας. Οι πληροφορίες σε διάφορες μορφές τροφοδοτούνται στο μοντέλο μέσω εισερχόμενων νευρώνων, ενεργοποιώντας πολλά στρώματα κρυφών νευρώνων και φτάνουν στους εξερχόμενους νευρώνες, οι οποίοι είναι γνωστοί ως τροφοδοτικό δίκτυο.

Καθώς όλοι οι νευρώνες δεν ενεργοποιούνται ταυτόχρονα, οι νευρώνες που λαμβάνουν τις εισόδους από τα αριστερά πολλαπλασιάζονται με τα βάρη καθώς ταξιδεύουν μέσα από κρυμμένα στρώματα. Τώρα, προσθέστε όλες τις εισόδους από κάθε νευρώνα και όταν το άθροισμα υπερβαίνει ένα ορισμένο επίπεδο κατωφλίου, οι νευρώνες που είχαν παραμείνει σιωπηλοί θα ενεργοποιηθούν και θα συνδεθούν.

Ο τρόπος που μαθαίνει το Τεχνητό Νευρωνικό Δίκτυο είναι ότι μαθαίνει από αυτό που είχε κάνει λάθος και κάνει το σωστό, και αυτό είναι γνωστό ως ανατροφοδότηση. Τα τεχνητά νευρικά δίκτυα χρησιμοποιούν ανατροφοδότηση για να μάθουν τι είναι σωστό και λάθος.

Τι είναι το Backpropagation;

Ορισμός: Το Backpropagation είναι ένας ουσιαστικός μηχανισμός με τον οποίο εκπαιδεύονται τα νευρικά δίκτυα. Πρόκειται για έναν μηχανισμό που χρησιμοποιείται για την τελειοποίηση των βαρών ενός νευρικού δικτύου (διαφορετικά αναφέρεται ως μοντέλο σε αυτό το άρθρο) σε σχέση με το ποσοστό σφάλματος που δημιουργήθηκε στην προηγούμενη επανάληψη. Είναι παρόμοιο με έναν αγγελιοφόρο που λέει στο μοντέλο εάν το δίχτυ έκανε λάθος ή όχι μόλις προέβλεπε.

backpropagation-neural-network

Το Backpropagation σε νευρωνικά δίκτυα αφορά το μετάδοση πληροφοριών και συσχέτιση αυτών των πληροφοριών με το σφάλμα που δημιουργήθηκε από το μοντέλο όταν έγινε μια εικασία. Αυτή η μέθοδος επιδιώκει να μειώσει το σφάλμα, το οποίο διαφορετικά αναφέρεται ως λειτουργία απώλειας.

Πώς λειτουργεί το Backpropagation - Απλός αλγόριθμος

Το Backpropagation στη βαθιά μάθηση είναι μια τυπική προσέγγιση για την εκπαίδευση τεχνητών νευρικών δικτύων. Ο τρόπος που λειτουργεί είναι ότι - Αρχικά όταν σχεδιάζεται ένα νευρωνικό δίκτυο, τυχαίες τιμές αντιστοιχίζονται ως βάρη. Ο χρήστης δεν είναι βέβαιος εάν οι αντιστοιχισμένες τιμές βάρους είναι σωστές ή ταιριάζουν στο μοντέλο. Ως αποτέλεσμα, το μοντέλο εξάγει την τιμή που είναι διαφορετική από την πραγματική ή την αναμενόμενη έξοδο, η οποία είναι μια τιμή σφάλματος.

Για να έχετε την κατάλληλη έξοδο με ελάχιστο σφάλμα, το μοντέλο πρέπει να εκπαιδεύεται σε ένα σχετικό σύνολο δεδομένων ή παραμέτρους και να παρακολουθεί την πρόοδό του κάθε φορά που προβλέπει. Το νευρωνικό δίκτυο έχει σχέση με το σφάλμα, επομένως, όποτε αλλάζουν οι παράμετροι, το σφάλμα αλλάζει επίσης. Το backpropagation χρησιμοποιεί μια τεχνική γνωστή ως κανόνας δέλτα ή κλίση κλίσης για να αλλάξει τις παραμέτρους στο μοντέλο.

Το παραπάνω διάγραμμα δείχνει τη λειτουργία του backpropagation και η λειτουργία του δίνεται παρακάτω.

«X» στις εισόδους φτάνουν από την προ-συνδεδεμένη διαδρομή
«W», τα πραγματικά βάρη χρησιμοποιούνται για τη μοντελοποίηση της εισόδου. Οι τιμές του W κατανέμονται τυχαία
Η έξοδος για κάθε νευρώνα υπολογίζεται μέσω προώθησης - το επίπεδο εισόδου, το κρυφό στρώμα και το επίπεδο εξόδου.
Το σφάλμα υπολογίζεται στις εξόδους χρησιμοποιώντας την εξίσωση Πολλαπλασιασμός προς τα πίσω μέσω εξόδου και κρυφών επιπέδων, τα βάρη ρυθμίζονται για να μειώσουν το σφάλμα.

Και πάλι προωθήστε για να υπολογίσετε την έξοδο και το σφάλμα. Εάν το σφάλμα ελαχιστοποιηθεί, αυτή η διαδικασία τελειώνει ή αλλιώς μεταδίδεται προς τα πίσω και προσαρμόζει τις τιμές του βάρους.

Αυτή η διαδικασία επαναλαμβάνεται έως ότου το σφάλμα μειωθεί στο ελάχιστο και επιτευχθεί η επιθυμητή έξοδος.

Γιατί χρειαζόμαστε Backpropagation;

Αυτός είναι ένας μηχανισμός που χρησιμοποιείται για την εκπαίδευση του νευρικού δικτύου που σχετίζεται με το συγκεκριμένο σύνολο δεδομένων. Κάποια από τα πλεονεκτήματα του Backpropagation είναι

Είναι απλό, γρήγορο και εύκολο να προγραμματιστεί
Μόνο οι αριθμοί της εισόδου συντονίζονται και όχι οποιαδήποτε άλλη παράμετρος
Δεν χρειάζεται προηγούμενη γνώση σχετικά με το δίκτυο
Είναι ευέλικτο
Μια τυπική προσέγγιση και λειτουργεί αποτελεσματικά
Δεν απαιτεί από τον χρήστη να μάθει ειδικές λειτουργίες

Τύποι δικτύου Backpropagation

Υπάρχουν δύο είδη δικτύων backpropagation. Κατηγοριοποιείται ως εξής:

Στατικό Backpropagation

Το Static backpropagation είναι ένας τύπος δικτύου που στοχεύει στην παραγωγή χαρτογράφησης στατικής εισόδου για στατική έξοδο. Αυτά τα είδη δικτύων είναι ικανά να επιλύσουν προβλήματα στατικής ταξινόμησης, όπως η αναγνώριση οπτικών χαρακτήρων (OCR).

Επαναλαμβανόμενο Backpropagation

Το επαναλαμβανόμενο backpropagation είναι ένας άλλος τύπος δικτύου που χρησιμοποιείται στη μάθηση σταθερού σημείου. Οι ενεργοποιήσεις στην επαναλαμβανόμενη οπίσθια αναπαραγωγή προωθούνται έως ότου επιτύχει μια σταθερή τιμή. Μετά από αυτό, ένα σφάλμα υπολογίζεται και μεταδίδεται προς τα πίσω. ΕΝΑ λογισμικό , Το NeuroSolutions έχει τη δυνατότητα να εκτελεί τον επαναλαμβανόμενο αναπροσανατολισμό.

Οι βασικές διαφορές: Η στατική backpropagation προσφέρει άμεση χαρτογράφηση, ενώ η χαρτογράφηση επαναλαμβανόμενων backpropagation δεν είναι άμεση.

Μειονεκτήματα του Backpropagation

Τα μειονεκτήματα του backpropagation είναι:

Το Backpropagation ενδέχεται να είναι ευαίσθητο σε θορυβώδη δεδομένα και παρατυπίες
Η απόδοση αυτού εξαρτάται σε μεγάλο βαθμό από τα δεδομένα εισόδου
Χρειάζεται υπερβολικό χρόνο για προπόνηση
Η ανάγκη για μια μέθοδο βασισμένη σε μήτρα για backpropagation αντί για mini-batch

Εφαρμογές του Backpropagation

Οι εφαρμογές είναι

Το νευρωνικό δίκτυο εκπαιδεύεται για να προφέρει κάθε γράμμα μιας λέξης και μιας πρότασης
Χρησιμοποιείται στον τομέα του αναγνώρισης ομιλίας
Χρησιμοποιείται στον τομέα της αναγνώρισης χαρακτήρων και προσώπου

Συχνές ερωτήσεις

1). Γιατί χρειαζόμαστε backpropagation σε νευρωνικά δίκτυα;

Αυτός είναι ένας μηχανισμός που χρησιμοποιείται για την εκπαίδευση του νευρικού δικτύου που σχετίζεται με το συγκεκριμένο σύνολο δεδομένων

2). Ποιος είναι ο στόχος του αλγορίθμου backpropagation;

Ο στόχος αυτού του αλγορίθμου είναι να δημιουργήσει έναν εκπαιδευτικό μηχανισμό για νευρωνικά δίκτυα για να διασφαλίσει ότι το δίκτυο έχει εκπαιδευτεί για να χαρτογραφήσει τις εισόδους στις κατάλληλες εξόδους τους.

3). Ποιο είναι το ποσοστό εκμάθησης στα νευρωνικά δίκτυα;

Το ποσοστό εκμάθησης ορίζεται στο πλαίσιο βελτιστοποίησης και ελαχιστοποίησης της λειτουργίας απώλειας ενός νευρικού δικτύου. Αναφέρεται στην ταχύτητα με την οποία ένα νευρωνικό δίκτυο μπορεί να μάθει νέα δεδομένα παρακάμπτοντας τα παλιά δεδομένα.

“Ανορθωτής γέφυρας 12v ac έως 12v DC ”

4). Είναι το νευρωνικό δίκτυο αλγόριθμος;

Ναί. Τα νευρικά δίκτυα είναι μια σειρά αλγορίθμων εκμάθησης ή κανόνων που έχουν σχεδιαστεί για να προσδιορίζουν τα πρότυπα.

5). Ποια είναι η λειτουργία ενεργοποίησης σε ένα νευρικό δίκτυο;

Η λειτουργία ενεργοποίησης ενός νευρικού δικτύου αποφασίζει εάν ο νευρώνας θα πρέπει να ενεργοποιηθεί / ενεργοποιηθεί ή όχι βάσει του συνολικού αθροίσματος.

Σε αυτό το άρθρο, η έννοια του Backpropagation των νευρωνικών δικτύων εξηγείται χρησιμοποιώντας απλή γλώσσα για να κατανοήσει ο αναγνώστης. Σε αυτή τη μέθοδο, τα νευρωνικά δίκτυα εκπαιδεύονται από σφάλματα που δημιουργούνται για να γίνουν αυτάρκη και να χειριστούν περίπλοκες καταστάσεις. Τα νευρικά δίκτυα έχουν τη δυνατότητα να μάθουν με ακρίβεια με ένα παράδειγμα.