Τι είναι το TensorFlow Lite και πώς είναι ένα πλαίσιο βαθιάς μάθησης;

Ενδέχεται να έχετε συναντήσει το TensorFlow Lite ενώ περνάτε από πίνακες ανάπτυξης Edge AI ή έργα επιτάχυνσης AI.

Το TensorFlow Lite είναι ένα πλαίσιο πακέτων λογισμικού που επιτρέπει την εκπαίδευση ML τοπικά στο υλικό. Αυτή η επεξεργασία και υπολογισμός στη συσκευή επιτρέπει στους προγραμματιστές να εκτελούν τα μοντέλα τους σε στοχευμένο υλικό. Το υλικό περιλαμβάνει πίνακες ανάπτυξης, μονάδες υλικού, ενσωματωμένες και συσκευές IoT.

Επισκόπηση του TensorFlow Lite Framework

Το TensorFlow είναι ένας δημοφιλής όρος στη βαθιά μάθηση, καθώς πολλοί προγραμματιστές ML χρησιμοποιούν αυτό το πλαίσιο για διάφορες περιπτώσεις χρήσης. Παρέχει την ευκολία εφαρμογής μοντέλα μηχανικής μάθησης και συμπεράσματα για εφαρμογές AI.

Όμως, το TensorFlow Lite είναι ένα πλαίσιο βαθιάς μάθησης για τοπικές συμπεράσματα, ειδικά για το χαμηλό υπολογιστικό υλικό. Επιτρέπει τη μηχανική εκμάθηση στη συσκευή βοηθώντας τους προγραμματιστές να εκτελούν τα μοντέλα τους σε συμβατό υλικό και συσκευές IoT.

Ένας προγραμματιστής πρέπει να επιλέξει ένα κατάλληλο μοντέλο ανάλογα με την περίπτωση χρήσης. Το πλαίσιο δίνει επίσης μια επιλογή επανεκπαίδευσης του υπάρχοντος μοντέλου σε ένα προσαρμοσμένο σύνολο δεδομένων. Καθώς το μοντέλο buffer του πρωτοκόλλου TensorFlow διαθέτει μεγάλο μέγεθος και απαιτεί προηγμένη υπολογιστική ισχύ, έτσι επιτρέπει τη μετατροπή του μοντέλου TensorFlow στο μοντέλο TensorFlow Lite.

Η προσαρμογή των παραμέτρων βελτιστοποίησης και ποσοτικοποίησης επιτρέπει τη μείωση του μεγέθους και της καθυστέρησης του μοντέλου.

Εκτός από τα οφέλη καθυστέρησης και μεγέθους του TensorFlow Lite, το πλαίσιο παρέχει την ασφάλεια των δεδομένων καθώς η εκπαίδευση πραγματοποιείται τοπικά στη συσκευή. Επιπλέον, δεν υπάρχει ανάγκη σύνδεσης στο Διαδίκτυο. Έτσι, η ανάπτυξη εφαρμογών δεν περιορίζεται σε συγκεκριμένες περιοχές με δυνατότητα σύνδεσης.

Αυτοί οι παράγοντες μειώνουν τελικά το φορτίο κατανάλωσης ισχύος στη συσκευή, εξαλείφοντας τον παράγοντα συνδεσιμότητας και αυξάνοντας την αποτελεσματικότητα του συμπεράσματος βαθιάς μάθησης.

Τα μοντέλα του πλαισίου TensorFlow Lite υπάρχουν σε μορφή cross-platform γνωστή ως FlatBuffers. Είναι μια βιβλιοθήκη σειριοποίησης που αποθηκεύει ιεραρχικά δεδομένα σε ένα επίπεδο δυαδικό buffer, έτσι ώστε η άμεση πρόσβαση να είναι δυνατή χωρίς αποσυσκευασία. Μπορείτε επίσης να παρατηρήσετε την επέκταση ".tflite" για τα μοντέλα TensorFlow Lite. Αυτή η τεχνική αναπαράστασης επιτρέπει βελτιστοποιήσεις σε υπολογισμούς και μειώνει τις απαιτήσεις μνήμης. Ως εκ τούτου, το καθιστά πολύ καλύτερο από τα μοντέλα TensorFlow

TinyML στο TensorFlow Lite Micro

Καθώς το TensorFlow Lite είναι συμβατό με διάφορες πλατφόρμες για εφαρμογές Edge AI, ήταν απαραίτητη η ανάγκη περαιτέρω σύγκλισης της βιβλιοθήκης. Ως εκ τούτου, ο οργανισμός βρήκε μια βιβλιοθήκη υποσυνόλων του TensorFlow Lite, γνωστή ως TensorFlow Lite Micro. Το TensorFlow Lite Micro εκτελεί συγκεκριμένα μοντέλα μηχανικής εκμάθησης σε μικροελεγκτές τοπικά με ελάχιστες απαιτήσεις μνήμης περίπου μερικά kilobytes.

Ο βασικός χρόνος εκτέλεσης της διαδικασίας ενσωματώνεται με 16KB σε Arm Cortex M3 και μπορεί να λειτουργήσει σε διάφορα μοντέλα. Το πλαίσιο δεν απαιτεί πρόσθετη υποστήριξη λειτουργικού συστήματος ή άλλες βιβλιοθήκες γλωσσών υψηλού επιπέδου ως εξαρτήσεις για την εκτέλεση του συμπεράσματος στη συσκευή.

Η ανάπτυξη των ριζών TensorFlow Lite Micro σε C ++ 11, η οποία χρειάζεται αρχιτεκτονική 32-bit για συμβατότητα. Μιλώντας περισσότερα για τις αρχιτεκτονικές, η βιβλιοθήκη λειτουργεί καλά σε μια ισχυρή γκάμα επεξεργαστών με βάση την αρχιτεκτονική Arm Cortex-M Series σε άλλους σχεδιαστικές αρχιτεκτονικές όπως το ESP32.

Ροή εργασίας για θήκες TensorFlow Lite Micro

Η διαδικασία εκπαίδευσης του νευρικού δικτύου απαιτεί υψηλό υπολογιστικό υλικό. Κατά συνέπεια, εκπαιδεύεται στο στρατηγό Μοντέλο TensorFlow. Ωστόσο, η εκπαίδευση απαιτείται μόνο εάν ένα προσαρμοσμένο σύνολο δεδομένων ταιριάζει σε ένα μοντέλο βαθιάς μάθησης, ενώ τα προ-εκπαιδευμένα μοντέλα στο πλαίσιο μπορούν επίσης να χρησιμοποιηθούν για τις εφαρμογές.

Υποθέτοντας μια περίπτωση προσαρμοσμένης χρήσης με το σύνολο δεδομένων για συγκεκριμένη εφαρμογή, ο χρήστης εκπαιδεύει το μοντέλο στο γενικό πλαίσιο TensorFlow με υψηλή ικανότητα επεξεργασίας και αρχιτεκτονική. Μόλις τελειώσει η εκπαίδευση, η αξιολόγηση του μοντέλου χρησιμοποιώντας τεχνικές δοκιμών επαληθεύει την ακρίβεια και την αξιοπιστία του μοντέλου. Περαιτέρω, η διαδικασία ακολουθείται από τη μετατροπή του μοντέλου TensorFlow σε μοντέλο TensorFlow Lite συμβατό με υλικό σε μορφή .tflite.

Η μορφή .tflite είναι ένα επίπεδο επίπεδο buffer κοινό για το πλαίσιο TensorFlow Lite και συμβατό υλικό. Το μοντέλο μπορεί περαιτέρω να χρησιμοποιηθεί για εκπαίδευση συμπερασμάτων σχετικά με τα δεδομένα σε πραγματικό χρόνο που λαμβάνονται στο μοντέλο. Η εκπαίδευση συμπερασμάτων βελτιστοποίησε τα μοντέλα για ισχυρές περιπτώσεις χρήσης. Ως εκ τούτου, η επιλογή της κατάρτισης συμπερασμάτων είναι ζωτικής σημασίας για το άκρο Εφαρμογές AI.

Το μεγαλύτερο μέρος του υλικολογισμικού του μικροελεγκτή δεν υποστηρίζει το εγγενές σύστημα αρχείων για άμεση ενσωμάτωση της μορφής επίπεδου buffer του μοντέλου TensorFlow Lite. Ως εκ τούτου, η μετατροπή του αρχείου .tflite είναι απαραίτητη σε μορφή δομής πίνακα, η οποία είναι συμβατή με τους μικροελεγκτές.

Η συμπερίληψη του προγράμματος στη συστοιχία C ακολουθούμενη από κανονική συλλογή είναι μια εύκολη τεχνική για μια τέτοια μετατροπή. Η προκύπτουσα μορφή λειτουργεί ως αρχείο προέλευσης και αποτελείται από έναν πίνακα χαρακτήρων συμβατό με τους μικροελεγκτές.

Συσκευές που υποστηρίζουν TensorFlow Lite Micro

Το TensorFlow Lite είναι κατάλληλο για ισχυρές συσκευές, αλλά συνοδεύεται από το μειονέκτημα του μεγαλύτερου φόρτου εργασίας στον επεξεργαστή. Παρόλο που το TensorFlow Lite Micro έχει αρχεία μικρού μεγέθους που είναι επιρρεπή σε υποπροσαρμογή, βελτιστοποιώντας αυτό το μέγεθος αρχείου ταιριάζει η μνήμη μπορεί να βελτιώσει σημαντικά την παραγωγή για χαμηλή ισχύ και χαμηλή επεξεργασία υλικού όπως μικροελεγκτές

Ακολουθεί η λίστα με πίνακες ανάπτυξης από την επίσημη τεκμηρίωση του TensorFlow που υποστηρίζει το TensorFlow Lite Micro:

• Arduino Nano 33 BLE Sense
• SparkFun Edge
• Κιτ ανακάλυψης STM32F746
• Adafruit EdgeBadge
• Κιτ Adafruit TensorFlow Lite για μικροελεγκτές
• Παιδική χαρά Adafruit Circuit Bluefruit
• Espressif ESP32-DevKitC
• Εσπρέιφ ESP-EYE
• Τερματικό Wio: ATSAMD51
• Himax WE-I Plus EVB Endpoint AI Development Board

Το TensorFlow Lite Micro είναι επίσης διαθέσιμο ως βιβλιοθήκη Arduino για εκτεταμένη υποστήριξη για μικροελεγκτές. Μπορεί επίσης να δημιουργήσει έργα για περιβάλλοντα ανάπτυξης υλικού παρόμοια με το Mbed.

Το TensorFlow Lite προσφέρει πολλά

Το πλαίσιο βαθιάς μάθησης TensorFlow Lite ανοίγει τις δυνατότητες σε μια σειρά εφαρμογών AI αιχμής. Καθώς το πλαίσιο είναι ανοιχτού κώδικα για τους λάτρεις της τεχνητής νοημοσύνης, η υποστήριξη της κοινότητας το καθιστά ακόμη πιο δημοφιλές για περιπτώσεις χρήσης μηχανικής μάθησης. Η συνολική πλατφόρμα του TensorFlow Lite βελτιώνει το περιβάλλον για την ανάπτυξη εφαρμογών αιχμής για ενσωματωμένες συσκευές και συσκευές IoT

Επιπλέον, υπάρχουν διάφορα παραδείγματα για τους αρχάριους για να τους βοηθήσουν με τις πρακτικές περιπτώσεις χρήσης στο πλαίσιο. Μερικά από αυτά τα παραδείγματα περιλαμβάνουν ανίχνευση προσώπων ανάλογα με τα δεδομένα που συλλέγονται από τον αισθητήρα εικόνας του πίνακα ανάπτυξης και το τυπικό πρόγραμμα hello world για όλους τους πίνακες ανάπτυξης. Τα παραδείγματα περιλαμβάνουν επίσης εφαρμογές όπως ανίχνευση χειρονομίας και αναγνώριση ομιλίας για συγκεκριμένους πίνακες ανάπτυξης.

Για περισσότερες πληροφορίες σχετικά με το TensorFlow Lite και TensorFlow Lite Micro, μπορείτε να επισκεφθείτε τη σελίδα επίσημης τεκμηρίωσης του οργανισμού. Υπάρχουν πολλές εννοιολογικές καθώς και ενότητες φροντιστηρίου για καλύτερη κατανόηση του πλαισίου.

Ξεκινήστε με την αναγνώριση εικόνας χρησιμοποιώντας TensorFlow και Raspberry Pi

Θέλετε να αντιμετωπίσετε την αναγνώριση εικόνας; Χάρη στο Tensorflow και ένα Raspberry Pi, μπορείτε να ξεκινήσετε αμέσως.

Διαβάστε Επόμενο

Σχετικά με τον Συγγραφέα