Τι είναι το On-Device AI και πώς λειτουργεί;

Βασικά Takeaways

• Η τεχνητή νοημοσύνη στη συσκευή αναφέρεται σε δυνατότητες τεχνητής νοημοσύνης που εκτελούνται τοπικά σε μια συσκευή χωρίς σύνδεση στο διαδίκτυο, παρέχοντας απόρρητο και ταχύτερη επεξεργασία.
• Με την τεχνητή νοημοσύνη στη συσκευή, τα smartphone μπορούν να εκτελούν εντυπωσιακές εργασίες, όπως η γρήγορη δημιουργία εικόνων, η παροχή εξατομικευμένων βοηθών τεχνητής νοημοσύνης και η βελτίωση των γραφικών και της ποιότητας ήχου του παιχνιδιού.
• Εταιρείες όπως η Qualcomm ενσωματώνουν εξειδικευμένο υλικό στις συσκευές τους για να βελτιστοποιήσουν το AI στη συσκευή απόδοση, παρέχοντας προηγμένες δυνατότητες όπως έξυπνους βοηθούς, μετάφραση σε πραγματικό χρόνο και αυτοματοποιημένη ΕΠΕΞΕΡΓΑΣΙΑ ΦΩΤΟΓΡΑΦΙΑΣ.

Από chatbots μέχρι αυτοοδηγούμενα αυτοκίνητα, η τεχνητή νοημοσύνη μεταμορφώνει το τεχνολογικό τοπίο. Ένας τομέας όπου η υιοθέτηση της τεχνητής νοημοσύνης επιταχύνεται γρήγορα είναι οι καταναλωτικές συσκευές όπως τα smartphone. Οι τεχνολογικοί γίγαντες αγωνίζονται για να ενσωματώσουν τις δυνατότητες AI στη συσκευή στο πιο πρόσφατο υλικό και λογισμικό τους.

Αλλά τι ακριβώς είναι το AI στη συσκευή και πώς λειτουργεί;

Τι είναι το AI On-Device και πώς λειτουργεί

Σήμερα, η τεχνητή νοημοσύνη των καταναλωτών τροφοδοτείται από τεράστια σύνολα δεδομένων που είναι αποθηκευμένα στο cloud. Ωστόσο, Η μεταφόρτωση προσωπικών δεδομένων σε διακομιστές τεχνητής νοημοσύνης δεν είναι καλή για το απόρρητο. Εκεί έρχεται η τεχνητή νοημοσύνη στη συσκευή.

Το AI στη συσκευή αναφέρεται σε δυνατότητες τεχνητής νοημοσύνης που εκτελούνται τοπικά σε μια συσκευή και όχι στο cloud. Αυτό σημαίνει ότι η επεξεργασία AI πραγματοποιείται απευθείας στο τηλέφωνο, το tablet ή άλλες συσκευές σας χωρίς σύνδεση στο διαδίκτυο.

Δείτε πώς λειτουργεί κάτω από το καπό: αρέσει στα μοντέλα AI Stable Diffusion, DALLE-E, Midjourney, κ.λπ., εκπαιδεύονται στο cloud χρησιμοποιώντας πολλά δεδομένα και υπολογιστική ισχύ. Αυτά τα μοντέλα στη συνέχεια βελτιστοποιούνται για να λειτουργούν αποτελεσματικά στις συσκευές-στόχους. Τα βελτιστοποιημένα μοντέλα AI ενσωματώνονται σε εφαρμογές και μεταφορτώνονται στη συσκευή κάθε χρήστη. Τα δεδομένα της εφαρμογής παραμένουν απομονωμένα σε έναν ασφαλή θύλακα.

Όταν η εφαρμογή χρειάζεται να εκτελέσει μια εργασία όπως η αναγνώριση ενός ήχου ή η αναγνώριση ενός αντικειμένου σε μια φωτογραφία, εκτελεί το μοντέλο AI τοπικά χρησιμοποιώντας την ενσωματωμένη CPU ή GPU της συσκευής. Το μοντέλο AI επεξεργάζεται τα δεδομένα εισόδου και δημιουργεί μια πρόβλεψη ή αποτέλεσμα εξόδου χωρίς να στέλνει δεδομένα εξωτερικά.

Όλα αυτά συμβαίνουν εξ ολοκλήρου στη συσκευή σας, διατηρώντας τις αλληλεπιδράσεις σας ιδιωτικές.

Πώς μπορεί να σας ωφελήσει το AI στη συσκευή

Το AI στη συσκευή επιτρέπει εντυπωσιακές δυνατότητες στη συσκευή σας. Αυτό περιλαμβάνει τη γρήγορη δημιουργία εικόνων με τη χρήση μοντέλων όπως το Stable Diffusion, όπου οι εικόνες μπορούν να δημιουργηθούν σε δευτερόλεπτα, κάτι που είναι εκπληκτικό. Αυτό θα μπορούσε να είναι υπέροχο εάν θέλετε να δημιουργήσετε γρήγορα εικόνες και φόντο για τις αναρτήσεις σας στα μέσα κοινωνικής δικτύωσης. Και δεδομένου ότι υποβάλλεται σε τοπική επεξεργασία, τα μηνύματα προτροπής για την εικόνα παραμένουν ιδιωτικά.

Ένας βοηθός AI μπορεί επίσης να τροφοδοτηθεί τοπικά, παρέχοντας μια εξατομικευμένη εμπειρία με βάση τα δεδομένα και τις προτιμήσεις σας, όπως αγαπημένες δραστηριότητες και επίπεδα φυσικής κατάστασης. Μπορεί να κατανοήσει τη φυσική γλώσσα για εργασίες όπως η επεξεργασία φωτογραφιών και βίντεο. Για παράδειγμα, μπορεί να μπορείτε να πείτε "αφαίρεση του ατόμου στα αριστερά" για να επεξεργαστείτε μια εικόνα αμέσως.

Για τη φωτογραφία, η τεχνητή νοημοσύνη στη συσκευή μπορεί να ενεργοποιήσει λειτουργίες όπως η επέκταση των περιγραμμάτων εικόνας (παρόμοια με Η δυνατότητα πλήρωσης του Photoshop), χρησιμοποιώντας ταυτόχρονη μπροστινή και πίσω κάμερα για εφέ βίντεο και επεξεργασία διαφορετικών επιπέδων ανεξάρτητα.

Τα γραφικά gaming μπορούν επίσης να επωφεληθούν από την τεχνητή νοημοσύνη στη συσκευή μέσω της αναβάθμισης της ανάλυσης έως και 8K, της επιτάχυνσης της ανίχνευσης ακτίνων για ρεαλιστικό φωτισμό και του αποτελεσματικού διπλασιασμού των ρυθμών καρέ. Όσον αφορά τον ήχο, η τεχνητή νοημοσύνη στη συσκευή μπορεί να ενεργοποιήσει τον συγχρονισμό ήχου σε πραγματικό χρόνο, ώστε ο ήχος σας από βίντεο και παιχνίδια να μην είναι ποτέ εκτός συγχρονισμού. Επιτρέπει επίσης κρυστάλλινες κλήσεις και μουσική ακόμα κι αν μπείτε σε άλλο δωμάτιο.

Συνολικά, η τεχνητή νοημοσύνη στη συσκευή ευθυγραμμίζεται με αυτό που θέλουν πολλοί χρήστες—γρήγορα αποτελέσματα και απόρρητο—καθώς διατηρεί περισσότερη τοπική επεξεργασία αντί για το cloud.

Το AI στη συσκευή φέρνει ταχύτερες και περισσότερες ιδιωτικές εμπειρίες AI

Το AI στη συσκευή είναι αρκετά προσεγμένο. Επιτρέπει στα τηλέφωνά μας και σε άλλα gadget μας να εκτελούν προηγμένους αλγόριθμους AI τοπικά χωρίς να χρειάζεται να συνδεθούν στο cloud και χωρίς καθυστέρηση.

Εταιρείες όπως η Qualcomm συσκευάζουν ήδη τα πιο πρόσφατα τσιπ τους με εξειδικευμένο υλικό για να λειτουργούν αποτελεσματικά τα νευρωνικά δίκτυα στις συσκευές μας. Για παράδειγμα, ο Snapdragon 8 Gen 3 της Qualcomm υποστηρίζει έως και 24 GB (σε smartphone!), έχει ενσωματωμένη υποστήριξη για το Stable Diffusion και Llama 2 και χρησιμοποιεί το AI Stack της Qualcomm για να προσφέρει μερικές από τις καλύτερες επιδόσεις AI στη συσκευή αυτή τη στιγμή χρόνος.

Έτσι, με κάθε νέα γενιά smartphones, περιμένετε να δείτε ακόμη πιο ισχυρές δυνατότητες AI στη συσκευή για πράγματα όπως ευφυείς βοηθοί, μετάφραση σε πραγματικό χρόνο, αυτοματοποιημένη επεξεργασία φωτογραφιών και αστραπιαία δημιουργία εικόνας AI γενιά.