Η Qualcomm και η OpenAI ανακοίνωσαν ένα σημαντικό βήμα για την AI στην AI την Τρίτη, αντανακλώντας μια ευρύτερη ώθηση της βιομηχανίας προς την επεξεργασία στην άκρη. Το νέο μοντέλο «GPT-OSS-20B» από το OpenAI μπορεί τώρα να τρέξει τοπικά σε υπολογιστές υψηλής ποιότητας με τσιπ Snapdragon. Αυτή είναι η πρώτη φορά που ένα από τα προηγμένα μοντέλα λογικής της OpenAI έχει διατεθεί για χρήση σε συσκευές. Προς το παρόν, αυτή η τεχνολογία απευθύνεται σε προγραμματιστές που χρησιμοποιούν υπολογιστές με 24GB μνήμης RAM, Εκτέλεση συμπερασμάτων απευθείας σε συσκευές που τροφοδοτούνται από τους μεταποιητές snapdragon . Ο chipmaker χαιρέτισε την ανάπτυξη ως”σημαντικό ορόσημο”και ως”σημείο καμπής”, φέρνοντας τις εξελιγμένες δυνατότητες συλλογιστικής αλυσίδας του OpenAI από το σύννεφο και για το τοπικό υλικό για πρώτη φορά. Αυτό επιτρέπει την επεξεργασία σε τοπικά πολύπλοκα καθήκοντα πολλαπλών βημάτων, ένα κρίσιμο βήμα προς τη δημιουργία πραγματικά προσωπικών βοηθών AI. Πρώιμη πρόσβαση στο μοντέλο. Η εταιρεία πραγματοποίησε εκτεταμένες δοκιμές ενσωμάτωσης, αξιοποιώντας την ιδιόκτησή της qualcomm ai κινητήρα href=”https://www.qualcomm.com/developer/artificial-intelligence”target=”_ blank”> qualcomm ai stack Για να βελτιστοποιηθεί το μοντέλο 20 δισεκατομμυρίων πατρίδα για την αποτελεσματική εκτέλεση της συσκευής. Αυτό το έργο καταδεικνύει αυτό που η Qualcomm καλεί την”ωριμότητα του οικοσυστήματος AI”, όπου η καινοτομία ανοιχτού κώδικα μπορεί να αξιοποιηθεί γρήγορα από τους συνεργάτες του υλικού. Κοινότητα ανοιχτού κώδικα και αντίπαλοι. Κάνοντας τα μοντέλα διαθέσιμα κάτω από μια επιτρεπτή άδεια Apache 2.0, το OpenAI ενθαρρύνει ευρεία υιοθεσία και παρέχει στους προγραμματιστές ισχυρά, διαφανή εργαλεία. Όχι για το τρέχον smartphone σας. Όπως το έθεσε μια αναφορά, μην κρατάτε την αναπνοή σας για να τρέξετε στο τσιπ του τηλεφώνου σας. Η ενσωμάτωση στοχεύει ειδικά στο υλικό του προγραμματιστή, κυρίως PCS που τροφοδοτούνται από το Snapdragon και αφιερωμένα κιτ ανάπτυξης. Αυτή η εστίαση απευθύνεται σε ερευνητές AI και επιχειρηματίες που θέλουν να δημιουργήσουν προσαρμοσμένες εφαρμογές σε ισχυρό τοπικό υλικό, αντί του μέσου χρήστη Android. Η εκτέλεση `GPT-OSS-20B` σε τοπικό επίπεδο μέσω της ενσωμάτωσης Qualcomm απαιτεί μια σημαντική 24GB μνήμης RAM, μια προδιαγραφή που είναι πολύ πέρα από την ικανότητα των σημερινών κινητών συσκευών καταναλωτών, οι οποίες συνήθως ξεπερνούν τα 12GB ή το 16GB. Αυτή η προϋπόθεση για το υλικό τοποθετεί σταθερά την τεχνολογία στον τομέα των υψηλών προδιαγραφών και των επαγγελματικών σταθμών εργασίας για τώρα, ιδιαίτερα εκείνοι που εκτελούν το Snapdragon X Elite Chipset. Στην επίσημη ανακοίνωσή της, η εταιρεία δήλωσε:”Πιστεύουμε ότι η δυνατότητα AI AI θα αυξηθεί γρήγορα, ανοίγοντας την πόρτα σε ιδιωτικές, χαμηλές λανθάνουσες, εξατομικευμένες εμπειρίες πρακτορείων”. Αυτό υποδηλώνει έναν μακροπρόθεσμο χάρτη πορείας όπου, ως Τα κινητά μέσα μνήμης θα συνεχίσουν να αναπτύσσονται και να στοίβες που θα μεταναστεύσουν και το Phole in the effertic. Pocket.
Γιατί η on-device θέματα: η ιδιωτική ζωή, η ταχύτητα και η εξατομίκευση
Η στρατηγική ώθηση για AI, ένα όραμα Qualcomm έχει από καιρό προορίζεται, οδηγείται από ένα τρίο σαφούς και επινοητικής παροχής χρηστών: Προστασία, ταχύτητα και εξατομίκευση. Η επεξεργασία δεδομένων τοπικά μεταβάλλει θεμελιωδώς την εξίσωση ασφαλείας εξαλείφοντας την ανάγκη αποστολής ευαίσθητων πληροφοριών στο σύννεφο. Αυτό σημαίνει ότι τα καθήκοντα μπορούν να ολοκληρωθούν εκτός σύνδεσης, χωρίς σύνδεση στο διαδίκτυο και τα δεδομένα χρήστη παραμένουν με ασφάλεια στη συσκευή, ένα κρίσιμο πλεονέκτημα τόσο για προσωπικές όσο και για επιχειρηματικές εφαρμογές όπου η κυριαρχία των δεδομένων είναι πρωταρχική. Με την κατάργηση του στρογγυλού ταξιδιού σε ένα μακρινό κέντρο δεδομένων, οι αλληλεπιδράσεις γίνονται ταχύτερες και πιο ευαίσθητες. Όπως σημειώνει μία αναφορά, αυτό θα μπορούσε να σημαίνει ταχύτερες απαντήσεις και χωρίς καθυστερήσεις εάν η σύνδεση στο Διαδίκτυο είναι αρκετά καλή. Αυτό είναι ζωτικής σημασίας για τη δημιουργία των απρόσκοπτων, σε πραγματικό χρόνο συνομιλητικές εμπειρίες που αναμένονται από προηγμένους βοηθούς AI. Η ικανότητα να εκτελείται πολύπλοκα καθήκοντα λογικής αμέσως, χωρίς καθυστέρηση, αποτελεί ακρογωνιαίο λίθο της αίσθησης του AI πραγματικά ενσωματωμένου και χρήσιμου. Ένας πράκτορας on-device θα μπορούσε να έχει πρόσβαση και λογική σε σχέση με τα ιδιωτικά μηνύματα ηλεκτρονικού ταχυδρομείου ενός χρήστη, το ημερολόγιο και τις επαφές για την παροχή βοήθειας συμφραζομένων, όλα χωρίς αυτά τα δεδομένα που εγκαταλείπουν ποτέ τη συσκευή. Για να γίνει αυτό πραγματικότητα για τους προγραμματιστές, η Qualcomm υπογράμμισε ότι το μοντέλο είναι προσβάσιμο μέσω δημοφιλών πλατφορμών. href=”https://ollama.com/library/gpt-oss:20b”target=”_ blank”> πλαίσια όπως το Ollama , ένα ελαφρύ πλαίσιο εξυπηρέτησης, για να τρέξει `gpt-oss-20b` απευθείας στις πλατφόρμες Snapdragon και να εξερευνήσει τις δυνατότητές του.
Αυτό το ορόσημο σε συσκευές συνδέεται εγγενώς με την ανανεωμένη αγκαλιά του OpenAI του κόσμου ανοιχτού κώδικα. Η απελευθέρωση «GPT-OSS» είναι μια άμεση απάντηση στα χρόνια κριτικής για την κλειστή προσέγγισή της και μια στρατηγική κίνηση για την αντιμετώπιση των αντίπαλων, όπως οι μετα-και κινεζικές εταιρείες τεχνολογίας ».
Για να εξασφαλιστεί η συνέπεια, η OpenAI ξεκίνησε επίσης την «Harmony», μια υποχρεωτική μορφή συνομιλίας για το «GPT-OSS». Κατασκευάζει συνομιλίες σε ξεχωριστά κανάλια για τη συλλογιστική και τη χρήση εργαλείων, δίνοντας στους προγραμματιστές κοκκώδους ελέγχου. Αυτό το συναίσθημα αντανακλάται από τους ηγέτες της κοινότητας, με τον Nathan Lambert του Ινστιτούτου Allen για το AI να επαινεί την κίνηση, λέγοντας:”Είναι πολύ καλό για την ανοιχτή κοινότητα.”