Η Google ανακοίνωσε τη Δευτέρα δύο νέους δικούς της επεξεργαστές τεχνητής νοημοσύνης, τον TPU 8tx και τον TPU 8i Max, διευρύνοντας τη γκάμα της όγδοης γενιάς των TPU. Η ανακοίνωση έγινε από τον Amin Vahdat, επικεφαλής τεχνολογίας και αντιπρόεδρο της εταιρείας για την τεχνητή νοημοσύνη και τις υποδομές, και αποτελεί, όπως σημειώνει ο ίδιος, την πρώτη φορά που η εταιρεία παρουσιάζει τέσσερα συστήματα TPU μέσα σε ένα έτος.
Τι κάνει κάθε επεξεργαστής
Ο TPU 8tx απευθύνεται σε εμπιστευτικά φορτία, δηλαδή σε τράπεζες, ασφαλιστικές, δημόσιους οργανισμούς και επιχειρήσεις που τρέχουν ιδιόκτητα μοντέλα και αυτόνομους πράκτορες πάνω σε ευαίσθητα δεδομένα. Βασίζεται στο ίδιο πυρίτιο με τον TPU 8t, συνδυάζεται με επεξεργαστές AMD EPYC πέμπτης γενιάς και υπόσχεται έως και διπλάσια μικρότερη καθυστέρηση σε σχέση με τον TPU 8t, με σχεδόν μηδενικό κόστος σε απόδοση.
Ο TPU 8i Max στοχεύει στο λεγόμενο τείχος της μνήμης, δηλαδή στα φορτία με πολύ μεγάλα παράθυρα συμφραζομένων, όπως όταν δεκάδες πράκτορες δουλεύουν ταυτόχρονα πάνω σε έναν ολόκληρο κώδικα ή σε ώρες βίντεο. Συνδυάζει δύο πλακίδια TPU 8i σε μία συσκευασία και προσφέρει διπλάσια υπολογιστική ισχύ, διπλάσια μνήμη SRAM και διπλάσιο εύρος ζώνης μνήμης HBM, χωρίς να αλλάζει το αποτύπωμα του υφιστάμενου rack.
Οι αριθμοί που επικαλείται η εταιρεία
Για την προηγούμενη γενιά, η Google αναφέρει έως και 2,7 φορές καλύτερη απόδοση στην εκπαίδευση για τον TPU 8t και 80% καλύτερη σχέση κόστους προς απόδοση στην εκτέλεση μοντέλων για τον TPU 8i. Σε επίπεδο λογισμικού, κάνει λόγο για μείωση άνω του 90% στον χρόνο της πρώτης απόκρισης μέσω του εργαλείου TPU Sync και για πενταπλάσια ταχύτερη εκκίνηση εργασιών. Η εταιρεία αναφέρει πως οι πελάτες των TPU πλησιάζουν τους εκατό και περιλαμβάνουν εργαστήρια τεχνητής νοημοσύνης, εταιρείες συναλλαγών, αλυσίδες λιανικής και πανεπιστήμια.
Τι σημαίνει πρακτικά για τον επενδυτή
Η είδηση αφορά λιγότερο τα τεχνικά χαρακτηριστικά και περισσότερο τη δομή της αγοράς επιταχυντών. Οι μεγάλοι πάροχοι υπολογιστικού νέφους σχεδιάζουν πλέον μόνοι τους τσιπ για τα δικά τους κέντρα δεδομένων, κάτι που περιορίζει τη διαπραγματευτική τους εξάρτηση από τους εμπορικούς προμηθευτές κάρτων γραφικών και μεσοπρόθεσμα απειλεί τα εξαιρετικά υψηλά περιθώρια κέρδους του κλάδου. Χρειάζεται όμως ψυχραιμία σε δύο σημεία, ότι όλες οι μετρήσεις απόδοσης προέρχονται από την ίδια την εταιρεία και ότι η ανακοίνωση δεν συνοδεύτηκε από ημερομηνία διαθεσιμότητας, οπότε η επίδραση στα έσοδα δεν είναι άμεση.
Πηγές στοιχείων, επίσημη ανακοίνωση της Google.
Το παρόν έχει ενημερωτικό χαρακτήρα και δεν αποτελεί επενδυτική συμβουλή ή σύσταση αγοράς ή πώλησης.
