Η Microsoft ανακοίνωσε τη Δευτέρα 12 Οκτωβρίου το Maia 300, την τρίτη γενιά του δικού της επεξεργαστή για τεχνητή νοημοσύνη, με στόχο να καλύπτει εσωτερικά μεγαλύτερο μέρος των αναγκών της σε υπολογιστική ισχύ. Κάθε επιταχυντής διαθέτει οκτώ στοίβες μνήμης HBM4 συνολικής χωρητικότητας 288 GB και εύρος ζώνης 18 TB ανά δευτερόλεπτο, ενώ οι υπολογιστικές ψηφίδες κατασκευάζονται στη διαδικασία N2P της TSMC. Η μετοχή της Microsoft κινήθηκε στα 537,99 δολάρια με άνοδο 0,55%, ενώ η Nvidia υποχώρησε 0,51% στα 228,12 δολάρια και η AMD 1,03% στα 601,84 δολάρια.
Τι αλλάζει τεχνικά σε σχέση με την προηγούμενη γενιά
Η εταιρεία τοποθετεί 96 επιταχυντές σε κάθε rack, σε 24 συρτάρια των τεσσάρων μονάδων, με συνολική κατανάλωση 167 κιλοβάτ. Η πυκνότητα είναι διπλάσια από εκείνη του Maia 200, που είχε παρουσιαστεί τον Ιανουάριο. Σε επίπεδο πλήρους rack η Microsoft κάνει λόγο για έως επτά φορές μεγαλύτερη παραγωγή tokens και για πάνω από 2,5 φορές καλύτερη σχέση απόδοσης προς κατανάλωση ενέργειας. Η υπολογιστική ισχύς αυξάνεται 36%, το εύρος ζώνης της μνήμης 2,5 φορές και η χωρητικότητα μνήμης 33%. Περισσότερο από το 80% του θερμικού φορτίου απομακρύνεται με υγρή ψύξη.
Η στρατηγική πίσω από το δικό του πυρίτιο
Το σύστημα είναι σχεδιασμένο κυρίως για inference, δηλαδή για την εκτέλεση ήδη εκπαιδευμένων μοντέλων και όχι για την εκπαίδευσή τους. Αυτό είναι το κομμάτι της αγοράς που μεγαλώνει ταχύτερα όσο τα μοντέλα περνούν σε μαζική εμπορική χρήση, και είναι επίσης εκείνο όπου το κόστος ανά απάντηση μετράει περισσότερο. Η Microsoft συνδέει έως 12.288 επιταχυντές σε ένα superpod, με 128 racks να επικοινωνούν μέσω οπτικού δικτύου. Ημερομηνία διαθεσιμότητας δεν δόθηκε, με την εταιρεία να παραπέμπει στο συνέδριο Ignite στα μέσα Νοεμβρίου.
Γιατί το προσέχουν οι προμηθευτές
Κάθε επιταχυντής που σχεδιάζει μόνη της μια εταιρεία cloud είναι ένας επιταχυντής που δεν αγοράζει από τρίτους. Η Microsoft παραμένει από τους μεγαλύτερους πελάτες της Nvidia και το Maia δεν αντικαθιστά τις αγορές της, δείχνει όμως την κατεύθυνση. Αντίστοιχα προγράμματα δικού τους πυριτίου έχουν ήδη σε εξέλιξη η Amazon και η Alphabet. Το πρακτικό αποτέλεσμα είναι μια σταδιακή μετατόπιση αξίας από τους σχεδιαστές επιταχυντών προς τα χυτήρια και τους κατασκευαστές μνήμης, που προμηθεύουν και τις δύο πλευρές.
Τι σημαίνει πρακτικά για τον επενδυτή
Για όποιον έχει θέσεις σε ημιαγωγούς, το μήνυμα δεν είναι ότι η ζήτηση για επιταχυντές μειώνεται, αλλά ότι ένα μέρος της εσωτερικοποιείται από τους ίδιους τους πελάτες. Τα περιθώρια κέρδους των προμηθευτών είναι πιθανότερο να πιεστούν από τη διαπραγματευτική δύναμη αυτών των πελατών παρά από κάμψη των όγκων. Οι εταιρείες με έκθεση στην κατασκευή, δηλαδή τα χυτήρια και η μνήμη υψηλού εύρους ζώνης, βρίσκονται σε πιο ουδέτερη θέση ανεξάρτητα από το ποιος σχεδιάζει τελικά το τσιπ.
Το παρόν έχει ενημερωτικό χαρακτήρα και δεν αποτελεί επενδυτική συμβουλή ή σύσταση αγοράς ή πώλησης.
Πηγές στοιχείων, Microsoft Azure, TSMC.
