Σύμφωνα με αναφορές, το άκρο του chip του ανάντη του NVIDIA AI GPU H200 εισήλθε στην περίοδο μαζικής παραγωγής στο τέλος του Q2 και αναμένεται να παραδοθεί σε μεγάλες ποσότητες μετά το Q3.Αλλά το πρόγραμμα εκτόξευσης της πλατφόρμας Nvidia Blackwell είναι τουλάχιστον ένα έως δύο τέταρτα μπροστά από το χρονοδιάγραμμα, γεγονός που επηρεάζει την προθυμία των τελικών πελατών να αγοράσουν H200.
Η αλυσίδα εφοδιασμού επισημαίνει ότι επί του παρόντος, οι παραγγελίες του πελάτη που περιμένουν την αποστολή εξακολουθούν να συγκεντρώνονται κυρίως στην αρχιτεκτονική HGX του H100, με περιορισμένο ποσοστό H200.Στο Q3, το H200 που θα παραχθεί και θα παραδοθεί μαζικά είναι κυρίως NVIDIA DGX H200.Όσο για το B100, έχει ήδη μερική ορατότητα και αναμένεται να αποσταλεί το πρώτο εξάμηνο του επόμενου έτους.
Ως επαναληπτικό προϊόν αναβάθμισης της GPU H100, το H200 υιοθετεί για πρώτη φορά την τεχνολογία μνήμης HBM3E υψηλής εύρους ζώνης με βάση την προηγμένη αρχιτεκτονική χοάνης, επιτυγχάνοντας ταχύτερη ταχύτητα μεταφοράς δεδομένων και μεγαλύτερη χωρητικότητα μνήμης, ειδικά δείχνοντας σημαντικά πλεονεκτήματα για εφαρμογές μοντέλων γλωσσών μεγάλης κλίμακας.Σύμφωνα με τα επίσημα στοιχεία που δημοσίευσε η NVIDIA, όταν ασχολείται με σύνθετα μεγάλα γλωσσικά μοντέλα, όπως το LLAMA2 της Meta, το H200 έχει μέγιστη βελτίωση 45% στην γενετική ταχύτητα απόκρισης εξόδου AI σε σύγκριση με το H100.
Το H200 είναι τοποθετημένο ως ένα άλλο προϊόν ορόσημο της NVIDIA στον τομέα του AI Computing, όχι μόνο που κληρονομεί τα πλεονεκτήματα του H100, αλλά και την επίτευξη σημαντικών ανακαλύψεων στην απόδοση της μνήμης.Με την εμπορική εφαρμογή του H200, η ζήτηση για μνήμη υψηλού εύρους ζώνης αναμένεται να συνεχίσει να αυξάνεται, γεγονός που θα οδηγήσει περαιτέρω την ανάπτυξη ολόκληρης της αλυσίδας βιομηχανίας υλικού πληροφορικής AI, ειδικά των ευκαιριών της αγοράς για τους προμηθευτές που σχετίζονται με την HBM3E.
Η GPU B100 θα υιοθετήσει τεχνολογία υγρού ψύξης.Η διάχυση της θερμότητας έχει γίνει ένας βασικός παράγοντας για τη βελτίωση της απόδοσης των τσιπ.Το TDP της GPU NVIDIA H200 είναι 700W, ενώ εκτιμάται συντηρητικά ότι το TDP του B100 είναι κοντά σε κιλοβάτ.Η παραδοσιακή ψύξη αέρα ενδέχεται να μην είναι σε θέση να ικανοποιήσει τις απαιτήσεις διασποράς θερμότητας κατά τη διάρκεια της λειτουργίας των τσιπ και η τεχνολογία διασποράς θερμότητας θα καινοτομεί διεξοδικά καινοτομία στην υγρή ψύξη.
Ο Διευθύνων Σύμβουλος της NVIDIA Huang Renxun δήλωσε ότι ξεκινώντας από την B100 GPU, η τεχνολογία ψύξης όλων των προϊόντων στο μέλλον θα μετατοπιστεί από την ψύξη αέρα σε υγρή ψύξη.Η Galaxy Securities πιστεύει ότι το B100GPU της Nvidia έχει τουλάχιστον διπλάσια απόδοση του H200 και θα υπερβεί τέσσερις φορές αυτή του H100.Η βελτίωση της απόδοσης των τσιπ οφείλεται εν μέρει σε προηγμένες διαδικασίες και από την άλλη πλευρά, η διάχυση της θερμότητας έχει καταστεί βασικός παράγοντας για τη βελτίωση της απόδοσης των τσιπ.Το TDP της GPU H200 της NVIDIA είναι 700W, η οποία εκτιμάται ότι είναι κοντά σε κιλοβάτ.Η παραδοσιακή ψύξη αέρα μπορεί να μην είναι σε θέση να καλύψει τις ανάγκες διάχυσης θερμότητας κατά τη διάρκεια της λειτουργίας του τσιπ και η τεχνολογία διάχυσης θερμότητας θα επανέλθει πλήρως προς την ψύξη υγρών.
