H NVIDIA έχει κερδίσει πολλά χρήματα τον περασμένο χρόνο γιατί πολλές εταιρίες αγοράζουν τις προηγμένες GPU της εταιρείας για προϊόντα ΑΙ. Για αυτό , η NVIDIA ανακοίνωσε μια νέα γενιά καρτών γραφικών για τεχνητή νοημοσύνη και υπόσχεται να προσφέρει μεγαλύτερη ταχύτητα και απόδοση για υπηρεσίες τεχνητής νοημοσύνης.
Η NVIDIA ανακοίνωσε την GPU HGX H200, βασισμένη στην αρχιτεκτονική τσιπ Hopper της εταιρείας και την H200 Tensor Core GPU της. Δηλώνει:
Η NVIDIA H200 είναι η πρώτη GPU που προσφέρει HBM3e — ταχύτερη, μεγαλύτερη μνήμη για να τροφοδοτήσει την επιτάχυνση της γενετικής τεχνητής νοημοσύνης και των μεγάλων μοντέλων γλώσσας. Παράλληλα, προάγει την επιστημονική πληροφορική για φόρτους εργασίας HPC. Με το HBM3e, το NVIDIA H200 προσφέρει 141 GB μνήμης στα 4,8 terabyte ανά δευτερόλεπτο. Έχει σχεδόν διπλάσια χωρητικότητα και 2,4 φορές περισσότερο εύρος ζώνης σε σύγκριση με τον προκάτοχό του, το NVIDIA A100.
Το νέο τσιπ θα προσφέρει σχεδόν διπλάσια ταχύτητα όταν εκτελεί το μοντέλο μεγάλης γλώσσας Llama 2, σε σύγκριση με το H100.
Η εταιρεία δήλωσε ότι οι μεγαλύτερες υπηρεσίες cloud έχουν ήδη εγγραφεί για να αγοράσουν τη νέα GPU HGX H200. Μπορεί να χρησιμοποιηθεί σε διαμορφώσεις τεσσάρων και οκτώ κατευθύνσεων που είναι συμβατές με τα παλαιότερα συστήματα .
