Der Chefwissenschaftler von Nvidia sprach kürzlich darüber, wie seine Forschungs- und Entwicklungsteams GPUs nutzen, um die Entwicklung neuer GPUs zu beschleunigen und zu verbessern. Vier komplexe und traditionell langsame Prozesse wurden bereits durch den Einsatz von Techniken des maschinellen Lernens (ML) und der künstlichen Intelligenz (KI) optimiert. In einem Beispiel kann durch den Einsatz von KI/ML beschleunigte Inferenz eine übliche iterative GPU-Designaufgabe von drei Stunden auf drei Sekunden verkürzt werden.
Bill Dally ist Chefwissenschaftler und SVP der Forschung bei Nvidia. HPC Wire hat eine gekürzte Version eines Vortrags zusammengestellt, den Dally auf der jüngsten GTC-Konferenz hielt und in dem er die Entwicklung und Verwendung von KI-Tools zur Verbesserung und Beschleunigung des GPU-Designs erörtert. Dally ist für etwa 300 Mitarbeiter verantwortlich, und diese klugen Köpfe arbeiten im Allgemeinen in den unten aufgeführten Forschungsgruppen.
In seinem Vortrag skizzierte Dally vier wichtige Bereiche des GPU-Designs, in denen KI/ML sehr effektiv eingesetzt werden kann: Abbildung des Spannungsabfalls, Vorhersage von Parasitika, Herausforderungen bei Platzierung und Routing und Automatisierung der Migration von Standardzellen. Werfen wir einen Blick auf die einzelnen Prozesse und darauf, wie KI-Tools der Nvidia-Forschung und -Entwicklung dabei helfen, sich auf die eigentliche Arbeit zu konzentrieren, anstatt darauf zu warten, dass die Computer ihre Arbeit tun.
Das Mapping des Spannungsabfalls zeigt den Designern, wo der Strom in neuen GPU-Designs verbraucht wird. Mit einem herkömmlichen CAD-Tool kann man diese Zahlen in etwa drei Stunden berechnen, sagt Dally. Einmal trainiert, kann Nvidias KI-Tool diesen Prozess jedoch auf drei Sekunden verkürzen. Eine solche Verkürzung der Bearbeitungszeit ist bei einem Prozess wie diesem, der iterativ ist, sehr hilfreich. Der Prozess bietet in seiner jetzigen Form eine Genauigkeit von 94 %, was der Preis für die enorme iterative Geschwindigkeitssteigerung ist.
Die Vorhersage von Parasiten mithilfe von KI ist für Dally besonders erfreulich. Er sagt, er habe viel Zeit als Schaltungsentwickler verbracht, und dieses neue KI-Modell verkürze einen langwierigen Prozess, für den mehrere Personen und Fachleute benötigt wurden. Auch in diesem Fall ist der Simulationsfehler mit <10 % recht gering. Durch die Verkürzung dieser traditionell langwierigen iterativen Prozesse kann ein Schaltungsentwickler kreativer und abenteuerlustiger sein.
Die Herausforderungen bei der Platzierung und Entflechtung sind wichtig für das Chipdesign, denn sie sind wie die Planung von Straßen in einem verkehrsreichen Ballungsgebiet. Wenn dies falsch gemacht wird, kommt es zu Verkehrs-(Daten-)Staus, die eine Umleitung oder Neuplanung des Layouts erfordern, um die Effizienz zu steigern. Der Einsatz von Graphischen Neuronalen Netzen (GNN) zur Analyse dieses Problems beim Chipdesign hilft, Problembereiche hervorzuheben und intelligent auf Probleme zu reagieren.
Schließlich ist die Automatisierung der Standard-Zellmigration mit Hilfe von KI ein weiteres sehr nützliches Werkzeug in Nvidias Chipdesign-Toolbox. Dally spricht von dem großen Aufwand, der früher erforderlich war, um ein Chipdesign beispielsweise von sieben auf fünf Nanometer zu migrieren. Durch den Einsatz von KI mit Verstärkungslernen konnten 92 % der Zellbibliothek mit diesem Tool ohne Fehler bei Designregeln oder elektrischen Regeln erstellt werden“, sagt er. Dies ist sehr willkommen, da es eine enorme Arbeitsersparnis mit sich bringt, und in vielen Fällen erhalten wir auch ein besseres Design“, fährt Dally fort.
Letztes Jahr auf der GTC betonte Dally in seinem Vortrag, wie wichtig es ist, der KI Priorität einzuräumen, und erzählte von den fünf verschiedenen Nvidia-Labors, die sich mit KI-Forschungsprojekten beschäftigen. Wir können es kaum erwarten, zu sehen und zu hören, ob Nvidias hauseigene KI-Tools wichtig für das Design der Ada Lovelace GPUs und deren Vorbereitung auf TSMC 5nm waren. Dally scheint anzudeuten, dass die Automatisierung der Migration von Standardzellen mithilfe von KI bei einigen 7nm-zu-5nm-Übergängen vor kurzem eingesetzt wurde.