Einstein lernt Cuda

Die erste Cuda-App für Einstein ist verfügbar. Nähere Informationen sind unter:
* First CUDA App for Windows available for Beta Test
* Einstein@Home Beta Testing
zu bekommen.

Die Cuda-App dient zunächst nur für Testzwecke. Bugs können im Forum von Einstein@Home gepostet werden.

Hier ein Paar Infos bezgl. Einstein und Cuda:

Für wen?
* BOINC ab Version 6.4.5
* NVidea Grafikkarte (s. hier) mit entsprechenden Treiber ab Version 181.x


Vorbereitungen unter Windows:
* Im BOINC Einstein auf "Keine neue Aufgaben" setzen und ggf. vorhandene Aufgaben zu Ende rechnen lassen oder abbrechen. Noch nicht angefangene Aufgaben brauchen nicht abgebrochen werden, sie starten nach der Umstellung automatisch mit Cuda.
* BOINC komplett beenden
* Cuda-Anwendung unter http://einstein.phys.uwm.edu/app_tes...elx86_cuda.zip runterladen und im Projektordner entpacken
* BOINC starten und Einstein auf "Neue Aufgaben zulassen" setzen

Zitat von ltom2607

Hier ein Paar Infos bezgl. Einstein und Cuda:

Für wen?
* BOINC ab Version 6.4.5
* NVidea Grafikkarte (s. hier) mit entsprechenden Treiber ab Version 181.x


Vorbereitungen unter Windows:
* Im BOINC Einstein auf "Keine neue Aufgaben" setzen und ggf. vorhandene Aufgaben zu Ende rechnen lassen oder abbrechen. Noch nicht angefangene Aufgaben brauchen nicht abgebrochen werden, sie starten nach der Umstellung automatisch mit Cuda.
* BOINC komplett beenden
* Cuda-Anwendung unter http://einstein.phys.uwm.edu/app_tes...elx86_cuda.zip runterladen und im Projektordner entpacken
* BOINC starten und Einstein auf "Neue Aufgaben zulassen" setzen

Da habe ich mal zwei Fragen dazu:

Ist die x86 auch für 64bit Systeme?
Kann man irgendwie kontrollieren, dass die CPU Kerne nicht Einstein rechnen?

Ich habe nämlich den Eindruck, dass bei meinem Versuch nix Cuda benutzt wurde aber ein normaler CPU-Kern. Grrrrrrr.!

Habe es auch mal ausprobiert, aber kriege nur Berechnungsfehler.

Zitat von Kalessin

Ist die x86 auch für 64bit Systeme?

Lt. HP Einstein müßten sie auch auf 64bit Systemen laufen.

Zitat von Kalessin

Kann man irgendwie kontrollieren, dass die CPU Kerne nicht Einstein rechnen?

Einfach im Taskmanager nachsehen, da dürften nur S5R5 Tasks laufen, die weiterhin per CPU gecruncht werden. ABP1 Task laufen auf GPU, dies kann du gut mit dem RivaTuner kontrollieren.

Zitat von ltom2607

Lt. HP Einstein müßten sie auch auf 64bit Systemen laufen.

Unter XP 64 läuft es, keine Probleme.

Ich bin mal faul und mache nur einen Link auf meinen Beitrag im Einstein-Forum.

Bis denn dann, Grubix.

Zitat von Grubix

Unter XP 64 läuft es, keine Probleme.

Ich bin mal faul und mache nur einen Link auf meinen Beitrag im Einstein-Forum.

Bis denn dann, Grubix.

Wo wir gerade dabei sind: Meintest du wirklich 5:10 Minuten im Vergleich zu 9:40 Stunden, oder beides Stunden?
Wenn das beides Stunden wären und 45% Ersparnis aber mit zusätzlichem CPU-Kern, dann wäre das ja immer noch megahypergrafikkartenpowerverschleuderung.

Und die GrafikkartenWUs (ABP) bekomme ich gar nicht erst und kann im Projekt auch keine Präferenz für die unterschiedlichen Projekte anhaken.

Zitat von Kalessin

... Meintest du wirklich 5:10 Minuten im Vergleich zu 9:40 Stunden, oder beides Stunden?

Ahhh...

Wie habe ich mich denn da verschrieben. Es sind beides Stunden, also knapp 10 Stunden zu gut 5 Stunden.

Blöd, ich kann meinen Beitrag nicht mehr editieren...

Zitat von Kalessin

... Wenn das beides Stunden wären und 45% Ersparnis aber mit zusätzlichem CPU-Kern, dann wäre das ja immer noch megahypergrafikkartenpowerverschleuderung.

Wie gesagt, beides Stunden. Mit CPU+GPU macht der Phenom 940 + GTX295 dann etwa 50Cr/h (pro Kern). Was man bei GPUGrid bekommt, brauche ich ja nicht vorrechnen.

Das ist bei Einstein ja der erste GPU-Test. So wie ich es verstanden habe, wird nur eine Rechnung (eine FFT) auf der Grafikkarte gemacht. Alles andere macht weiterhin die CPU. Sieht man auch an den Temperaturen und der Stromaufnahme, die GPU idlet fast vor sich hin.

Zitat von Kalessin

Und die GrafikkartenWUs (ABP) bekomme ich gar nicht erst und kann im Projekt auch keine Präferenz für die unterschiedlichen Projekte anhaken.

Grübel, sieht bei mir so aus:

Run only the selected applications   X  Arecibo Binary Pulsar Search
                                     X  Hierarchical all-sky pulsar search
                                     X  Hierarchical S5 all-sky GW search #5

Ich habe nur das Archiv in den Einstein-Ordner entpackt und BOINC wieder gestartet. Schon lief es.

Bis denn dann, Grubix.

Grübel, sieht bei mir so aus:

Code:

Run only the selected applications X Arecibo Binary Pulsar Search
X Hierarchical all-sky pulsar search
X Hierarchical S5 all-sky GW search #5

So siehts bei mir auch aus, aber ich kann nur das ABP Häckchen entfernen, die anderen nicht. Aber Itom hatte doch geschrieben, dass nur die ABPs mit GPU berechnet werden, die s5 aber auf der CPU.

Na, ich glaube ich warte mal, bis sich alle Klarheiten getrübt haben. So müsste ich bloß mit den ganzen CPU Task kämpfen, die sich Kerne schnappen wollen.

Wenn ich mich recht entsinne, überschreibt eine app_info.xml ohnehin die Subprojekteinstellungen. Wenn man darin alle S5R5-Einträge löscht, sollte man nur ABP-WUs bekommen. Einen CPU-Kern belegt die CUDA-App aber auf jeden Fall auch, das ist projektseitig derzeit so eingestellt.

Zitat von Kalessin

Und die GrafikkartenWUs (ABP) bekomme ich gar nicht erst und kann im Projekt auch keine Präferenz für die unterschiedlichen Projekte anhaken.

Dies kannst du in deinem Account unter "Einstein@Home Einstellungen / Run only the selected applications" machen. Mit ABP Wu´s ist "Arecibo Binary Pulsar Search" gemeint. Wenn du dort ein Hacken machst, müßte es funktionieren.

Zitat von Kalessin

... aber ich kann nur das ABP Häckchen entfernen, die anderen nicht.

Das ist bei mir auch so, ich habe alle drei Häkchen drin.

Merkwürdig, ich habe bei dem Test nur die ABP bekommen, keinen einzigen S5R5 für die CPU. Das war mir auch recht, hatte sehr viele Yoyos liegen, weil ich Einstein vor dem Test auf "keine neuen Aufgaben" gestellt hatte. Man sollte Einstein ja vorher leer laufen lassen, damit keine alten WUs defekt gehen.

Evtl. war das der Grund, BOINC hatte genug Arbeit für die CPU und wollte von Einstein nur GPU Tasks.

Die Test sind beendet. Ab sofort stehen Cuda Wu´s u. App zur Verfügung, die automatisch vom Manager heruntergeladen werden. Die App ist die gleiche wie zu den Test und verbraucht einen CPU-Kern!

Voraussetzung:
* NVidia GPU mit min. 450 MB freien Arbeitsspeicher
* Treiber ab Version 190.38 kompatible mit Cuda 2.3
* BOINC Manager ab Version 6.10.x
* Entsprechende Einstellungen im Account

Stimmt, vor ca. 1,5h sind bei mir 13 Stück eingetrudelt.

Bin mal gespannt was das gegenüber den zuvorigen Nur-CPU-Berechnungen an Zeitersparnis bringt.

Die bisherigen CUDA-WUs hatten eine Laufzeit von 18 - 19.000 s (8800 GTS, OC, X5365 Stock). Vergleichswerte zu 'normalen' WUs habe ich leider nicht...

Phenom II X4 940 + GTX 295:

Mit der CPU: 9 Stunden 40 Minuten.
Mit der GPU: 5 Stunden 10 Minuten.

Ich weiß jetzt aber nicht wie hoch der CPU-Verbrauch war, wenn die GPU benutzt wird.

Zitat von PinQuin

Bin mal gespannt was das gegenüber den zuvorigen Nur-CPU-Berechnungen an Zeitersparnis bringt.

Im Schnitt braucht's bei mir 'ne Stunde weniger, laut BoincTasks v0.29.

E8500, XP32, GTX260 (Treiber v190.62), BOINC 6.10.18

hmm Sind das die gleichen WU's wie auf der CPU? Dann ist die App grotig programiert.

Zitat von AgentSchatten(sdw)

hmm Sind das die gleichen WU's wie auf der CPU? Dann ist die App grotig programiert.

das sehe ich dann auch so.
z.B. brauche ich bei Collatz mit einer normalen 260 (216) 35 Minuten, mit einer 275 (240) 25 Minuten.
Auf der CPU hatte ich mal eine mit 100 Stunden!

Dann lohnt sich bei Einstein der Strom für die GPU nicht.

Gruß Rainer

Jup. Vor allem wenn 1 CPU Kern zusätzlich noch blockiert wird. 1h Ersparnis ist für den Mehrverbrauch durch die GPU gar nix.

Dass die CUDA-App ineffizient ist, ist nach den geposteten Werten wohl eindeutig. Aber davon darauf zu schließen, dass sie grottig programmiert sei, ist ein wenig voreilig. Grafikkarten sind nun einmal keine Allrounder, wie CPUs es sind. Das war bereits bei AQUA@home zu sehen und bei PG-AP26 wurde es eben auch (frühzeitig) erkannt, dass es nichts bringt, um jeden Preis die Berechnungen auf die GPU zu verlegen.

Etwas Gutes hat es sogar: Wenigstens können auch die Einstein-Fanatiker, die kein anderes Projekt crunchen, ihre Grafikkarte nutzen... Effizienz interessiert leider nicht jeden (manche messen Effizienz sogar in Credits, auch sehr gewagt) und ein anderes, noch größeres BOINC-Projekt macht ja vor, das die Leute auch mit noch so ineffizienten Apps crunchen.

Zitat von pschoefer[SPEG]

... Aber davon darauf zu schließen, dass sie grottig programmiert sei, ist ein wenig voreilig...

In der Tat, wobei "ein wenig voreilig" sehr diplomatisch formuliert ist.

Eine Einstein WU wird hauptsächlich auf der CPU berechnet. Bei der Berechnung der WU wird nun eine spezielle Funktion benötigt, eine sog. FFT. Diese Berechnung läuft jetzt nicht mehr auf der CPU, sondern auf der GPU. Ich habe das Wort "hauptsächlich" Kursiv geschrieben, weil ich nicht weiß, wie groß der Anteil der FFT-Berechnungen an den Gesamtberechnungen ist.

Also immer wenn die WU bei der Berechnung auf der CPU an eine Stelle kommt, wo eine FFT benötigt wird, lässt die Anwendung diese auf der GPU laufen. Und das bringt bei mir eine Geschwindigkeitssteigerung von gut 40%. Bei einem Intel ist die Steigerung nicht so groß, weil dort die FFT auf der CPU schneller läuft (lief), als es bei einer AMD-CPU der Fall ist. Ob Einstein später noch mehr Berechnungen auf die GPU verlagern kann, wird sich zeigen.

Und nochmal zum "grotig programiert" (SCNR ) : Es kann ja sein, dass die FFT auf der GPU "super duper toll" programmiert ist. Aber das kann ich weder bestätigen, noch widerlegen, dafür fehlen mir die notwendigen Informationen.

Bis denn dann, Grubix.


PS: Wenn gewünscht, kann ich auf der Einstein-Seite bzw. in deren Forum die entsprechenden Beiträge raussuchen. Das was ich hier geschrieben habe, wurde dort erklärt.

Zitat von Grubix

In der Tat, wobei "ein wenig voreilig" sehr diplomatisch formuliert ist.

Eine Einstein WU wird hauptsächlich auf der CPU berechnet. Bei der Berechnung der WU wird nun eine spezielle Funktion benötigt, eine sog. FFT. Diese Berechnung läuft jetzt nicht mehr auf der CPU, sondern auf der GPU. Ich habe das Wort "hauptsächlich" Kursiv geschrieben, weil ich nicht weiß, wie groß der Anteil der FFT-Berechnungen an den Gesamtberechnungen ist.

Also immer wenn die WU bei der Berechnung auf der CPU an eine Stelle kommt, wo eine FFT benötigt wird, lässt die Anwendung diese auf der GPU laufen. Und das bringt bei mir eine Geschwindigkeitssteigerung von gut 40%. Bei einem Intel ist die Steigerung nicht so groß, weil dort die FFT auf der CPU schneller läuft (lief), als es bei einer AMD-CPU der Fall ist. Ob Einstein später noch mehr Berechnungen auf die GPU verlagern kann, wird sich zeigen.

Und nochmal zum "grotig programiert" (SCNR ) : Es kann ja sein, dass die FFT auf der GPU "super duper toll" programmiert ist. Aber das kann ich weder bestätigen, noch widerlegen, dafür fehlen mir die notwendigen Informationen.

Bis denn dann, Grubix.


PS: Wenn gewünscht, kann ich auf der Einstein-Seite bzw. in deren Forum die entsprechenden Beiträge raussuchen. Das was ich hier geschrieben habe, wurde dort erklärt.

Die FFT (Fast-Fourier-Transformation) läuft auf der Intel CPU auch nur wegen dem verwendeten Intel Compiler (AutoVec+SSEx) schneller als auf AMD CPUs. Ansonsten ist es nicht verwunderlich, diese auf GPUs auszulagern, handelt sich hierbei um rel. einfach gestrickte Matrizenberechnungen.

Was mich zur Zeit etwas stört ist die Bezeichnung Einstein CUDA App. Das weckte in mir anfangs doch ziemlich große Hoffnungen.

Denn von der Funktion her ist sie doch höchstens eine CUDA-assisted CPU App wobei man noch nicht mal so genau weiß, wie groß der Anteil der GPU bei der Berechnung eigentlich ist. 20-40% Beschleunigung der CPU-Zeit halte ich aber definitiv indiskutabel für den Einsatz einer GPU. Bei Collatz liegt meine 9800GT da bei einem Faktor von 900% und der Wert liegt bei so einigen Grafikarten ja noch um ein vielfaches höher. So weit muss es bei einem Projekt, dass rein von der Rechenmethode gar nicht so viel auf der GPU rechnen kann, ja gar nicht gehen. Aber eine Beschleunigung von mehr als 100% sollte man von einer CUDA App doch wohl verlangen dürfen, oder?

Nach dem ich eine recht flotte CPU und eine sehr lahme GPU betreibe, habe ich bei Einstein dan Haken für CUDA herausgenommen. Wenn eine zusätzliche WU die GPU nutzt, machts mir wenig, wenn sie nicht so schnell ist. Aber wenn die ganze Zeit noch ein Kern von meinem Q9650 blockiert ist, ist das ein ziemlicher Verlust an Leistung.
Gruß erich!