Cafe climaprediction.net (News, Begrüßungen, SmallTalk zum Projekt & ...)

[Felix_M_]

Bei mir haben sich inzwischen ca 300 ausstehende Uploads angesammelt, zum Glück hab ich noch 20 GB Platz in der VM.
Soweit ich das seh, bekomm ich trotz der vielen ausstehenden Uploads noch neue WUs.

[xii5ku_AT]

Scheduler und Download-Server sind www.cpdn.org, Upload-Server ist upload11.cpdn.org, und nur letzterer hat sich in die Ferien verabschiedet.

Der Server wird dem Client ab einer bestimmten Anzahl von "tasks in progress" (zugewiesener Aufgaben, deren Ergebnis der Client noch nicht zurückgemeldet hat) keine neuen Aufgaben mehr zubilligen, aber wie hoch das bei CPDN konfiguriert ist, ist mir nicht geläufig.

Der Client wiederum wird von sich auf darauf verzichten, neue Arbeit anzufordern, sobald die Anzahl hochzuladender Ergebnisse (im Sinne von erledigter Aufgaben, nicht Anzahl hochzuladender Dateien) das Doppelte der von BOINC nutzbaren CPUs überschreitet. Ein seltsames Limit, das Projekten mit hoher Datenrate nicht gerecht wird, aber so ist es nun mal.

[Felix_M_]

Danke für die Erklärung, ich dachte, das hängt von den File Transfers ab. Aber wenn es um die WUs geht, dann ist das ja noch entspannt

[taurec]

Der Upload funktioniert nun anscheinend wieder, dauert halt ....

[xii5ku_AT]

Es gibt drei Kategorien von Usern:
– Für einige funktioniert der Upload nun.
– Für andere funktioniert er prinzipiell, jedoch gibt es eine hohe Anzahl fehlschlagender Transferversuche, wie in den Tagen kurz vor Weihnachten, bevor der Server sich verabschiedete.
– Für wieder andere gingen heute Nachmittag noch Transfers durch, doch dann steigerte sich die Fehlerrate sehr schnell, bis nun wieder exakt nichts mehr geht.

Ich selbst gehöre zur letzten Kategorie.

Der Upload-Server hat jetzt natürlich mit einer gegenüber dem Zustand vor Weihnachten erhöhten Anfrage-Rate zu tun, weil jetzt so gut wie alle Teilnehmer eine Warteschlange an hochzuladenden Dateien haben. Aber der Umstand, dass sich die Situation für User der 2. und insbesondere 3. Kategorie vom späten Nachmittag zum Abend sich so stark verschlechtert hat, verspricht nichts Gutes.

Für CPDN wird diese erste OpenIFS-Kampagne ein Fehlschlag werden, wenn sie jetzt nicht noch erheblichen zeitlichen Aufschub für die Fertigstellung des aktuellen Datensatzes bekommen. Der Zeitplan dafür war von Anfang an schon ambitioniert, jetzt haben wir bereits knapp 3 Wochen weitgehenden Ausfall der Produktion, und für einen Teil der Beitragenden ist das Ende der Server-Auszeit immer noch nicht abzusehen.

[xii5ku_AT]

Updates:
Während der Upload-Server am Mittwoch von circa mittags bis abends mehr oder weniger funktionierte, nahm er so viel Daten entgegen, dass sein Massenspeicher volllief. Eigentlich sollen ständig im Hintergrund Daten in ein Archiv weggeschoben werden, dies funktioniert aber viel zu langsam. Das Verschieben der am Mittwoch empfangenen Daten wird schätzungsweise noch weitere 5 Tage (also circa bis kommenden Mittwoch) dauern. (Quelle)

Bis dahin wurde am Server die Anzahl simultaner Client-Verbindungen stark beschränkt, damit zwar wieder Uploads möglich sind, aber deren Rate geringer ist, als ins Archiv weggeschaufelt werden kann. Konkret sind jetzt bis auf Weiteres maximal 50 eingehende Verbindungen konfiguriert, was im Verhältnis zu den nicht all zu vielen aktiven Hosts trotzdem äußerst wenig ist. (Quelle) In Clients bekommt man bei Upload-Versuchen jetzt offenbar aufgrund dessen meistens, aber nicht immer, "transient HTTP error" zu sehen.

Ob man an diesem völlig falsch dimensionierten Server endlich etwas Grundlegendes ändern wird, davon ist bisher nichts im CPDN-Forum zu lesen. Unterdessen ist fest davon auszugehen, dass von der wissenschaftlichen Seite her die Ergebnisse der aktuellen Serie von Arbeitseinheiten spätestens zu Ende Februar benötigt werden. (Quelle)

Irgendwo auf dem Pfad zwischen Anforderungsdefinition durch CPDN und Implementierung des Upload-Servers durch JASMIN muss etwas gehörig schief gelaufen sein.

[Felix_M_]

Irgendwie ziemlich ärgerlich das Ganze.

Ich lade aktuell alles an Zips meiner WUs bis Ablaufdatum Montag, 23.01. hoch. Sobald das alles oben ist, mach ich erstmal via Hosts Datei die Schotten wieder dicht. vielleicht hilft das anderen.

Ich lade aktuell mit 5-8MBit/s hoch, hätte 50MBit/s verfügbar. also wurde scheinbar auch die Geschwindigkeit begrenzt.

Grüße
Felix

[lugu]

Eine WU bin ich zumindest vor ein paar Tagen losgeworden...

[Felix_M_]

Für mich hat sich gezeigt, die uploads funktionieren am besten, wenn man noch ne WU am laufen hat, die Zips produziert. Neue Zips werde immer sofort probiert, hoch zu laden. Sollte das funktionieren, wird ein möglicher Project Backoff zurückgesetzt, wodurch dann wieder mehr Uploadss möglich sein könnten.

[xii5ku_AT]

Es hat den Anschein, dass der Upload-Server nun doch noch zu vorweihnachtlicher Kondition zurückfindet. :-)

---- Edit 5 Tage später ----
Es blieb leider beim Anschein. :-(

(Der Azubi, der regelmäßig im Server die Disketten wechseln muss, hat ein freies Wochenende. "Error reported by file upload server: can't write file… No space left on server")

[xii5ku_AT]

Mit dem Disketten Wechseln lag ich gar nicht so sehr daneben. Tatsächlich liegt die jetzige neue Auszeit daran, dass das Magnetbandspeichersystem ausgefallen ist, auf das im Hintergrund die Daten vom Uploadserver weggeschaufelt werden. (Quelle)

[Felix_M_]

Irgendwie, dafür dass das ja anscheinen ein großer Cloudprovider und nicht in irgend ner Uni ne Besenkammer ist, ist das ganze echt unzuverlässig. Wie oft haben wir den Server dieses jahr schon komplett abgeschossen? 3 Mal? 4 Mal?
Als Provider wäre mir das echt peinlich.

[xii5ku_AT]

Der Dienstleister ist so eine Art Körperschaft öffentlichen Rechts (non-departmental public body). ("JASMIN is operated by the Science and Technology Facilities Council on behalf of the Natural Environment Research Council.") Und CPDN als Kunde wird da wohl ein sparsames Service-Level gebucht haben, vermute ich mal. Laut message board arbeitet CPDN mit minimalem Budget.

Immerhin setzen sie dank wissenschaftlichen Austauschs soliden und optimierten Code ein — was in Hochschulforschung und -lehre ja nicht immer gegeben ist — und arbeiten auch aktiv an der Verbesserung der BOINC-Anbindung dieses Codes. Nur deren Infrastruktur ist offenbar chronisch überlastet. Und mit den neuen Modellen mit riesigem Ergebnis-Datenvolumen im Verhältnis zur aufzuwendenden Rechenzeit ist eigentlich nur das Erwartbare eingetreten.

Für uns Rechenzeitspender ist das m.E. nachvollziehbar (zumal es bei CPDN ein gewisses Level an Kommunikation mit uns gibt; das hat man nicht bei allen Projekten), aber trotzdem nervtötend und wird unter Umständen für uns recht zeitraubend. In Rechenzentren kümmern sich wenige Admins um zahlreiche Maschinen, bei Distributed Computing jedoch zahlreiche Freizeitadmins um jeweils wenige Maschinen — in dem Punkt ist Distributed Computing volkswirtschaftlich fragwürdig.

[pschoefer]

Eine neue WU-Serie simuliert die Entwicklung von Tiefdrucksystemen über Europa für ein breites Spektrum verschiedener atmosphärischer Ausgangszustände. Die Systemanforderungen sind der folgenden Projektnachricht zu entnehmen, die entsprechende Anwendung ist nur für 64-Bit-Linux auf Intel-/AMD-CPUs verfügbar.

Neue Studie wird an Rechner der Freiwilligen verschickt
STORMS erforscht, wie sich Tiefdrucksysteme in Zukunft verändern könnten

(tatsächlicher Projektname: "Quantifying controls on the intensity, variability and impacts of extreme European STORMS", engl., Quantifizierung der Kontrollparameter für die Stärke, Variabilität und Auswirkungen extremer Stürme in Europa)

Victoria Sinclair, Clément Bouvier
Institut für Atmosphären- und Erdsystemforschung (engl. Institute for Atmospheric and Earth System Research, INAR),
Universität Helsinki, Finnland

Über das Jahr ziehen regelmäßig Tiefdrucksysteme über Europa, üblicherweise von West nach Ost, und bringen Wolken, Regen und windiges Wetter. Manchmal können diese Wettersysteme sehr stark werden, und ihre Winde und Regenfälle können Schaden an Gebäuden und Infrastruktur sowie Überschwemmungen verursachen und die Stromversorgung und den Reiseverkehr stören. Obwohl kurzfristige Wettervorhersagen über diese Stürme inzwischen recht genau sind, bleibt noch unsicher, wie sich diese Stürme und ihre Auswirkungen wahrscheinlich in der Zukunft ändern, während sich das Klima wandelt. Diese Unsicherheit liegt teilweise an unserem unvollständigen Verständnis, was die Stärke und Auswirkungen dieser Stürme bestimmt.

Das Ziel dieses Projektes ist zu verstehen, was die Stärke und Struktur dieser Tiefdrucksysteme bestimmt. Wir werden quantifizieren, wie der atmosphärische Zustand, in welchem die Tiefdrucksysteme entstehen, deren Stärke und Stuktur beeinflusst. Dieser atmosphärische Zustand kann mit verschiedenen Parametern wie Durchschnittstemperatur, Wassergehalt und der Windgeschwindigkeit in großer Höhe (d.h. Stärke und Breite des Jetstreams) beschrieben werden. Da wir viele verschiedene Parameter untersuchen wollen (nicht nur die eben genannten), wollen wir viele Experimente auf streng kontrollierte Weise durchführen. Daher werden wir ein großes Ensemble von Simulationen idealisierter Tiefdrucksysteme mit dem numerischen Wettervorhersagemodell OpenIFS berechnen. Obwohl die Simulationen idealisiert sind, sehen die sich entwickelnden Wettersysteme sehr wie echte Wettersysteme, wie wir sie in der Realität beobachten, aus. Jeder Teil des Ensembles unterscheidet sich im Ausgangszustand der Atmosphäre und wir wählen diese Ausgangszustände so aus, dass vom aktuellen Klima bis zu früheren Klimabedingungen vor der Industrialisierung und bis zu den extremsten Klimaprognosen für die Zukunft alles abgedeckt ist. Das ist spannend, weil zwar schon vorher idealisierte Simulationen von Tiefdrucksystemen durchgeführt wurden, hier aber erstmals eine solch ausführliche Erforschung des Parameterraums vorgenommen wird.

Sobald wir die Ergebnisse des großen Ensembles haben, werden wir verschiedene Maße der Sturmstärken berechnen und dann maschinelle Lernverfahren verwenden, um zu sehen, wie diese mit den Ausgangszuständen zusammenhängen. Unsere Ergebnisse werden hoffentlich die Sicherheit des Wissens darüber erhöhen, wie sich diese Stürme und ihre Auswirkungen in der Zukunft verändern.

Technische Informationen:

Bitte stellt sicher, dass "Lasse nicht-GPU Aufgaben im Speicher, wenn sie pausiert sind" in den Einstellungen zur Festplatten- und Speichernutzung des BOINC Managers aktiviert ist.

CPDN-Anwendungsname: oifs_43r3_bl
Laufzeit: ~6 Stunden pro WU auf einer modernen CPU
maximaler RAM-Bedarf: ~7 GB
Gesamtzahl der Dateien: 354 Dateien
Ausgabe des Modells: 16 MB pro Ausgabeschritt (nicht komprimiert)
Gesamtgröße der hochzuladenden Dateien: 1,5 GB
Checkpoint-Dateigröße: ~800 MB (diese werden periodisch im Slot-Verzeichnis erstellt und gelöscht und nicht hochgeladen)
13.02.2023, 12:32:41 MEZ

Originaltext:

New study going out to volunteer's machines
STORMS: Investigating how low-pressure systems may change in the future

(actual project name - “Quantifying controls on the intensity, variability and impacts of extreme European STORMS”)

Victoria Sinclair, Clément Bouvier
Institute for Atmospheric and Earth System Research,
University of Helsinki, Finland

Throughout the year, low-pressure systems regularly move across Europe, usually from west to east, bringing cloud, rain and windy weather. Sometimes these weather systems can become very intense, and the winds and rain associated with them can cause damage to buildings and infrastructure, flooding, and can disrupt electricity supply and travel. Although the short-term weather forecasts of these storms are now quite accurate, it still remains uncertain how these storms, and their impacts, are likely to change in the future as our climate changes. Some of this uncertainty is because our understanding of what controls the strength and impacts of these storms is incomplete.

The aim of this project is to understand what controls the strength and structure of these low-pressure systems. We will quantify how the atmospheric state that the low-pressure systems develop in affects the strength and structure of these low-pressure systems. This atmospheric state can be described by various parameters, for example, the mean temperature, moisture content, and upper-level wind speeds (i.e. the strength and width of the jet stream). Since there are lots of different parameters we want to study (not just the ones described above), we want to do lots of experiments in a high controlled manner. Therefore, we will run a large ensemble of simulations of idealised low-pressure systems using the numerical weather prediction model OpenIFS. Although the simulations are idealised, the weather systems that develop look very like real weather systems that we observed in reality. Each ensemble member differs in its initial atmospheric state, and we choose these initial states to cover everything from the current climate to past pre-industrial climates to the most extreme future climate projections. This is exciting because although idealised simulations of low-pressure systems have been performed before, this is the first time that such an extensive exploration of the parameter space will be conducted.

Once we have the results from the large ensemble, we will calculate different measures of the strength of the storms and then use machine learning techniques to see how these relate to the initial states. Our results will hopefully increase in confidence in how these storms and their impacts will change in the future.

Technical information:

Please ensure 'Leave non-GPU tasks in memory while suspended' is set in Disk/Memory options of boincmgr

CPDN app-name: oifs_43r3_bl
Run time: ~6 hrs/task on a modern CPU
Max memory: ~7Gb
Total number of files: 354 files
Model output: 16Mb per output step (uncompressed)
Total size of uploaded files: 1.5GB
Checkpoint filesize: ~800Mb (these are periodically created & deleted in the slot dir and not uploaded)[/b]
13 Feb 2023, 11:32:41 UTC

[pschoefer]

Eine weitere neue WU-Serie sucht nach Zusammenhängen zwischen dem Indischer-Ozean-Dipol und der Nordatlantischen Oszillation, konkret im Hinblick auf den warmen Winter 2019/20 in Europa. Die Systemanforderungen sind ähnlich wie bei der kürzlich begonnenen STORMS-Serie, wieder wird nur 64-Bit-Linux auf Intel-/AMD-CPUs unterstützt. Leider gab es mit den ersten WUs noch gravierende Probleme, sodass die Verteilung derzeit pausiert ist.

Neue Studie wird an Rechner der Freiwilligen verschickt
Experiment zum Indischen Ozean

Ziel dieses Experiments ist, die Wichtigkeit des Indischer-Ozean-Dipol-Ereignisses (IOD) im Winter 2019/20 für die starke und gut vorhergesagte Nordatlantische Oszillation (NAO) im selben Winter zu beurteilen. Die NAO ist sehr wichtig für das Winter-Wetter in Europa, da sie die Winde über dem Nordatlantik bestimmt, welche mit den milden und nassen Wintern in Nordeuropa zusammenhängen. Es wurde bereits gezeigt, dass die NAO in manchen Jahren von Anomalien der Bedingungen in den tropischen Ozeanen (ähnlich El Niño) beeinflusst wird. Wir wollen zeigen, dass der stark positive IOD in 2019/20 Einfluss auf die NAO und die resultierenden warmen Bedingungen jenes Winters hatte. Wir verwenden ein großes OpenIFS@Home-Ensemble, um die Verbindungen zwischen dem tropischen Indischen Ozean und der Nordatlantik-Region zu finden.

Technische Informationen

CPDN-Anwendungsname: oifs_43r3
Laufzeit: ~8 Stunden pro WU auf einer modernen CPU
maximaler RAM-Bedarf: ~7 GB
Gesamtzahl der Dateien: 783 Dateien
Ausgabe des Modells: 8,5 MB pro Ausgabeschritt (nicht komprimiert)
Gesamtgröße der hochzuladenden Dateien: 2,6 GB
Checkpoint-Dateigröße: ~800 MB (diese werden periodisch im Slot-Verzeichnis erstellt und gelöscht und nicht hochgeladen)

(Die Gesamtgröße der hochzuladenden Dateien gilt für ein Mitglied des Ensembles in komprimierter Form.)
20.02.2023, 17:14:10 MEZ

Originaltext:

New study going out to volunteer's machines
Indian Ocean experiment

This experiment aims to evaluate the importance of the Indian Ocean Dipole (IOD) event of the winter 2019/2020 on the strong and well predicted North Atlantic Oscillation (NAO) of the same winter. The NAO is of large importance to European winter weather as it governs the winds over the North Atlantic which are related to the mild and wet winters of northern Europe. It has been shown that the NAO is in some years influenced by anomalous tropical ocean conditions (like El Nino). We aim to show that the strong positive IOD of 2019/2020 had an influence on the NAO and resulting warm conditions of this winter. We use the large ensemble of the OpenIFS@Home to identify the connections between the tropical Indian Ocean and the North Atlantic region.

Technical information

CPDN app-name: oifs_43r3
Run time: ~8 hrs/task on a modern CPU
Max memory: ~7Gb
Total number of files: 783 files
Model output: 8.5Mb per output step (uncompressed)
Total size of uploaded files: 2.6GB
Checkpoint filesize: ~800Mb (these are periodically created & deleted in the slot dir and not uploaded)

(The total size of the upload is one member zipped.)
20 Feb 2023, 16:14:10 UTC