Metriken
Setze ein Metriken-Modul auf, das von außen angestoßen werden kann, um die Messungen durchzuführen. Bsp.: zur Zeitmessung einfach einmal am Anfang und am Ende aufrufen und der Endaufruf gibt die dazwischen vergangene Zeit zurück etc. Folgende Messungen müssen durchgeführt werden können:
- Inferenzaccuracy
- Konvergenz im Training (wie schnell ist eine Annährung an die finale Performance zu erkennen? Hier sollten wir uns noch einen vergleichbaren Wert überlegen!)
- Trainingszeit
- Inferenzzeit (aufgeteilt in Berechnung und Datenübertragung (nur Cloud) -> mehrmalige Messung für Durchschnitts- und Maximalwert)
- Stromverbrauch (Für Berechnung aber auch Datenübertragungn. Der Hardwarestromverbrauch muss in der Konfigdatei hinterlegt sein)
- Kosten (über Stromverbrauch und Stromkosten sowie Hardwarekosten)
- CO2-Ausstoß (über Stromverbrauch und Strommix)
Alle Metriken müssen für Training und Inferenz getrennt betrachtet werden!
Erstelle dann für einzelne Metriken neue Issues. Dieses Issue hier kann als allgemeines erstes Aufsetzen / erster Anstoß gesehen werden.
Edited by Zeymer Melf