How do people really build infrastructure on top of #docker ?
I am in the midst of converting around 300 different batch jobs with osm data into docker containers and every day randomly docker containers fail to start up on creation.
After some time they are killed by timeout or the database does not start up and the container terminates itself because the database does not get reachable within 60 seconds. Etc etc etc
@flohoff K8s oder so'n Management-Layer drüber?
@wusel docker compose. Also ziemlich bare Metal.
@wusel ich Schedule ja jobs und deren dependencies. Also ich nutze slurm ... Dann starte ich via docker compose Jobs. Und jeden fucking Tag bröselt da irgendwas weg. Geht random mäßig nicht. Nochmal Schedulen. Zack geht.
@wusel Und es gibt jobs die laufen alle 30 Minuten. Und es gibt jobs die monatlich laufen.
@wusel naja. Es sind ja keine services die laufen.
Jobs holen Daten vom S3 ... Verarbeiten die und schieben die Ergebnisse wieder auf den S3. Meistens jedenfalls. Manchmal werden noch Datenbanken betanked oder geupdated.
Wenn was failed Kriege ich mail und das wird im icinga rot ... Passive checks für alle Jobs.
Es ist ganz klassisch EVA nur halt mit.vielen intermediate steps und zwischenprodukten die mehrfach verwendet werden. Und für jeden step andere tools.