Ich hatte zu Testzwecken auf meinem PC zum ersten Test ein LM Studio am laufen mit einer 16 GB Grafikkarte und 48 GB RAM. Darauf liefen meine ersten Schritte mit selbstgehosteten Sprachmodellen. Ich war fasziniert und wollte mehr erfahren, insbesondere, wie diese Technologie skaliert werden kann.

Zuerst lief bei mir OpenClaw mit unterschiedlichen Modellen, was eben in den PC „hineingepasst“ hat. OpenClaw war stark in der Verwendung von Werkzeugen, mir persönlich aber zu vergesslich. Also bin ich zu Hermes Agent gewechselt. Und dort wollte ich auch ein größeres Modell testen.

Nach ein paar Nächten habe ich dann alles ans Laufen gebracht. Es gab mehrere Bugs und Probleme: Qwen3-VL-MoE Pydantic-Bug (NGC vLLM 0.19), NVIDIA Container Runtime Bug, Mistral Tokenizer-Validator zu strikt, Worker-Reconnect nach Head-Restart, Qwen2.5-VL-72B Tool-Calling zu zurückhaltend, NCCL-Multinode-Hänger…

Ich habe einen Nvidia DGX Spark, bei dem ich in meinem Netzwerk etwas spielen möchte mit KI und den modernen Modellen. Der DGX Spark kann größere Modelle laden, wie mein PC und ist damit eine nette Entwicklungsumgebung.

Richtet man den Spark zuerst ein, marschiert man durch das First-Time Setup und kann sich dann auf den Spark per SSH verbinden.

Es gibt auch ein Dashboard, das jedoch nur kompliziert zu verwenden ist. Entweder über SSH Tunnel, Nvidia Software oder andere Technologien. Das ist mit zu kompliziert.

Wer seine Rezepte online verwalten und gleichzeitig mit der ganzen Familie teilen möchte, findet im Netz viele Lösungen zum selber hosten.

Nachdem ich ein wenig herumprobiert hatte, fand ich grundsätzlich Tandoor ansprechend und gut zu nutzen. Die Installation war jedoch GRAUSAM.

Ein Docker Swarm Mode sichert den Ausfall eines Systems ab. Dabei werden die Stacks oder Services von einem Node zum anderen geschoben. Dazu muss für den neuen Node jedoch gegebenenfalls das Image neu aus dem Internet geladen werden. Da die Zugriffe auf das Docker Hub limitiert sind, macht es ggf. Sinn einen eigenen Cache aufzusetzen, über den die Daten nur einmalig geladen werden.

Wer sich ein Grandstram Telefon kauft und Telefonie über WLAN statt DECT abwickeln möchte, hat bei der Einrichtung manchmal Probleme. Es funktioniert recht einfach, wenn man eine Fritzbox verwendet, da die den SIP Gateway ins Internet stellt.

Wer jedoch Opensense als Firewall einsetzt, wir nach der Einrichtung des Telefons mit den Kontoeinstellungen feststellen, dass es irgendwie nicht funktioniert. Deswegen hier kurz zusammengefasst, was zu tun ist, damit das Telefon direkt ins Internet kommt.

Bisher hatte ich ecoDMS als papierlosses Dokumentenmanagementsystem (DMS) daheim verwendet. Nun erfolgte bei mir daheim der Umstieg auf Paperless-ngx.

Im Folgenden stelle ich zuerst meine aktuelle Infrastruktur dar und erkläre, was bei ecoDMS für privatanwender nicht ideal läuft und warum für mich Paperless-ngx besser zu sein scheint. Danach folgt die Installationsanleitung und Darstellung der Konfiguration.

Ostern steht mal wieder vor der Türe – da wird der EggBot wieder angeworfen. Da ich mir jedes mal aufs neue Vorgehen und Einstellungen heraussuchen muss, habe ich mir die Grundlegenden mal dokumentiert.

Bei EggBot wird mit Inkscape und dem dazugehörigen EggBot Plugin gearbeitet. Ich selbst habe meinen EggBot Pro bei Amazon gekauft. Gerade kurz vor Ostern ist der immer recht schwierig zu bekommen.