Vor 3 Jahren standen wir vor einer Entscheidung, die gerade viele IT-Teams beschäftigt: weiter auf VMware setzen oder die eigene Plattform auf OpenStack umbauen? Wir haben gewechselt. Zuerst mit unserer eigenen Umgebung, also mit den Systemen, auf denen unser Tagesgeschäft läuft.
Danach folgten Umgebungen unserer Kunden. Angefangen bei Kunden mit wenigen, standardisierten Workloads, wie Telefonie-Server, bis zu Kunden mit komplexen System-Landschaften, Windows-Server, Datenbanken, Anwendungen ohne Spielraum für lange Wartungsfenster. Fast jede Migration hat uns etwas gezeigt, das in keiner Dokumentation stand. Ob fehlende Kernelmodule, Lizenzsperren aufgrund des Plattform-Wechsels oder Security Scanner, die nach Migration nicht mehr zur Ruhe kamen.
Seit der Übernahme durch Broadcom hören wir diese Frage deutlich öfter. Lizenzmodelle haben sich geändert, viele Teams suchen eine VMware Alternative und wollen wissen, wie ein Wechsel praktisch abläuft und wo er hakt.
Deshalb schreiben wir unsere Erfahrung in drei Teilen auf:
Teil 1: Was sich beim Wechsel technisch ändert und wo die Hürden liegen (dieser Beitrag)
Teil 2: Migrationstauglichkeit prüfen und Netzwerke sauber zuordnen
Teil 3: Der Ablauf mit MigrateKit: Full Sync, Changed Block Tracking, Cutover und Rollback
Warum eine VMware Migration mehr ist als ein Dateiumzug
Der Hypervisorwechsel einer VMware-VM mit 8 vCPUs, 24 GB RAM, drei Netzwerkkarten und 800 GB Storage lässt sich nicht sinnvoll auf die Formel „VMDK kopieren und wieder starten“ reduzieren.
Eine VM ist mehr als eine virtuelle Festplatte
Der reine Datentransfer ist nur ein Teil der Aufgabe. Eine produktive VM bringt Abhängigkeiten mit, die auf VMware oft über Jahre gewachsen sind. Dazu gehören virtuelle NICs und Port Groups, Disk-Controller, Firmware, Gasttreiber, feste IP-Adressen, Security-Regeln und die gewünschte Ressourcenausstattung.
OpenStack bildet diese Elemente anders ab. Netzwerkanschlüsse entstehen als Neutron-Ports in definierten Networks und Subnets. Compute-Ressourcen werden über Nova-Flavors beschrieben. Auf KVM basierende OpenStack-Umgebungen verwenden für Storage und Netzwerk häufig VirtIO. Es muss daher vor dem Cutover sichergestellt werden, dass die VM auf der Zielplattform bootfähig wird und deine virtuellen Geräte ansprechen kann.
Eine belastbare Migration beginnt deshalb mit Inventarisierung und Prechecks. Erst danach lohnt es sich, mehrere hundert Gigabyte oder einige Terabyte zu übertragen.
MigrateKit trennt Datenmigration und Cutover
Für die eigentliche Übertragung setzen wir auf eine angepasste Fassung von MigrateKit. Als Open-Source VMware Migration Tool ist MigrateKit für den Wechsel von VMware zu OpenStack ausgelegt und trennt den Ablauf in eine Migration Phase und eine Cutover Phase.
Während der Migration Phase werden, auf Snapshot und Change-Block-Tracking basierend, ausschließlich Festplatten-Daten übertragen. Bei wiederholtem Ausführen dieser Phase werden lediglich Änderungen der betroffenen Disks übertragen, so dass sich Deltas auch über längere Zeit hinweg minimal halten lassen. Während der Migration Phase kann die virtuelle Maschine ohne Einschränkungen weiter genutzt werden.
VMware
|
| Readiness Check
| Network Mapping
|
+--> Full Sync
| |
+--> Incremental Sync
| |
+--> Incremental Sync
|
+--> Cutover
|
+--> VMware VM stoppen
+--> Final Sync
+--> OpenStack Instanz starten
+--> Smoke Tests
Erst bei der Cutover Phase wird die virtuelle Maschine gestoppt. MigrateKit führt nach dem automatisierten Herunterfahren der VM eine finale Synchronisation durch, so dass auch letzte Änderungen, die bis zum Herunterfahren der VM persistiert wurden, übernommen werden.
Zusätzlich prüft MigrateKit, ob die Boot-Disk sauber konvertiert wurde. Im Anschluss wird in OpenStack eine passende Instanz auf Basis der bereits übertragenen Volumes erzeugt.
Dadurch hängt die Ausfallzeit nicht direkt von der Gesamtgröße der VM ab. Relevant sind vor allem die Änderungen, die bei der letzten Synchronisation übernommen werden müssen, sowie der Konvertierungsprozess, der unmittelbar mit der Boot-Disk-Größe in Verbindung steht.
Ein erster MigrateKit-Lauf sieht in vereinfachter Form beispielsweise so aus:
docker run -it --rm --privileged \ --network host \ -v /dev:/dev \ -v /usr/lib64/vmware-vix-disklib/:/usr/lib64/vmware-vix-disklib:ro \ --env-file <(env | grep OS_) \ ghcr.io/vexxhost/migratekit:main \ migrate \ --vmware-endpoint vmware.example.local \ --vmware-username migration-user \ --vmware-password "$VMWARE_PASSWORD" \ --vmware-path /Datacenter/vm/production/app01
Die Hürden liegen vor dem Cutover
Network-Mapping ist kein 1:1-Import
MigrateKit kann aus einer VMware-Port-Group nicht automatisch ableiten, welches OpenStack-Netzwerk fachlich das richtige Ziel ist. Beim Cutover erwartet das Tool deshalb ein explizites Network-Mapping. Pro Interface werden unter anderem MAC-Adresse, Network UUID und Subnet UUID angegeben. Eine feste IP-Adresse kann ebenfalls gesetzt werden.
--network-mapping\ mac=00:0c:29:7d:2d:68,\ network-id=2a81f1b0-c1b8-48dd-bd8e-4d976608c06d,\ subnet-id=21a7110b-2ab2-4cc1-8372-8b552f7a4438,\ ip=192.168.2.20
Bei einer einzelnen VM ist das überschaubar. Bei mehreren Netzen, festen IPs und vielen VMs wird das schnell zu fehleranfälliger Handarbeit. Deshalb stellen wir für die Migration ein Skript bereit, das die vorhandene VMware-Zuordnung erfasst und das Mapping für OpenStack vorbereitet. Wie das Skript arbeitet und welche Sonderfälle bei mehreren NICs, VLANs und Security Groups auftreten, behandeln wir im zweiten Teil der Reihe.
Treiber und Gastbetriebssystem müssen zur Zielplattform passen
Der Hypervisorwechsel verändert die virtuelle Hardware. Linux-Systeme bringen die benötigten VirtIO-Treiber in vielen Fällen bereits mit. Bei Windows muss genauer geprüft werden, ob Storage und Netzwerk nach der Konvertierung verfügbar sind. MigrateKit kann standardmäßig virt-v2v-in-place gegen das Ziel ausführen. Dennoch werden speziell in Windows-Systemen, die Treiber rein durch virt-v2v-in-place nicht sauber installiert und die VM kann nach der Migration nicht booten oder findet die Netzwerk-Interfaces nicht.
Wir prüfen deshalb vor der Migration, ob eine VM die notwendigen Voraussetzungen erfüllt. Dafür stellen wir ein Migrationstauglichkeits-Skript bereit. Der Check soll Probleme sichtbar machen, bevor das Cutover-Fenster beginnt. Windows-Treiber, Disk-Aufbau, Firmware und weitere Sonderfälle sind Thema von Teil 2.
Changed Block Tracking ist die Grundlage für kurze Cutover-Fenster
Die wiederholten Sync-Zyklen brauchen eine verlässliche Information darüber, welche Bereiche einer virtuellen Festplatte seit dem letzten Lauf verändert wurden. VMware stellt dafür Changed Block Tracking, kurz CBT, bereit. CBT arbeitet auf Blockebene und erlaubt es, nach einem initialen Volltransfer gezielt die geänderten Bereiche zu übertragen.
CBT bringt eigene Voraussetzungen mit. VMware dokumentiert unter anderem Einschränkungen bei Independent Disks. Außerdem muss der für MigrateKit verwendete vCenter-Account die Berechtigung zum Umschalten des Change Trackings besitzen.
In unserem Migrationsablauf muss CBT nicht für jede VM manuell vorbereitet werden. Wir haben MigrateKit so angepasst, dass die notwendige Aktivierung automatisiert erfolgt. Die technische Umsetzung und die Auswirkungen auf Full Sync und Incremental Sync zeigen wir im dritten Teil.
VMware-Ressourcen werden zu OpenStack Flavors
VMware erlaubt es, vCPU und RAM einer VM frei zu kombinieren. OpenStack verwendet Flavors als definierte Compute-Konfiguration. Ein Flavor beschreibt unter anderem die Zahl der vCPUs und den Arbeitsspeicher einer Instanz.
Das ist kein Hindernis für ungewöhnliche Größen. Falls eine bestehende VMware-VM zum Beispiel 6 vCPUs und 24 GB RAM verwendet und kein Standard-Flavor dazu passt, kann in der SQUILD Sovereign Cloud ein passender Flavor bereitgestellt werden. Die Migration muss deshalb nicht auf die nächstgrößere Standardgröße ausweichen.
Downtime entsteht beim letzten Delta
Eine 2-TB-VM benötigt Zeit für den initialen Transfer. Diese Zeit ist aber nicht automatisch Ausfallzeit. Der Full Sync läuft, während die VMware-VM weiter betrieben wird. Danach können weitere inkrementelle Läufe folgen, bis der Abstand zwischen Quell- und Zielstand klein genug für das geplante Cutover-Fenster ist.
Tag 1 Full Sync
[==============================]
Tag 2 Incremental Sync
[======]
Tag 3 Incremental Sync
[===]
Cutover VM stop | Final Sync | OpenStack start | Tests
[== Downtime ==]
Eine pauschale Minutenangabe wäre trotzdem unseriös. Die tatsächliche Downtime hängt von der Änderungsrate der VM, dem letzten Daten-Delta, Storage und Netzwerk, der Bootzeit sowie den notwendigen Anwendungstests ab. Genau deshalb gehört die Messung der Änderungsrate in die Vorbereitung und nicht erst in den Wartungstermin.
Ein Fehler beim Cutover muss nicht zum langen Ausfall werden
Migration in Wellen
Für größere VMware-Umgebungen migrieren wir Systeme nicht in einem einzigen Block. Sinnvoller sind Wellen mit zunehmender Kritikalität. Dadurch werden Netzwerk-Mappings, Treiberchecks und Betriebsabläufe zuerst an unkritischen Systemen validiert.
Wave 0 Test-VMs
Wave 1 unkritische interne Systeme
Wave 2 produktive Anwendungen
Wave 3 kritische und zustandsbehaftete Systeme
Gerade an dieser Stelle ist ein persönlicher Ansprechpartner wichtiger als ein weiteres Automatisierungsversprechen. Cutover-Fenster, fachliche Abhängigkeiten und Rollback-Kriterien müssen zu den jeweiligen Anwendungen passen. Die technischen Werkzeuge liefern den reproduzierbaren Ablauf. Die Reihenfolge und die Freigabe bleiben eine bewusste Betriebsentscheidung.
Welche Teile wir automatisieren
Wiederkehrende Arbeitsschritte sollten nicht bei jeder VM von Hand neu entstehen. Für unseren Migrationsprozess bündeln wir deshalb mehrere Prüfungen und Vorbereitungen rund um MigrateKit:
- Migrationstauglichkeits-Check für Gastbetriebssystem, virtuelle Hardware und bekannte Sonderfälle
- Skriptgestütztes Network-Mapping zwischen VMware und OpenStack
- ·Automatische Vorbereitung von Changed Block Tracking über unsere MigrateKit-Anpassung
- ·Passende Standard- oder individuelle OpenStack-Flavors für die vorhandene CPU- und RAM-Konfiguration
- ·Geplanter Cutover mit definierten Smoke Tests und Rollback-Kriterien
Damit wird aus der Migration kein Ein-Klick-Vorgang. Sie wird aber planbar, wiederholbar und vor dem kritischen Umschaltzeitpunkt testbar.
So geht die Reihe weiter
Im zweiten Teil prüfen wir eine VMware-VM auf Migrationstauglichkeit und betrachten das Network-Mapping im Detail. Wir zeigen, welche Punkte vor dem ersten großen Datentransfer geklärt sein müssen und wie unsere Skripte dabei unterstützen.
Im dritten Teil folgt der eigentliche MigrateKit-Ablauf mit Full Sync, Changed Block Tracking, Incremental Sync, Cutover und Rollback.
Wer eine bestehende VMware-Umgebung in Richtung OpenStack bewerten möchte, kann die Migration zunächst an einer repräsentativen VM in der SQUILD Sovereign Cloud durchspielen. Der sinnvollste erste Schritt ist kein Cutover, sondern ein Readiness Check.
Quellen und weiterführende Literatur
• MigrateKit: README und Migrationsablauf