Moin,
den Link hatte ich Dir bereits genannt, sprich der “versteckt” sich bei meinem letzten Posting hier hinter dem Wort “hier”. 
Aber hier noch einmal direkt: Zigbee2MQTT / Mosquitto-Brocker Erstinstallation: gesund oder nicht?
Da Du aber wohl mit dem erstellen einer neuen HA VM liebäugelst gehe ich hier jetzt nicht mehr weiter auf das Thema Addons löschen usw. ein.
Mit von vorne anfangen - bzw. Instanz - meinst Du eine neue HA VM auf dem QNAP einzurichten? Falls ja ist das vielleicht keine schlechte Idee und somit wären irgendwelche “Altlasten” weg, die durch irgendwelche Konfigurationsversuche ggf. entstanden sind. Eine neue HA VM auf dem NAS einzurichten ist ja schnell gemacht und sofern Du sonst noch nichts großartig bei HA eingerichtet hast wäre das ja auch kein Verlust.
Dabei solltest Du aber beachten das ein USB-Gerät - hier Dein Dongle-E - zeitgleich immer nur bei einer VM eingebunden und von der genutzt werden kann. D.h. wenn die alte HA VM dann noch existiert musst Du den USB Dongle-P dort herausnehmen und bei der neuen HA VM neu einbinden. So ist es zumindest bei einem Synology NAS. Ach ja - die alte HA VM sollte möglichst auch nicht mehr noch im Hintergrund laufen wenn Du eine neue HA VM einrichtest/installierst. → Alte HA VM zumindest stoppen.
Hier noch ein paar Grundlagen:
Der MQTT Broker hat erst einmal nichts mit Zigbee2MQTT (Z2M) zu tun und ist vollkommen unabhängig davon. Ein MQTT Broker wird benötigt um das MQTT Protokoll nutzen zu können. Unter HA braucht es dafür üblicherweise:
- das MQTT Broker Addon (= MQTT “Server”)
- die MQTT Broker Integration (= MQTT “Client”)
D.h. diese beiden Dinge müssen unter HA installiert werden damit HA etwas mit MQTT anfangen kann. Die Installation ist vollkommen unabhängig von irgendwelchen anderen Dingen unter HA und somit auch unabhängig von Z2M.
Beide Dinge kannst und sollest Du als erstes installieren und einrichten. Dazu gibt es ja div. Install.-Anleitungen/Infos nach denen man sich richten kann, sodass ich darauf hier nicht weiter eingehe. Du solltest Dich aber immer an irgendwelchen aktuellen Install.-Anleitungen/Infos orientieren, da aufgrund von Weiterentwicklung(en) sich solche Anleitungen und Infos innerhalb kurzer Zeit ändern können (siehe das Beispiel wo und wie man einen User bei/für den MQTT Broker einrichtet).
Wenn das MQTT Broker Addon und die MQTT Broker Integration unter HA installiert und eingerichtet ist kommt die Install. und Einrichtung von Z2M. Z2M sendet dann die Infos/Werte von darüber eingebundenen Zigbee Geräten per MQTT Protokoll an den MQTT Broker (Server) und die MQTT Integration (Client) stellt diese Infos/Werte dann unter HA dar bzw. zur Verfügung.
Die Einrichtung von Z2M erfolgt im Normalfall auch kompl. über dessen HA WebGUI (Konfiguration) und dem eigenen WebGUI von Z2M (Benutzeroberfläche öffnen). D.h. man braucht nicht manuell in irgendwelchen *.yaml-Dateien “herumfummeln”.
Auch zu der Z2M-Installation und -Einrichtung gibt es ja div. Anleitungen und Infos, sodass ich auch darauf hier nicht mehr weiter eingehe.
Auch wenn ich diese Punkte in meinen vorherigen Postings bereits erwähnt hatte dann trotzdem noch einmal ganz allgemein:
- Bei jedem Schritt, bzw. jeder Sache die Du einrichtest, solltest Du nach der Einrichtung direkt überprüfen ob es damit ggf. irgendwelche Probleme gibt, oder ob alles vermutlich einwandfrei funktioniert. Also z.B. wenn Du den USB Dongle-E bei der HA VM eingebunden hast direkt schauen ob der dann bei HA unter Hardware → Gesamte Hardware auch vorhanden ist.
Oder auch nach der Installation des MQTT Broker Addon in dessen Protokoll nachchauen ob da ggf. irgendwelche Probleme/Fehler auftauchen. Usw. - Immer wenn Du ein Addon installiert hast solltest Du die HA VM neu Starten (HA → System neu starten).
- Falls bei irgendeinem Installationsschritt ggf. irgendwelche Problem auftauchen sollten dann gezielt danach suchen und/oder hier genau dieses Problem exakt - möglichst mit Protokollauszug - beschreiben. Nicht gleich evtl. vorhandene mehrere Baustellen versuchen gleichzeitig zu lösen.
Im Prinzip gibt es zu der Install. und Einrichtung von MQTT Broker und Z2M im I-Net so viele Infos und Anleitungen, dass man eigentlich für alle evtl. noch auftauchenden Fragen und/oder Problem dort eine Info und Lösung findet. Man sollte sich allerdings immer - wie schon erwähnt - an akutellen Infos und Anleitungen orientieren.
Auch die Einrichtung eines Dongle-E unter Z2M ist an vielen Stellen inzwischen ausreichend dokumentiert und beschrieben und die Probleme die ggf. auftauchen könnten wurden hier im Forum auch schon in div. Beiträgen und Postings diskutiert. Auch wenn die Unterstützung des Dongle-E offiziell immer noch experimentell ist, so ist es kein Hexenwerk und am Ende sollte es funktionieren.
Also frisch ans Werk und viel Erfolg. 
Anm.: Ich habe versucht das hier möglichst allgemein und für einen Laien verständlich zu schreiben. Eben weil es zu dem Thema schon so viele Infos im I-Net gibt bin ich hier nicht auf irgendwelche bestimmten Punkte und/oder Optionen und/oder Besonderheiten weiter eingegangen.
VG Jim
Edit: Den Link hatte Alex zwischenzeitlich auch schon gepostet.