Habe genau den gleichen Fehler gemacht wie du.
Die Lösung ist nicht das Factory sondern das Sysupgrade Image zu verwenden.
Folge der Beschreibung auf [OpenWrt Wiki] toh:ubiquiti:unifi bei Unterpunkt Installation: Later 4.xx firmware versions fail to upgrade via TFTP too because of different MTD partition scheme
Wenn man die Anleitung befolgt funktioniert es. Jedenfalls bei meinem Unifi AP LR. Der springende Punkt ist, man muss das sysupgrade image verwenden und nicht das factory bin. Hatte zu erst auch das Factory Image genutzt, dann erhält man aber den Fehler mit Bad Magic Number. Mit dem Sysupgrade funktionierte es bei mir nun Problemlos. Mein Unifi AP LR hatte übrigens die aktuelleste Original Firmware installiert. Downgraden war nicht nötig.
generic-ubnt-unifi-squashfs-sysupgrade.bin
Edit:
Habe eben auch meinen Unifi AP Pro mit openwrt geflasht. Leider gibt es auf openwrt dazu keine Anleitung, die man eins zu eins übernehmen kann, aber das Prozedere ist vom Prinzip das selbe. Nur die Zahlen und das Downloadfile ist ein anderes. In beiden Fällen nutzt man aber das sysupgrade img.