Wollen wir mal deine Frage nicht ganz untergehen lassen, auch wenn ich vermute, dass sich nicht mehr so viele Leute mit dem Thema noch beschäftigen.
Ich habe auf die Schnelle mal ein kurzes Video mit mkvtoolnix-gui in eine mkv-Datei gewandelt. Alles mit Standardeinstellungen, also ohne Kapitel etc. Im nächsten Schritt mit devede geöffnet und in den properties Kapitel jede Minute erzeugen eingestellt (war ein knapp 5 Minuten langes Video). Dann DVD erzeugt. Die fertige movie.iso mit doas mount -t iso9660 -o loop,ro /pfad/movie.iso /mnt/mountpoint
gemountet und in vlc geöffnet. Nach dem Start des Videos konnte ich problemlos zum nächsten Kapitel springen - sie waren korrekt angelegt worden. Allerdings gab es kein Auswahlmenü auf der DVD.
Vielleicht erklärst du nochmal kurz, was bei dir genau nicht gelang.
edlin