Abgeschlossenen ausbildungsvertrag ausbildungsbeginn ohne kündigen

Kann ich im Nachhinein einen abgeschlossenen Ausbildungsvertrag noch vor Ausbildungsbeginn ohne weiteres kündigen?

Ja, der Vertrag ist noch kündbar.
Ein Brief hin schicken und du bist raus aus der Nummer.
Selbst wenn du bereits Angefangen hättest, wäre es kein Problem. Denn innerhalb der Probezeit kann man ohne angaben von Gründen jederzeit kündigen.

Musterformulierung für eine schriftliche Kündigung vor Arbeitsantritt
Ich habe am __ mit Ihnen einen Arbeitsvertrag geschlossen. Das Arbeitsverhältnis sollte am __ beginnen. Hiermit teile ich Ihnen mit, dass ich aus persönlichen Gründen das Arbeitsverhältnis nicht antreten kann. Bezüglich der Rechtslage mache ich Sie darauf aufmerksam, dass der Arbeitgeber Schadenersatz nur verlangen kann, wenn Kosten bei einer ordentlichen Kündigung des Arbeitnehmers zum ersten zulässigen Kündigungstermin nicht entstanden wäre, also bei fristgemäßer Kündigung vermeidbar gewesen wäre. In der Sache ist damit der Schadenersatzanspruch wertlos. http://www.urteilsticker-betriebsrat.de/newsletterarticle.asp?his=5098.453.1913&id=3002

Die unmittelbare Drohung sollte man weglassen und sich einfach auf die Probezeit berufen.

Natürlich, das wäre dann einfach eine normale Kündigung.
Und diese ist auch mit sofortiger Wirkung vertetbar, da die Probezeit nicht nur für deinen Arbeitgeber, sondern auch für dich gilt.

Während der Probezeit kann das Berufsausbildungsverhältnis jederzeit ohne Einhalten einer Kündigungsfrist gekündigt werden, so sagt es das BBiG.
Das kann jederzeit von beiden Vertragspartnern stattfinden.
Unterscheiden musst du, wenn du einen Arbeitsvertrag, also kein Berufsausbildungsverhältnis, sondern ein Arbeitsverhältnis abgeschlossen hast. Da treffen andere Bedingungen zu. Sieh Link
Kündigung während der Probezeit – was ist zu beachten? « Rechtsanwalt Arbeitsrecht Berlin Blog

Ausbildung: Die Kündigung in der Probezeit