versuche es mal mit Chrome bitte, der hat Flash quasi eingebaut.
Ich hab auf meinem HTPC seit dem letzten Update von Flash mit Opera, Firefox und IE auf YT das Problem, dass der ganze Browser abkackt sobald ich in Vollbild gehe oder mehr als 480p eingeben will. SUPER nervig. Auf meinem Laptop hingegen geht es - sowohl mit Chrome, Opera als auch mit Firefox.
Aber es MUSS an Flash liegen - vor dem Update ging es, direkt danach nichts mehr - dazwischen nichts verändert.
edit: was auch sein kann ist, dass du irgendeine gpu unterstützung im FF de- oder aktiviert hast. Möglich auch, dass du versehentlich über HTML5 schaust ?