Du könntest mal Mediacoder ausprobieren, aber bei Mac bin ich mir da nicht so sicher, wie das gehen soll, aber auf der Downloadseite steht was von "Mac OS X with WINE (some features work)"
http://mediacoder.sourceforge.net/download.htm . Ist der Film zufällig in HD? Dann ist das normal - selbst mein Bruder mit seinem Quadcore braucht für einen HD Film von MKV zu x264 rund 3 Stunden mit Avidemux.
http://avidemux.sourceforge.net/download.html Avidemux sollte auch aufm Mac laufen, hoffentlich ist dir damit schon geholfen.