Atto primo
Belmonte è angosciato perché la sua fidanzata Konstanze, una giovane e bella spagnola, è stata rapita dai pirati e venduta come schiava insieme alla sua ancella inglese Blonde e all'innamorato di quest'ultima Pedrillo. Così Belmonte è venuto a cercarla in Turchia. All'entrata del palazzo del Pascià Selim egli si imbatte in Osmin, il burbero sorvegliante, che lo allontana. Belmonte incontra Pedrillo, che gli dice che Konstanze è diventata la favorita del Pascià mentre la sua Blonde è stata offerta in dono a Osmin. All'arrivo di Selim e Konstanze, di ritorno da una gita in mare, Belmonte si nasconde. Konstanze è afflitta e Selim, per quanto rispettoso e amorevole, non riesce a guadagnare le sue grazie, ma dice che saprà aspettare. Poi Pedrillo gli presenta Belmonte come un architetto desideroso di servirlo, e Selim dice che ne riparleranno, e lo invita a entrare nel palazzo. Osmin cerca di ostacolare Belmonte e Pedrillo, ma viene messo da parte.
Atto secondo
L'atto si apre con Osmin che arde di desiderio per Blonde senza essere corrisposto e viene anche da lei minacciato di accecamento se non si allontana. Osmin conclude che se gli europei si fanno dominare dalle donne sono degli sciocchi. Sopraggiunge Konstanze e Blonde cerca di consolarla. Così quando il Pascià ci riprova, e respinto la minaccia, Konstanze dice è pronta a subire torture di ogni genere ma non cederà alle richieste di Selim. Pedrillo riesce ad informare Blonde dell'arrivo di Belmonte; Blonde è felice e corre ad avvisare Konstanze. Successivamente Pedrillo fa ubriacare Osmin per metterlo fuori combattimento. Così Belmonte può incontrare Konstanze. Nel quartetto finale Belmonte e Pedrillo informano le due ragazze che verranno a salvarle a mezzanotte, non senza assicurarsi della loro fedeltà e dei loro sentimenti, fatto questo che provoca una reazione delle due, con Blonde che addirittura schiaffeggia Pedrillo.Ma poi segue la riconciliazione.
Atto terzo
Giunta l'ora, Pedrillo canta una serenata (In Mohrenland gefangen war): è il segnale per la fuga. Ma le due donne ritardano nel preparare i bagagli, un eunuco le nota e corre a svegliare Osmin. Così i fuggitivi vengono catturati e condotti davanti a Selim, mentre Osmin annuncia con gioia terribili supplizi. Davanti a Selim si scopre che Belmonte è figlio del peggior nemico del Pascià, che gli annuncia una morte terribile. Belmonte e Konstanze si dolgono della fine, ma concludono che almeno potranno morire insieme. Poi la sorpresa: Selim dà prova di grande magnanimità, non vuole abbassarsi al livello del suo nemico e rinuncia alla vendetta liberando le due coppie, che possono così ritornare a casa mentre Osmin si ritira rosso dalla rabbia.