Operátor je v matematice zobrazení, které každému prvku z prostoru (například funkci) přiřazuje prvek z jiného prostoru . Zápis:
- ,
kde , .
Operátor se obvykle značí stříškou (toto značení je typické zejména pro kvantovou mechaniku), například , apod.
Prvek se nazývá vzor (nebo originál), zatímco prvek se označuje jako obraz. Množina prvků , pro něž je operátor definován, se nazývá definiční obor operátoru a značí se . Množina obrazů všech prvků z definičního oboru operátoru se nazývá obor hodnot operátoru. Obvykle se značí .
Koncept operátoru se výrazně překrývá s pojmem zobrazení, avšak v matematice se termín „operátor“ zpravidla používá v kontextu prostorů funkcí (které jsou samy zobrazeními). Pro přehlednost a odlišení této vyšší úrovně zobrazování je vhodné používat specifický termín „operátor“.
V matematice a informatice se jako operátor rovněž označuje symbol matematické operace, například značka pro součet (viz Operátor (programování)).
Pokud je množina reálných, případně komplexních čísel (tedy obraz je reálné či komplexní číslo), pak se operátor nazývá (reálný či komplexní) funkcionál. Příkladem funkcionálu je určitý integrál.
Pokud pro dva operátory z do platí pro každé , pak jsou oba operátory totožné.
Důležitým operátorem je operátor identity (jednotkový operátor) , pro který platí
- .
Působením operátoru identity tedy nedochází k žádné změně.
Operátor je inverzním operátorem k , pokud platí
- ,
kde představuje operátor identity. Inverzní operátor k danému operátoru nemusí existovat.
Platí vztah (mají-li obě strany smysl):
- .
Lineární operátor je operátor mezi vektorovými prostory a , který splňuje vztah:
kde jsou libovolné prvky prostoru a jsou libovolné skalární koeficienty.
Linearitu operátoru lze ověřit pomocí následujících dvou podmínek:
- pro libovolné ,
- pro libovolné (nebo , pokud jde o komplexní prostory) a .
Příkladem lineárního operátoru je limita, která působí na funkce nebo posloupnosti. Dále mezi lineární operátory patří derivace, která je definována pomocí limity, a neurčitý integrál, jenž je inverzním operátorem k derivaci (až na konstantu).
Nelineárním operátorem je například operátor . Působením tohoto operátoru na libovolnou funkci vyjde .
Operátor nazýváme antilineární, jestliže platí
- ,
kde jsou libovolné funkce a jsou koeficienty komplexně sdružené k .
Operátor mezi metrickými prostory je spojitý v bodě , jestliže pro každou posloupnost prvků splňující , platí také , tzn. v prostoru .
Lineární operátor, který je spojitý v nějakém bodě , je spojitý v každém bodě .
Operátor je omezený (ohraničený), pokud existuje takové, že pro každé platí
- ,
kde je norma prvku v prostoru a je norma prvku v prostoru .
Lineární operátor je spojitý právě když je omezený. Součin omezených operátorů představuje opět omezený operátor. Podobně platí, že součet omezených operátorů je opět omezeným operátorem.
Infimum čísel operátoru představuje normu operátoru , tzn.
- .
Normu lze také získat jako supremum množiny čísel pro všechny jednotkové prvky , tzn.
- .
Operátory na Hilbertových prostorech jsou klíčové v kvantové mechanice. Dále budeme využívat Diracovu notaci pro zápis skalárního součinu na těchto prostorech.
Ke každému lineárnímu operátoru existuje sdružený operátor , který splňuje vztah
Platí vztahy:
- ,
- ,
navíc pokud existuje inverzní operátor, platí
- .
Operátor se označuje jako symetrický (někdy také hermitovský), jestliže platí
pro všechna a z definičního oboru .
Operátor se označuje jako antihermitovský, je-li operátor hermitovský.
Operátor  se nazývá samosdružený, jestliže platí
- ,
přičemž požadujeme i rovnost definičních oborů. Pro omezené operátory jsou pojmy samosdružený, hermitovský a symetrický ekvivalentní.
Samosdružený operátor je pozitivní, když pro každé platí
Operátor se označuje jako normální, když platí
- ,
kde označuje komutátor.
Operátor je unitární, pokud platí
- .
Pro libovolný unitární operátor platí
- .
Jestliže operátor splňuje vztah
- ,
pak operátor označujeme jako izometrický. Izometrický operátor sice splňuje vztah , avšak na rozdíl od operátoru unitárního může být .
Omezený lineární operátor se označuje jako projekční, splňuje-li podmínku
- .
Pokud navíc , jde o ortogonální projekci.
Je-li projekční operátor, pak je projekčním operátorem také
- ,
kde představuje operátor identity. Platí přitom vztahy
- ,
- .
Je-li vektor normalizovaný k jednotce, pak projekční operátor do jednorozměrného podprostoru tvořeného všemi vektory lineárně závislými na lze vyjádřit jako
Jestliže množina vektorů tvoří ortonormální bázi podprostoru , pak projekční operátor do vyjádříme jako
- .
Pokud je , pak je projekční operátor operátorem identity, takže
- .
Tento vztah představuje tzv. relaci úplnosti (uzavřenosti).
Součtem dvou operátorů vznikne operátor , pro který platí
- .
Operátor označíme jako součin operátorů a , tzn. , pokud pro každé platí
- .
Pomocí předchozího vztahu lze definovat mocninu operátoru, například .
Násobení operátorů není komutativní, tedy v obecném případě pro dva operátory . Abychom vystihli vzájemnou nekomutativnost dvou operátorů , zavádíme tzv. komutátor operátorů
- .
Dva komutativní operátory splňují pro libovolné vztah
- .
Jsou-li hermitovské operátory komutativní, pak mají společné vlastní funkce.
Jestliže operátory komutují, tedy , pak pro libovolné funkce , platí
- .
Kromě komutátoru se zavádí také antikomutátor operátorů
- .
Z definice komutátoru a antikomutátoru vzniknou následující vztahy:
- ,
- ,
- ,
- ,
- ,
- ,
- .
Platí také Jacobiho identita
- .
Operátory jsou nepostradatelné jak v diferenciálním počtu v matematice (například operátor nabla), tak při použití v kvantové mechanice a při zjednodušování zápisu identit (rovnic) jinde ve fyzice.