Kódování znaků
![!#$%&'()*+,-./0123456789:;<=>?@ABCDEFGHIJKLMNOPQRSTUVWXYZ[\]^_`abcdefghijklmnopqrstuvwxyz{|}~](/wiki/Soubor:ASCII_full.svg)
Kódování znaků nebo znakový kód (anglicky character encoding, character code) je ve výpočetní technice kód, který každému znaku přiřazuje určité číslo (bajt, sekvenci elektrických pulzů ap.). Znaková sada označuje množinu všech znaků zvoleného kódování, které jsou uspořádány podle kódových bodů, tedy pozic v tabulce znaků seřazených podle kódů. Znakem se rozumí písmena různých abeced, číslice, symboly a jiné grafémy, ale také nezobrazované řídící znaky, které mají zvláštní funkce.
Znaková sada je obdobou Morseovy abecedy, která kóduje písmena latinky (a další znaky) pomocí sérií dlouhých a krátkých stisků telegrafního klíče.
Součástí prakticky všech v současnosti používaných kódování je 7bitový kód ASCII, který obsahuje písmena latinky bez diakritiky, číslice, základní symboly a pomocné formátovací znaky. Současná kódování znaků vychází ze světového standardu Unicode, případně z čínského standardu GB18030, které mají shodný znakový repertoár. Tento znakový repertoár pokrývá prakticky všechny znaky používané dnes lidstvem.
Proces standardizace
[editovat | editovat zdroj]Po přijetí de facto standardů dálnopisných kódů bylo významným krokem standardizace vytvoření znakových kódů ASCII (1963) a EBCDIC (1964). Kód ASCII reprezentuje 33 řídicích a 95 tisknutelných znaků včetně malých a velkých písmen anglické abecedy, číslic a dalších symbolů pomocí 7bitových čísel; kód EBCDIC reprezentuje poněkud širší sadu znaků pomocí 8bitových čísel. Zatímco kód EBCDIC zůstal omezen na sálové počítače firmy IBM a jejich kopie, kód ASCII byl převzat různými národními i mezinárodními standardizačními organizacemi, například jako ISO/IEC 646 nebo T.50, a na jeho základě vzniklo množství národních variant používajících 7bitové kódy. Jejich velkou nevýhodou bylo, že symboly, jejichž používání se mezitím rozšířilo, nahrazují národními znaky, takže při volbě nevhodného kódování se např. texty programů mohou proměnit v nečitelnou změť znaků. Většího rozšíření se proto dočkaly 8bitové kódy, které zpravidla ponechávají kódy ASCII beze změn. Jedním 8bitovým kódem však nelze reprezentovat latinku, řecké písmo, cyrilici (azbuku), arabštinu a hebrejštinu, ani pokrýt všechny znaky latinky s diakritickými znaménky používanými v různých jazycích. Významné firmy jako Microsoft, IBM a Apple navíc vyvinuly vlastní osmibitové kódy, které přivedly kódování národních znaků na pokraj chaosu. Nejednotnost osmibitových kódování spolu s potřebou jednotné reprezentace asijských písem včetně rodiny CJK vedly okolo roku 1990 k vytvoření standardů Unicode a ISO 10646 vyvíjených ve vzájemné součinnosti, jejichž postupně uskutečňovaným záměrem je vytvořit jednotné kódovaní pro reprezentaci všech písem používaných na planetě Zemi.
Terminologie
[editovat | editovat zdroj]Zatímco znaková sada je prostý souhrn znaků, kódování znaků definuje navíc i přiřazení kódů jednotlivým znakům. Kódem může být například Morseova abeceda, kódující písmena latinky, číslice a několik dalších znaků pomocí sérií dlouhých a krátkých stisků telegrafního klíče, nebo kombinace dírek na děrném štítku nebo děrné pásce; ve výpočetní technice se však znaky nejčastěji reprezentují celými čísly, která se například ve standardu Unicode nazývají kódový bod (anglicky code point). Pro kódování znaků se někdy používá termín kódovaná znaková sada (anglicky coded character set), ale v praxi se oba termíny často používají jako synonyma. Protože znaková sada obvykle zahrnuje jak tisknutelné tak netisknutelné znaky, není starší termín pro kódování znaků abecedně-číslicový kód příliš vhodný. ČSN pro znakovou sadu používá termín soubor znaků, který však obsahuje slovo soubor používané jinde ve výpočetní technice ve významu sada dat umístěných na datovém médiu.
V mnoha operačních systémech se pro kódování znaků používá termín kódová stránka (anglicky code page, codepage případně codeset), v některých prostředích termín abeceda (anglicky alphabet).
Jednoduché znakové sady
[editovat | editovat zdroj]Konvenční znakové sady a kódování znaků byly shodné, stejný standard specifikoval, které znaky byly dostupné a současně jak mají být zakódovány v sekvencích kódových jednotek (obvykle jeden znak na kódovou jednotku). Z historických důvodů MIME a jiné systémy založené na těchto sadách používaly termín znaková sada i pro systémy pro kompletní kódování sekvencí znaků do sekvence bytů (oktetů).
Moderní přístup ke kódování
[editovat | editovat zdroj]Unicode a jeho paralelní standard ISO 10646, tuto ideu překonávají oddělením dostupných znaků a jejich číslování od toho, jakým způsobem jsou tyto znaky kódovány jako série „kódových jednotek“ (čísel omezené velikosti) a jakým způsobem jsou tyto jednotky kódovány do sekvence bytů (oktetů). Cílem této dekompozice je ustavit univerzální znakovou sadu, která může být kódována množstvím způsobů. Proto byly zavedeny následující pojmy:
- Znakový repertoár
- plná sada znaků podporovaná daným systémem. Tento repertoár může být uzavřený nebo otevřený, dovolující rozšiřování (což je případ Unikódu). Základní sady latinky, řecké abecedy a cyrilice mohou být rozděleny na písmena, číslice, interpunkci a několik speciálních znaků, jako je např. mezera. Dokonce i zde představuje určitou komplikaci diakritika, protože může být implementována buď pomocí znaků obsahujících diakritiku (což je mnohem jednodušší při zpracování), nebo pomocí kombinace základních znaků a diakritických znaků (což dovoluje mnohem větší volnost kombinací). Znakový repertoár jiných skriptovacích systémů, jako jsou arabský nebo hebrejský, je mnohem složitější, protože zahrnuje možnosti jako je obousměrný text a různá spojování glyfů (grafických interpretací znaku) v různých situacích.
- Kódovaná znaková sada
- určuje, jak má být reprezentován repertoár znaků užitím nezáporných celých čísel nazývaných kódové body. Např. znaku velké „A“ může být přiřazeno číslo 65, znaku velké „B“ 66 atd., až je pokryta celá abeceda. Určitá sada znaků a jejich čísel pak tvoří kódovanou znakovou sadu. Kódované znakové sady mohou sdílet stejný repertoár, ale mapovat jej jiným způsobem, jak je tomu např. u ISO-8859-1 a kódových stránek IBM CP037 a CP500. V kódované znakové sadě představuje jeden kódový bod jediný znak.
- Forma kódování znaků (CEF)
- popisuje převod kódů z kódované znakové sady na sadu celočíselných hodnot kódu pro ukládání v systému reprezentujícím čísla v binární formě za použití omezeného počtu bitů (prakticky každý počítač). CEF tedy předepisuje např. způsob jak převést kódový bod např. z rozmezí 0 až 1,4 miliónu na sérii jedné nebo více hodnot kódu v rozmezí např. od 0 do 65535 (16bitové číslo).
- Nejjednodušší je zvolit takovou formu kódování (CEF), kde každému bodu kódu odpovídá jedna hodnota kódu. To je však neúsporné – např. pro kódování latinky stačí 1 byte (viz 7bitové ASCII), zatímco Unicode vyžaduje minimálně 21 bitů (prakticky 3 byty). Proto byla definována kódování UTF-8 (po bytech) resp. UTF-16 (po slovech), která kódují znak do sekvence bytů resp. slov (dvoubytů). Nejpoužívanější znaky jsou zakódovány pomocí jednoho nebo dvou bytů, což vede k úspoře paměti.
- Systém kódování
- definuje rozklad kódových hodnot na byty. V praxi jde o to, že některé systémy při ukládání ukládají vícebytová čísla v pořadí od nejvyššího byte k nejnižšímu (little endian) a jiné v pořadí od nejnižšího k nejvyššímu (big endian). Je vhodné poznamenat, že kódování UTF-8 tyto komplikace obchází, přičemž je navíc kompatibilní s ASCII. Existují také složená kódování, která používají escape sekvence pro přepínání mezi několika jednoduchými schématy (jako ISO/IEC 2022) a kompresní schémata, která minimalizují počet bytů na jednotku kódu (SCSU, BOCU a Punycode).
Lexikální řazení
[editovat | editovat zdroj]Součástí standardů pro kódování znaků je obvykle i informace, jakým způsobem se v konkrétním jazyce provádí lexikální (abecední, alfabetní, …) řazení. Řazení nelze většinou provést jen prostým porovnáním kódových hodnot znaků (tzv. ordinální řazení), protože většina jazyků má různé výjimky (např. české Ch). Ne vždy lze realizovat lexikální řazení přidaných znaků do znakové sady.
Znakové sady a HTML
[editovat | editovat zdroj]Aby nemusel uživatel u každé stránky hledat v menu znakovou sadu vhodnou pro její zobrazení, je možné v HTML hlavičce uvést znakovou sadu, ve které byla daná stránka vytvořena.
- <META HTTP-EQUIV="Content-Type" CONTENT="text/html; charset=Windows-1250">
- pro sadu Windows-1250 (sada používaná v českých Windows).
- <META HTTP-EQUIV="Content-Type" CONTENT="text/html; charset=ISO-8859-2">
- pro texty vytvořené ve standardizované sadě ISO 8859-2, např. v Linuxu.
- <META HTTP-EQUIV="Content-Type" CONTENT="text/html; charset=UTF-8">
- UTF-8 je vhodné použít pro vícejazyčné dokumenty a stránky obsahující zvláštní znaky nepodporované předchozími sadami (ve Windows XP je ukládání do UTF-8 podporováno v Poznámkovém bloku).
Všechny dnes běžně rozšířené prohlížeče (Windows Internet Explorer, Firefox, Opera) tento tag implementují, jeho interpretace však závisí také na nastavení webového serveru. Stránka zobrazená z lokálního disku správně může při stažení ze serveru vypadat jako „rozsypaný čaj“ – dokud uživatel nevnutí prohlížeči ručně správné kódování nebo neupraví nastavení webserveru, který posílá prohlížeči chybnou informaci o kódování v hlavičce HTTP.
Poměrně univerzálně fungující možností je vkládání znaků pomocí escape sekvencí. Sekvence &#n; zobrazí znak s unikódovou hodnotou n. Například sekvence á zobrazí český znak á. V tomto případě byla hodnota znaku uvedena decimálně, pokud bychom ji chtěli uvést hexadecimálně, použijeme sekvenci &#xn; (např. á pro znak á).
ASCII
[editovat | editovat zdroj]ASCII je nepochybně základním kódováním, z kterého vychází v euro-americkém prostoru ostatní standardy. Drtivá většina osmibitových znakových sad pouze rozšiřuje ASCII tím, že přidávají významy kódům 128-255, které se v ASCII nepoužívají.
Kódování češtiny
[editovat | editovat zdroj]| Sada | Popis |
|---|---|
| Unicode | současná celosvětová znaková sada, používaná v současných OS |
| Windows-1250 | osmibitové kódování češtiny používané v systémech Microsoft Windows |
| CP852 | osmibitové kódování češtiny v systému MS-DOS |
| ISO 8859-2 | osmibitové kódování češtiny v UNIXových systémech |
| Kód Kamenických | osmibitové kódování češtiny částečně kompatibilní s CP437 (zachovává semigrafické znaky) |
Standardy ISO 8859-x
[editovat | editovat zdroj]Standardy ISO/IEC 8859-x definují osmibitové znakové sady, používané zvláště v UNIXu/Linuxu. Novější unixové distribuce již přecházejí na Unicode s kódováním UTF-8.
| Sada | Skript |
|---|---|
| ISO 8859-1 | Latin-1, Západoevropský |
| ISO 8859-2 | Latin-2, Východoevropský |
| ISO 8859-3 | Latin-3, Jihoevropský |
| ISO 8859-4 | Latin-4, Baltský |
| ISO 8859-5 | Cyrilice |
| ISO 8859-6 | Arabský |
| ISO 8859-7 | Řecký |
| ISO 8859-8 | Hebrejský |
| ISO 8859-9 | Latin-5, Turecký |
| ISO 8859-10 | Latin-6, Nordický |
| ISO 8859-11 | Thajský |
| ISO 8859-13 | Latin-7, Baltský |
| ISO 8859-14 | Latin-8, Keltský |
| ISO 8859-15 | Latin-9, Západoevropský |
| ISO 8859-16 | Latin-10, Jihovýchodoevropský |
Vybrané kódové stránky Windows
[editovat | editovat zdroj]Operační systémy rodiny Microsoft Windows používají několik osmibitových kódování, více nebo méně podobných standardům ISO8859-x. Kromě toho interně používají pro definici fontů šestnáctibitovou znakovou sadu WGL-4 (windows glyph 4), která obsahuje všechny znaky ze zde zmiňovaných kódových stránek Windows-1250 až Windows-1258.
| Sada | Skript |
|---|---|
| Windows-1250 | Latin-2, Středoevropský (podobný ISO 8859-2) |
| Windows-1251 | Cyrilice |
| Windows-1252 | Latin-1, Západoevropský (rozšiřuje ISO 8859-1) |
| Windows-1253 | Řecký (podobné ISO 8859-7) |
| Windows-1254 | Turecký (shoduje se s ISO 8859-9) |
| Windows-1255 | Hebrejský (rozšiřuje ISO 8859-8) |
| Windows-1256 | Arabský (částečně shodný s ISO 8859-6) |
| Windows-1257 | Latin 13, Baltský (téměř shodný s ISO 8859-13) |
| Windows-1258 | Vietnamský (velmi podobný Windows-1252) |
Vícebytové standardy
[editovat | editovat zdroj]| Kódování | Popis |
|---|---|
| UTF-8 | kódování unicode s nejmenší kódovou jednotkou délky osm bitů. Nezávisí na tom zda je systém „little-endian“ nebo „big endian“, je kompatibilní s ASCII. |
| UTF-16 | jiné kódování unicode používané ve Windows a v jazyku Java. Nejmenší kódová jednotka má délku šestnáct bitů, má varianty „little-endian“ a „big-endian“ (UTF-16LE a UTF-16BE), není kompatibilní s ASCII. |
| UTF-32 | přímé kódování unicode, jednomu kódovému bodu odpovídá jedno čtyřbajtové číslo. Je vhodný pro rychlé zpracování, ale velmi neúsporný pro ukládání. Nejmenší kódová jednotka má délku 32 bitů, má varianty „little-endian“ a „big-endian“ (UTF-32LE a UTF-32BE), není kompatibilní s ASCII. |
| GB18030 | oficiální standard pro kódování čínštiny. Jde o netriviálně přemapovaný unicode, tak aby byl kompatibilní s GBK. Nejmenší kódová jednotka má délku osm bitů, je kompatibilní s ASCII. |
| GBK | microsoftí kódování čínštiny. Nejmenší kódová jednotka má délku osm bitů, je kompatibilní s ASCII. |
| UCS-2 | překonaný šestnáctibitový kód implementující pouze základní rovinu unicode, je nahrazen UTF-16. Používal se ve Windows NT a Windows 2000. |
| WGL4 | panevropská šestnáctibitová microsoftí sada fontů |
Znakové sady pro DOS
[editovat | editovat zdroj]Tyto znakové sady jsou osmibitovým kompatibilním rozšířením ASCII (definují navíc význam kódů 128 až 255).
| Kódování | Popis |
|---|---|
| CP437 | původní znaková sada MS-DOS / IBM-PC (USA) |
| CP737 | řečtina (vychází z CP437) |
| CP850 | západní Evropa (velmi podobná CP858) |
| CP852 | "východoevropské" jazyky (čeština, slovenština,polština,rumunština, ...) a němčina |
| CP855 | cyrilice (nepříliš používaná) |
| CP857 | turečtina |
| CP858 | západní Evropa (velmi podobná CP850) |
| CP860 | portugalština |
| CP861 | severské jazyky (islandština) |
| CP863 | francouzština (Kanada) |
| CP865 | severské jazyky kromě islandštiny (velmi podobná CP437) |
| CP866 | ruština |
| CP869 | řečtina (méně populární než CP737) |
| Kód Kamenických | kódování češtiny a slovenštiny vycházející ze sady CP437 |
Jiné standardy
[editovat | editovat zdroj]- ISO/IEC 646
- ISO/IEC 6937 kódování českého a jiných evropských jazyků v DVB
- EBCDIC kódování IBM, které mělo konkurovat ASCII, ale moc se neujalo
- KOI: kódování bývalého sovětského bloku; 7bitové: KOI7 a 8bitová: KOI8-R, KOI8-U, KOI8-CS
- ISCII indické 8bitové kódování
- VISCII vietnamské kódování
- Big5
- HKSCS
- Guobiao
- GB2312
- ISO/IEC 2022, Shift-JIS, EUC
Související články
[editovat | editovat zdroj]Externí odkazy
[editovat | editovat zdroj]
Obrázky, zvuky či videa k tématu kódování znaků na Wikimedia Commons
