Matamaitic na héiginnteachta
Tomhaiseann eantrópacht éiginnteacht: an méid iontais a bheifeá ag súil leis ó thoradh randamach. Tá bonn cothrom chomh neamhchinnte agus is féidir a bheith; ní chuireann bonn a bhfuil dhá cheann air aon iontas ort riamh. D'athraigh Claude Shannon é seo ina uimhir, an t-iontas ionchasach, mar a bhfuil iontas ócáide annaimhe cothrom le −log p(x) (dá annaimhe an ócáid, is ea is mó an t-iontas).
Nuair a úsáidtear log₂, tomhaistear an eantrópacht i ngiotáin — an meánlíon ceisteanna "tá nó níl" a theastaíonn chun an toradh a aimsiú. Bíonn an eantrópacht is mó nuair a bhíonn an dáileadh aonfhoirmeach (gach toradh chomh dóchúil lena chéile, an mearbhall is mó ar fad) agus bíonn sí a náid nuair a bhíonn toradh amháin cinnte (ní féidir aon iontas a bheith ann).
Léiríonn an fhíor eantrópacht bonn claonta amháin, H(p) = −p log₂ p − (1−p) log₂(1−p). Tarraing p: sroicheann an eantrópacht a buaic ag p = 0.5 (giotán iomlán amháin, fíor-chaitheamh boinn) agus titeann sí go 0 ag an dá fhoirceann chinnte.