Entropija je pojem, ki prihaja iz grške besede, ki jo lahko prevedemo kot "vrnitev" ali "preoblikovanje" (uporabljeno figurativno).

V devetnajstem stoletju je Clausius skoval koncept na področju fizike, da se sklicuje na merilo motnje, ki jo lahko vidimo v molekulah plina. Od takrat dalje bi se ta koncept uporabljal z različnimi pomeni v več znanosti, kot so fizika, kemija, računalništvo, matematika in jezikoslovje .

Nekatere definicije so:

Entropija je lahko termodinamična fizikalna količina, ki nam omogoča merjenje neuporabljivega dela energije v sistemu . To pomeni, da tega dela energije ni mogoče uporabiti za ustvarjanje dela.

Entropijo razumemo tudi kot merilo motnje sistema . V tem smislu je povezana s stopnjo homogenosti.

Entropija nastajanja kemične spojine je določena z merjenjem tistega, ki ustreza vsakemu od njegovih sestavnih elementov. Večja kot je entropija oblikovanja, ugodnejša bo njena tvorba.

V teoriji informacij je entropija merilo negotovosti, ki obstaja pred nizom sporočil (od katerih bo le ena sprejeta). To je merilo informacij, ki so potrebne za zmanjšanje ali odpravo negotovosti.

Drug način razumevanja entropije je kot povprečna količina informacij, ki jih vsebujejo preneseni simboli . Besede, kot so "the" ali "that", so najpogostejši simboli v besedilu, vendar so tisti, ki prispevajo manj informacij. Sporočilo bo imelo ustrezne informacije in največjo entropijo, kadar so vsi simboli enako verjetni.

Entropija na področju jezikoslovja

Način, kako so informacije organizirane in razširjene v diskurzu, je ena najpomembnejših in najbolj občutljivih tem raziskav za jezikoslovje. In zahvaljujoč entropiji je mogoče narediti globljo analizo komunikacije.

V primeru pisne komunikacije je problem preprost za analizo (osnovne enote, črke so dobro opredeljene); Če želite razumeti sporočilo temeljito, ga lahko natančno dekodirate in razumete tako dobesedno kot figurativno . Toda v ustnem jeziku se stvari nekoliko spremenijo, kar predstavlja nekaj zapletov.

V ustnem diskurzu ni lahko določiti temeljnih elementov kodeksa ; Besede zvenijo drugače glede na to, kdo jih pravi, in podobno lahko imajo različne pomene. Zato ni dovolj, da jih razvrstimo v vokalne in konsonantne foneme, ker nam to ne bi omogočilo razumeti, kako so informacije organizirane, ker na primer, če so vokalne foneme potlačene, sporočila ni mogoče razumeti.

Glede na študijo, ki je bila izvedena na Univerzi Wisconsin v Madisonu, je dober način za izolacijo in razumevanje ustne kode skozi spektralno razgradnjo zvočnih signalov. Zahvaljujoč tej tehniki poskušamo razumeti, kako polževica filtrira in analizira, kaj pride do nje. Polž je del naših ušes, ki ima funkcijo preoblikovanja zvokov v električne signale in jih pošilja neposredno v možgane.

Za izvedbo tega poskusa je bila uporabljena merska enota, znana kot "spektralna entropija na polžju" (CSE), ki omogoča vzpostavitev povezav med signalom in tisto, ki je pred njo ; odločitev, kakšne so možnosti za napovedovanje signala od prejšnjega.

Rezultati so pokazali, da bolj ko sta dva signala podobna, lažje je napovedati drugo ; To pomeni, da so informacije, ki jih vzamemo iz drugega, skoraj nič. Prav tako, bolj ko se razlikujejo drug od drugega, večja je informacija, ki jo daje drugi signal, zato bo, če bo izločena, povzročila precejšnje posledice v razumevanju diskurza.