INFORMACION Y ENTROPIA

Alfredo Marcos
Depto. de Filosofía
Univ. de Valladolid
RESUMEN
La Teoría de la Informacin se !a servido de ins tr"mental matem#ti co
previamente "tili$ado en termodi n#mica % mec#nica estadística. A
parti r de este !ec!o se espec"la so&re la posi&ilidad de "na m#s
prof"nda cone'in entre el concepto de entropía de la física % el de
informaci n. A pesar de las m(l ti pl es contri &" ciones al tema )"e se !an
prod"ci do* podemos decir )"e es todavía "n as"nto a&ierto.
Anali$amos en este artíc"lo las controverti das relaciones entre los
conceptos de informaci n % +los diversos tipos de, entropía. Se revisan
al-"nas de las opiniones so&re el as"nto mencionado* en especial % de
modo crítico* el desarrollo del concepto de ne-"entro pía de&ido a
.rillo"i n.
/restamos* asimismo* atencin a las relaciones entre informaci n %
entropía en "n #m&i to conflicti vo como es la evol"cin de los sistemas
vivos.
Aparece* final mente* "na refle'in en torno a la nocin de orden % s"
cone'in con las de informacin % entropía.
A.STRA0T
In t!is papper I anali$e t!e relati ons!i ps &et 1een t!e concept of
informati on and t!e notion of t!er mod%nami cal entrop%. I pa% attenti on
to t!ese relations!ips in t!e conte't of evol"ti onar% t!eor%. Fina ll% I tr%
to e'plain t!e conecti on &et1een order entrop% and informati on.
ANTES DE S2ANN3N.
En 4567 Sadi 0arnot +489:; 45<6, p"&lica Réfexions sur la puissance
motri ce du feu et les machi nes propres à developper cette puissance.
En este op(sc"lo del )"e se impri mi eron tan slo 6== e>emplares*
aparece el posteriormente denomi nado ?principio de 0arnot?* se-(n el
c"al "na m#)"i na t@rmica no p"ede f"ncionar sin )"e pase calor de "n
foco caliente a "no frío. El calor cedido p"de ser aprovec!ado mediante
al-(n disposi ti vo para prod"cir tra&a>o mec#nico* pero n"evamente la
prod"ccin de tra&a>o ir# acompaAada de "na cierta disipa cin de
ener-ía en forma de calor. No o&stante p"ede afirmarse )"e tanto
0arnot como otros eminentes in-e nieros franceses de s" @poca +/eti t*
0l@ment o D@sor mes, tenían "n limi tado conoci mi ento de la relacin en ;
tre calor % tra&a>o. Los avances m#s si-nificati vos en este senti do se
o&tendrían con los tra&a>os de 0lape% ron* Belvin % 0la"si"s.
En 45C= R"dolf Emman"el D. 0la"si"s* profesor de física de la Esc"ela de
Artillería de .erlín* reform"l a el principio de 0arnot en los si-"ientes
t@rmi nosE ?Es imposi&le transferi r calor de "na f"ente calorífica a otro
c"erpo m#s caliente )"e ella sin reali$ar tra &a>o?. Así lo afirma en Über
die bewegende kraft der Wärme . Tenemos a(n otra form"l acin del
mismo principio de&ida a BelvinE ?Es imposi&le por medio de "n a-ente
materi al inani mado* o&tener efectos mec#nicos de "na porcin
c"al)"iera de materi a* enfri#ndola por de&a>o de la temperat"ra del
m#s frío de los o&>etos )"e la rodean?. F "na m#s* ori-inal @sta de
/lancGE ?Es impo si&le constr"i r "n motor )"e tra&a>ando se-(n "n ciclo
completo* no prod"$ca otro efecto )"e elevar "n peso % enfriar "n foco
calorífico?. Entre estas dos (lti mas form"l aciones podemos esta&lecer
"na versin sint@tica )"e rece como si-"eE ?No es posi&le "n proceso
c"%o (nico res"l tado sea la a&sorcin de calor procedente de "n foco %
la conversin de este calor en tra&a>o? +es decir* no podemos constr"i r
"n mvil perpet"o de se-"nda especie,. Esta versin es la )"e se
conoce como formul ación elvin! "lanck del segundo principio +0itado en
HemansG%* 498<* p-. 45=,.
Se p"ede demostrar +"na demostracin tal aparece* por e>emplo* en
HemansG%* 498<* p-. 458 % ss., )"e las form"l aciones de 0la"si"s +0, %
la de Belvin; /lancG +B, son e)"i valentes. Es decirE
0;IB % B;I0*
o seaE
0J; IB.
2a% )"e seAalar )"e este se-"ndo principio de termodi n#mi ca es
independiente del pri mero. /or ello !a&lamos de mviles perpet"os de
pri mera % se-"nda especie. Los de pri mera especie* de e'isti r* violarían
el pri mer principio por prod"cir s" propia ener-ía. Los de se-"nda
especie* en cam&io* en nada afectarían al prin cipio de conservacin de
la ener-ía* sin em&ar-o serían incompati &l es con el se-"ndo principio.
En 458: % e'tra%endo las consec"encias del prin cipio de 0arnot*
0la"si"s pone en circ"lacin por pri mera ve$ el t@rmi no ?entropía? para
desi-nar "na f"n cin de estado c"%a e'istencia dem"estra +4,. La
entro pía de "n sistema es "na f"ncin de las varia&les ter modin#mi cas*
c"%o cam&io es i-"al a la inte-ral E
S
f
;S
i
K dLMT*
donde L es la canti dad de calor intercam&i ado por el sistema d"rante la
transformaci n % T es la temperat"ra a&sol"ta a la )"e se reali$a la
operacin. S
f
% S
i
son la entropía final e inicial respecti vamente.
Es importante reparar en )"e slo se define "n cam&io de entropía* no
"na entropía a&sol"ta.
Si el proceso comien$a % termi na en el mismo estado* es decir* fKi *
entonces se p"ede demostrar )"e E
dLMTK=*
ec"acin conocida como teorema de 0la"si"s.
La nocin de entropía !a sido -enerali$ada a fi nales del si-lo NIN por el
físico a"stríaco L"d1i - .olt$mann +4577; 49=:,. 0onsiderando )"e cada
estado macroscpico de "n -as p"ede ser reali$ado por "n n(mero
determi nado de estados microscpicos* se p"ede pro&ar )"e "n
macroestado m#s entrpico es compati &l e con ma %or n(mero de
?compl e'i ones? +por "tili$ar la termi no lo-ía introd"ci da por /lancG,
microscpicas )"e "no )"e lo sea menos* siendo* por tanto* a priori m#s
pro&a&l e. 2e a)"í otra forma de medi r la entropía de "n sistema* en
f"ncin del n(mero de ?compl e'i ones? compati &l es con "n macroestado
dadoE
SKGLnO*
donde S es la entropía* O el n(mero de microestados compati &l es con
el macroestado dado +a veces aparece como P en la literat"ra so&re el
tema. La pro&a&ilidad del estado termodi n#nico de "n -as ser# 4MOK ,
% G la llamada constante de .olt$mann +4*<54'4=
;4:
er-.M-rado,. La
frm"l a f"e "sada por pri mera ve$ por De Moivre +48C:, en el est"dio
de los >"e-os de a$ar.
La !istori a de las relaciones entre informacin % entropía parte de la
s"p"esta parado>a e'p"esta por Ma'1ell en s" #heor$ of %eat +Ma'1el l*
4584* p-. <65,E
Los !"manos* limi tados como somos* estamos m"% le>os de poder
medi r con e'acti t"d la posicin % velo cidad de cada mol@c"la de "n -as.
/or fort"na n"estra ima-ina cin es m#s poderosa )"e los instr"mentos
de )"e disponemos. /odemos pensar en "na ca>a con dos comparti men ;
tos com"nicados por "na min(sc"la p"erta % !a&i tados por mol@c"las
de "n -as c"al)"iera. /on-amos )"e la cancela est# -estionada por "n
ser dimi n"to % prodi -ioso )"e se entreti ene en de>ar pasar !acia s"
derec!a las mol@c"las )"e se apro'i man vivaces % !acia s" i$)"ierda
a)"@llas )"e se arrastran con paso can sino. /asado "n tiempo
pr"dencial tenemos )"e n"estra ca>a* donde antes se alo>a&a "n -as
!omo-@neo % a&"rrido* se !a !ec!o diversa % ordenada. S" !a&i t#c"lo
i$)"ierdo se !a refri -erado % el op"esto !a -anado calor. Si el dia&lillo
de Ma'1ell decide en ese momento fran)"ear la p"erta
indiscri mi nadamente* "n en>am&re de mol@c"las veloces se apres"rar#n
a oc"par el !"eco de la i$)"ierda con tal de resta&lecer el aAorado
e)"ili &rio termodi n#mi co. No de&emos descartar la posi&ilidad de
instalar "na p"erta -iratori a )"e facili taría* en este trance* la
prod"ccin de tra&a>o. 2emos dado con el mvil perpet"o de se-"nda
especie* al-o así como la c"adrat"ra del círc"lo.
Es previsi&le la aparicin de pro&lemas en la reali$acin de seme>ante
pro%ecto. En pri mer l"-ar !a&ría )"e a-enciarse "n demi "r-o al estilo
ma'1el li ano* difi c"ltad )"e* con no ser pe)"eAa* se ve s"perada por
otra de car#cter terico m#s f"ndamental +6,E f"e S$ilard +S$ilard* 4969,
el pri mero en darse c"enta de )"e el demonio de Ma'1ell trafica con
informaci n* necesi ta sa&er* enterarse de la velocidad % posicin de las
mol@c"las )"e se apro'i man a s" p"erta. La informaci n no es -ratis*
re)"iere dispendio de ener-ía % entropía a fin de ?il"mi mar? cada
mol@c"la. Este -asto s"pera con creces* como m"estra .rillo"i n
+.rillo"in* 49:6* p-. 4:6 % ss., la -anancia o&teni da. La sol"cin )"e
propone S$ilard para la pres"nta parado>a ma'1el l iana importa en este
conte'to %a )"e por pri mera ve$ se rela ciona entropía con informacin
% ello casi veinte aAos antes de la aparicin del c@le&re artíc"lo de
S!annon. 0on posteriori dad a @ste no !a fal tado )"ien ar-"men tase
tanto a favor como en contra de dic!a relacin +<,.
DES/UES DE S2ANN3N.
El n"do concept"al )"e se !a te>ido en torno a las nociones de
informaci n % entropía tras la p"&lica cin de la #eor&a 'atem(ti ca de la
)omunicación de 0la"de S!annon* p"ede tener "n ori-en "n tanto
anecd ticoE parece ser )"e S!annon te nía en mente &a"ti$ar s" f"ncin
2 como Q"ncertai nt %Q * por)"e mide la incerti d"m&re de )"e "n
determi nado men sa>e sea esco-ido entre "n con>"nto de alternati vas
posi&le. Esta incerti d"m&re se prod"ce antes de la elec cin efecti va.
3tra opcin era llamar a 2 Qinforma tionQ * %a )"e c"anti fica la in;
formacin )"e se reci&e tras la eleccin de "n mensa>e dado. No
o&stante* Von Ne"mann* tal % como relata Tri &"s +Tri&"s* 49:<* citado
en Den&i-!* 495C* p-. 4=7,* terci de modo pers"asivo en favor de
Qentrop%Q con dos poderosos ar-"mentosE
?It is alread% in "se "nder t!at name and &e sides it 1ill -ive %o" a -reat
ed-e in de&a tes* &eca"se no&od% reall % Gno1s 1!at entrop% is
an%1a%?.
Von Ne"mann se refería a la identi dad +formal * aAadiremos, entre las
f"nciones "tili$adas en mec#nica estadística % la f"ncin 2 de S!annonE
S
./
K LnO
S
R
K; S
>
/
>
TLn/
>
Si-"iendo la notacin de Den&i-! +Den&i-!* 495C,* S
./
est# por la
f"ncin entropía de .olt$mann % /lancG* siendo la constante de
.olt$mann % O el n(mero de comple'i ones compati &l es con el
macroestado dado. S
R
es la frm"l a de la entropía introd"ci da por
Ri&&s* )"e para el caso /
>
K4MO* se red"ce a S
./
.
No o&stante* las posiciones en torno al tema no son* en modo al-"no*
"n#ni mes. Van desde )"ien piensa )"e slo !a% "na coincidencia
a$arosa en las frm"l as "tili$adas* o )"e slo de "na forma anal-ica se
p"eden asimilar entropía e informacin* !asta )"ien opina )"e e'iste
"na identi dad prof"nda* al-o m#s )"e mera analo -ía.
En "n reciente artíc"lo de Oe&er* Depe1* D%Ge* Salt!e* Sc!neider*
Ulano1ic$ % OicGen* se p"ede leerE ?T!e nat"re of t!e relati ons!i p of
t!ermod%nami c and statistical concept of entrop% to informati onal or
S!annon entrop% remai ns pro&lemati c +see /eacocGe* 495<U Den&i-!
and Den&i-!* 495CU Depe1 and Oe&er* 4955,. It is still "n clear 1!et!er
informati on repre sents a -enerali$ati on of earlier concepts of entrop%
+.rooGs and Oile%* 495:* 4955U 0ollier* 495:,U or is a distinct concept
connec ted to entrop%* &"t not in a li near fas!ion +Ferracin et al.* 4985U
OicGen* 4958,U or 1!et!er informati on and entrop% can onl% &e linGed
in a metap!ori cal manner +St"art* 495C,U or 1!et!er* fina ll%* present
informa tion t!eor% is inade)"ate for t!e tasG of descri&in- informati on
and ener-% transforma tions in livin- s%stems +3lmsted* 4955,? +Oe&er
et al.* 4959,.
En torno al tema de la entropía se tiende "na di fícil maraAa concept"al
% termi nol -ica* m#s intri n cada* si ca&e* desde )"e 0ollier !a decidido
poner en circ"lacin las nociones de ? introp$ ? % ? enformati on ? +ver
.rooGs* 0ollier* Ma"rer* Smit! and Oile%* 4959* p-. 747,.
Oeaver da pie a la apro'i macin entre conceptos termodi n#mi cos e
informaci onal es tra%endo a colacin "na cita de Eddin-tonE
?S"pon-amos )"e se nos pide clasificar los si-"ientes conceptos en dos
cate-orías ;distancia* masa* campo el@ctrico* entropía* &elle$a* melodía.
Fo creo )"e e'isten ra$ones poderosas para poner entropía >"nto a
&elle$a % melodía % no con las tres pri meras.? +citado en S!annon %
Oeaver* 4954* p-. 76, +7,.
/odemos s"mar este precedente al )"e esta&lece el propio S!annon al
ele-ir nomenclat"ra. 2a% m#sE Oiener !a&la en -eneral de la
informaci n como medi da del or den* incl"so "tili$a la e'presin Qislands
of decrea sin- entrop%Q * % aAade )"e en la transmisin de infor macin*
@sta slo p"ede dismi n"i r* !ec!o )"e pone @l en paralelo con el
se-"ndo principio de termodi n#mi ca. /ara Oiener es la forma
ci&ern@tica del mismo +ver Oiener* 4975* p-. 4= % 49C=* p-s. <= % 5=,.
Se-(n As&!% la informaci n es "na medida de la diversidad de "n
con>"nto de elementos +As&!%* 49:4* p-. 449,. Recordemos )"e la
entropía física p"ede "ti li$arse como medida de la !omo-enei dad de "n
sistema.
En .orn +.orn* 4979,* podemos leerE ?Irreversi &i lit% is a conse)"ence of
t!e e'plici t introd"cti on of i-norance into t!e fo"ndamental la1s?.
.ar;2illel* por el contrari o* critica la identi ficacin )"e Von Ne"mann
!ace entre l-ica* teoría de la informaci n % termodi n#mi caE ?V0arnap
and IW 1e 1ere )"i te read% to a-ree t!at t!ere e'isted a certai n for mal
analo-%*...&"t co"ld not see !o1 an% stron-er rela tions!i ps co"ld
possi&l % &e s"pposed to e'ist? +.ar; 2i llel* 49:7* p-. 44,. Von Ne"mann
se e'presa como si la entropía termodi n#mi ca f"ese "na medida de
n"estra i-norancia del sistema* mientras )"e* se-(n .ar; 2illel esta
opinin no es correcta.
Reic!en&ac! +Reic!en&ac!* 49C:, seAala )"e en la teoría de la
informaci n nos oc"pamos de la macroentro pía* mientras )"e en la
termodi n#mi ca % en la mec#nica estadística nos interesa la
microentropía* am&as no tienen por )"@ ir >"ntas* l"e-o la analo-ía ;%
@sta es la opinin m#s e'tendi da act"al mente; p"ede -enerar
conf"sin* de&e ser tratada con c"idado +ver* por e>em plo* Smart* 498C*
p-. 6=6,.
En Birsc!enmann +Birsc!enmann* 498=* p-. 47=, se leeE ?Accordin- to a
-reat n"m&er of Soviet scientists* it is onl % t!e mat!emati cal
e'pressions of t!ermod%na mic entrop% and of informati on content
1!ic! coincide ;1!ic! leaves room for treatments onl % t!ro"-!
analo-%?* a"n)"e se p"edan citar e'cepciones relevantes como la de
NoviG.
La posicin m#s clara % pla"si&le en este tema pro&a&l emente sea la
defendi da por /opper % tam&i @n por Den&i-!E ?To &e s"re* t!ere are
-ood mat!emati cal reasons 1!% informati on t!eor% and statistical
mec!anics &ot! re)"i re f"ncti ons !avin- t!e same str"ct"re. Fet t!is
formal similari t % of 2 and S
R
does not si-nif% t!at t!e t1o f"nctions
necessaril % refer to t!e same situati on . T!e% ma% do so in some
conte'ts &"t not in ot!ers. As /opper +4987, ver% clearl % p"t it* it is a
matter of 1!et!er t!e /
i
Qare pro&a&ili ti es of t!e same attri &"tes of t!e
same s%stemQ ? +Den&i -!* 495C* p-. 4=7,.
0onviene* p"es* distin-"i r tres tipos de entro pía* la )"e se "tili$a en
termodi n#mi ca* la de la mec# nica estadística % la informacional. Entre
las dos pri meras !a% "na estrec!a % directa relacin* como m"estra
.olt$mann* mientras )"e la (lti ma es concept"al mente diferente % slo
se identi fica con las anteri ores en ciertos conte'tos físicos. 2a% indicios
so&rados )"e permi ten f"ndar esta afirmacinE
; La termodi n#mi ca cl#sica no trata con siste mas le>os de e)"ili&rio*
mientras )"e son @stos* típi camente los )"e p"eden contener ma%or
canti dad de informacin. En concreto* los seres vivos son sistemas de
-ran comple>idad donde la medi da de la entropía termo din#mica res"l ta
ina&orda&le. 0omo seAala RatlinE ?First of all* can 1e esta&lis! t!at t!e
entrop% !as in fact declined in !i-!er or-anismsX No one !as ever pro ;
ved t!is )"anti tati vel %....I t!inG o"r classical no tions of entrop% as t!e%
come to "s from t!e presentl % esta&lis!ed ?la1s of p!%sics and
c!emistr%? are totall % inade)"ated in dealin- 1it! t!e livin- s%stem?
+Ratlin* 4986* p-. 66,.
; 2ol$mYller* a(n pensando )"e e'iste m#s )"e "na mera analo-ía
formal* ap"nta otra dific"l tad para acep tar )"e real mente sea así. Las
consideraciones termodi n#micas no s"elen aplicarse a mol@c"las
aisladas. Mientras )"e a)"í* lo )"e nos interesa es la aplicacin de la
teoría de la informaci n a "nidades molec"lares %a sea de DNA o de
proteínas +ver 2ol$mYller* 4957* p-s. viii % 96,.
; T!a'ton* .radle% % 3lsen +4957,* miden por separado la entropía
termodi n#mi ca % confi-"racional de al-"nas macromol @c"l as &iol-icas.
/arece evidente )"e slo la (lti ma se relaciona de modo claro con la
infor macion. Adem#s* dos macromol @c"l as para las )"e se !a calc"lado
la misma entropía termodi n#mi ca p"eden dife rir en c"anto al conteni do
informaci onal relevante en los sistemas vivos.
; .rooGs % Oile% +495:, % 0ollier +495:,* )"e "tili$an con prof"sin el
concepto de entropía en &iolo-ía* mati$an el tema diciendo )"e no de&e
conf"ndi rse con la entropía vi-ente en termodi n#mi ca. Se-(n 0ollierE
?Alt!o"-! notions s"c! a temperat"re and free ener-% !ave no o&vi"s
correlates in evol"ti onar% &iolo-%* it is possi&le to "se t!e or-ani$ati onal
and pro&a&ilistic aspects of entrop% and informati on to intro d"ce a
notion of &iolo-ical entrop%. T!is is not neces saril% t!e same as
t!ermod%nami c entrop%* and t!e e'act relation is open to )"estion?
+0ollier* 495:* p-. :,. /ara .rooGs % Oile% la e)"i valencia entre entropía
ter modi n#mi ca % estadística* est# demostrada slo de forma restri n-i da
al nivel molec"lar +ver .rooGs and Oile%* 495:* p-. C5,.
; Den&i-!* contestando a Le1is* aporta dos casos en los )"e no se da la
relacin pretendi da entre -anan cia de informaci n % p@rdi da de
entropíaE ? #he gaining of informati on t!at a spectral line* previo"sl %
&elieved to &e a sin-let* is act"all % a m"l ti pl et* 1ill re )"ire a raising of
t!e spectroscop% entrop%. T!e same applies to t!e -ainin- of
Gno1led-e t!at o"r s%stem contai nts previo"sl % "ns"spected isotopes
so t!at 1e ma% no1 allo1 for an entrop% of isotope mi 'i n-? +Den &i-!*
495C* p-. 47,. Frente a Von Ne"mann* se-(n el c"al* para "n
o&servador )"e cono$ca todos los momentos % posiciones de las
partíc"las de "n sistema* la entro pía del mismo es cero* Den&i-! ar-"%e
)"e ?t!e Qentrop%Q !e speaGs of cannot &e t!e t!ermod%nami c entrop%*
or t!e normal statistical mec!anical entrop%...If 1e also Gne1 Qall
coordi nates and momentaQ t!is addi tional informati on 1o"ld not c!an-e
t!e val"es of t!e t!ermod%nami c and t!e statistical mac!anical en ;
tropies in t!e least. In partic"l ar* it not maGe t!ose val"es e)"al to $ero
as Von Ne"mann said? +Den&i -!* op.cit.* p-. 7C,.
INF3RMA0I3N F NERUENTR3/IA.
.rillo"i n sostiene la identi dad entre la infor macin % la entropía
ne-ati va. A pesar de lo dic!o !asta el momento* !aremos referencia a
s"s ideas por la -ran infl"encia )"e !an e>ercido so&re científicos %
filsofos. S" cita es l"-ar com(n % a s"s opiniones se atienen* sin m#s*
m"c!os a"tores +C,.
.rillo"i n +49:6, distin-"e entre informacin li &re +I
f
, e informacin
li-ada +I
&
,* Qfree and &o"nd informati onQ . En la se-"nda* los posi&les
casos o estados del sistema entre los )"e se reparte la pro&a&ilidad*
son comple'i ones +en el sentido )"e dio /lancG al t@r mino, de "n
sistema físico. Se entiende por comple'i o nes de "n sistema físico los
estados posi&les del mismo* donde cada estado es "n p"nto en "n
espacio de :N dimensiones* siendo N el n(mero de partíc"las. La
informaci n li&re oc"rre c"ando los posi&les estados del sistema son
contempl ados en a&stracto* sin si-nifi cado físico específico.
La informaci n li-ada es "n caso espacial de in formaci n li&re. La
informaci n li&re e'iste en la mente +.rillo"i n* op.ci t.* p-. 4CC,* con lo
)"e la entropía se s"&>eti vi$a en la línea marcada por Von Ne" mann. La
entropía es vista como "na medida de la i-no rancia. De !ec!o .rillo"in
reali$a esta investi -acin con las miras p"estas en la teoría de la
medi da. 0"ando reali$amos "na medicin so&re "n sistema o&tenemos
informaci n* pero a cam&io* introd"ci mos entropía en el sistema. Desde
este p"nto de vista* la informaci n o&tenida podría ser medi da en
f"ncin del a"mento de entropía. En contraparti da* la accin
ordenadora so&re "n sistema dismi n"%e s" entropía* pero si se reali$a a
parti r de la informaci n previamente o&teni da* !a% )"e contar con )"e
el precio de esta dismi n"cin est# %a pa-ado. Esta es la &ase de la
resol"cin de la parado>a de Ma'1ell.
La tendencia a la s"&>eti vi$acin de la entropía es detectada por
Den&i-! % contra ella diri-e s"s ar-" mentos. La identi ficacin entre
informaci n % entropía* se-(n @l* slo s"pone "n paso m#s en "n
proceso )"e venía de atr#s. Fa en el si-lo NIN los científicos prefe rían
pensar )"e c"al)"ier efecto a$aroso tenía s" raí$ no en la propia
nat"ral e$a de las cosas sino en n"estro desconoci mi ento de las mismas.
Los escri tos de Ma'1ell tam&i @n ap"ntan en esta direccin. Se-(n
.r"s! +498:,* para Ma'1ell es n"estro conoci mi ento del m"ndo el )"e
es estadístico* no el m"ndo mismo. M#s recientemente* en el mismo
sentido* p"ede verse Da%nes +49:C,* donde se afirma )"e la entropía es
"n concepto antropomr fico* % 2o&son +4984,. /ara Den&i-!* % parece
"n p"nto de vista sensato* la entropía es tan s"&>eti va como p"eda
serlo la temperat"ra a&sol"ta* la ener-ía interna o el vol"men.
/or otra parte* tam&i @n es defendi &le la o&>eti vidad de la entropía de la
mec#nica estadística. En este caso todo depende de la interpretacin
)"e !a-amos del concepto de pro&a&ilidad. Sa&ido es )"e !a% al me nos
dos alternati vasE la pro&a&ilidad vista como fre c"encia* o&>eti va por
tanto* o como espectati va* s"&>e tiva en este caso. Den&i-! propone
interpretar la pro&a&ilidad ? as limi ti ng relati ve frecuencies * as o&tai ned
appro'i matel % &% t!e maGin- of a lar-e* &"t fini te* n"m&er of repeated
trials? +Den&i -!* op.ci t.* p-. <<,* o &ien* si-"iendo a /opper como
?propensi ti es of sin-le events to realise t!emsel ves in lon- r"ns?
+/opper* 495<* p-. 7==. 0itado en Den&i-!* op.ci t.* p-. <<. Ver tam&i @n
la entrevista de D.Mosterín a B./opper* 4959* donde /opper defiende )"e
s" concepto de pro&a&ili dad como propensin tiene* tam&i @n* car#cter
o&>eti vo,. En am&os s"p"estos* la pro&a&ilidad no reside en el o&ser ;
vador* lo )"e permi te afirmar )"e tampoco la entropía de la mec#nica
estadística tiene por )"@ ser s"&>eti va.
/ara e'poner lo )"e .rillo"i n entiende por I
&
* comen$aremos
considerando "na f"ente de informacin AKZ a
4
*...*a
/o
[* donde /
o
es el
n(mero de estados posi &les de la f"ente. S"pon-amos )"e tiene "n
con>"nto de pro&a&ili dades asociadas HKZ $
4
*...*$
/o
[. Aceptemos "na
do&le restriccinE
4.;Los elementos de A son comple'i ones de "n sistema físico*
compati &l es con "n macroes tado dado.
6.;/ara c"ales)"iera dos elementos de H* $
i
% $
>
* $
i
K$
>
K4M/
o
. Es decir*
las comple'i ones son e)"ipro&a&l es.
La entropía informaci onal de A ser#E
2+A,KB lo- /
o
*
!a&i t"al mente B es i-"al a "no % los lo-ari t mos son &inarios* pero en
este caso interesa )"e sea BK k* donde k es la constante de .olt$mann %
)"e los lo-ari t mos "tili$ados sean neperianos. /or tanto*
2+A,K k Ln /
o
.
Tras "n s"ceso )"e aporte informaci n so&re el sistema* llam@mosle e*
)"e en el caso )"e nos oc"pa no es sino el paso del sistema a "n
macroestado diferente* compati &l e con "n n(mero menor de
comple'i ones* la entropía informacional )"edar# como si-"eE
2+A,K2+A\e, K k Ln /
4
*
siendo /
4
el n(mero de comple'i ones a las )"e todavía podemos
otor-ar "na pro&a&ili dad positi va. La distri &" cin se !ar# de forma )"e
todas ellas conti n(en siendo e)"ipro&a&l es* la informacin -anada*
entropía o indetermi naci n red"cida ser#E
I
&
K 2+A,;2+A\e, K kLn/o;kLn/
4
K kLn/
o
M/
4
.rillo"i n llama a esta medi da Q&o"nd informati onQ .
/or otra parte* la entropía física del sistema en el pri mer macroestado
esE
S
=
K k Ln /
=
*
% en el se-"ndoE
S
4
K k Ln /
4
*
dado )"e /
4
J/
=
* se !a prod"cido "na dismin"cin de la entropía*
SJ=*
si !acemos* como .rillo"i n* NK; S* donde N es la ne-"en tropía
+a&revi acin de entropía ne-ati va,* tenemos )"eE
NI=
NKS
=
;S
4
K k Ln /
=
M/
4
*
en concl"sinE
I
&
4
K N
4
K; S
4
Se-(n la se-"nda le% de la termodi n#mi ca* en todo sistema aislado la
entropía tiende a a"mentar* con el consi-"iente descenso de la
informaci n. .rillo"i n -enerali$a el principio de 0arnot +a"n)"e 0arnot
n"nca "tili$ase el t@rmi no entropía, post"lando )"e no slo I
&
* sino
tam&i @n I
f
* es intercam&i a&l e por entropía fí sica* de modo )"e* en
-eneral E
IJ; IN*
e'presado por .rillo"in como si f"ese "na reaccin )"í mica reversi&le.
El a"tor ad"ce e>empl os en los )"e se m"estra )"e am&os tipos de
informaci n slo p"eden ser o&teni dos pa-ando* por así decirlo en
entropía.
En realidad lo )"e m"estra .rillo"i n es )"e cier tas frm"l as
matem#ti cas son aplica&les en m#s de "n domi nio. *ue medi r la
entrop&a de un sistema es tanto como calcular la informaci ón +ue su
macroestado actual nos ofrece acerca de los microestados posibles * lo
c"al no indica a(n )"e la entropía física del sistema se identi fi )"e* en
-eneral* con la informaci nU tan slo )"e son ma-ni t"des
correlacionadas en determi nados s"p"estos. Si al-o se si-"e de las
tesis de .rillo"i n es )"e la referencia a la informaci n es s"perfl "a en
todo c#lc"lo termodi n#mi co % )"e el demoni o ma'1el l iano no re)"iere
este tipo de !isopos para ser e'orci$ado* &asta con c"adrar "n &"en
&alance ener-@ti co. De !ec!o Demers en 4977 sol"ciona el pro&lema
mediante detalla dos &alances de ener-ía % entropía sin tomar para
nada en c"enta la informacin. Tam&i@n Rodd* se-(n notifica
HemansG%* !a conse-"i do otro tanto +HemansG%* 498<* p-. 68C,. 0omo
escri&e Birsc!enmann ?In t!ese form"l ae QIQ m"st itself &e a p!%sical
)"anti t % to &e meas"red in "nits of t!ermod%nami c entrop%* if t!e
form"l ae are to remai n meani n-f"l . .rillo"in names ar&i trari l % QIQ Q&o"nd
informati onQ . T!is is all le-i ti mate* if s"per fl"o"s? +Birsc!enmann* 498=*
p-. 474,.
/or otra parte la -enerali$acin se-(n la c"al tam&i @n la informaci n
li&re es i-"al a la entropía ne-ati va* parece "n tanto in>"sti fica&le.
A"n)"e ciertos eventos informati vos conlleven la merma de entropía en
el medio materi al en el )"e se prod"cen* en m"c!os casos no !a%
manera de medi r la informacin a parti r de la entropía física. No es
se-"ro )"e la informacin impresa en esta !o>a p"eda medirse por el
cam&io de entropía )"e se prod"ce al distri &"i r la tinta. 0omo ad"ce
Smart ?para ver claramente )"@ es la dismi n"cin de la macroentropía*
no necesariamente de la microen tropía* lo )"e convierte a "n sistema
en "n re-istro* consid@rese el caso de la reprod"ccin foto-r#fi ca de
"na p#-ina impresa. 0"ando "n fotn da contra "na placa foto-r#fi ca la
enne-rece li-eramente...No !ace falta )"e nos oc"pemos de todos los
detalles )"ímicos* por)"e si el enne-reci mi ento corresponde a "n
cam&io de entro pía en "na direccin* entonces el en&lan)"eci mi ento
corresponde a "n cam&io de entropía en la otra direc cin...Una p#-ina
de letras ne-ras so&re &lanco propor ciona la misma informaci n )"e
&lanco so&re ne-ro +tiene la misma macroentropía,... es del todo
evidente )"e "na dismi n"cin de la macroentropía podría corres ponder
tanto a "n a"mento de la microentropía como a "na dismi n"cin de la
misma? +Smart* 498C* p-. 6=7; C,.
Es cierto )"e reali$ar "na medicin prod"ce "n cam&io en la entropía
del sistema medido* tam&i @n en el instr"mento medi dor % en -eneral en
el Universo. En este sentido* la ad)"isicin de informaci n se !ace a
costa de "n dispendi o de ne-"entropía* pero s" c"antía no nos dice
nada so&re la informaci n -anada.
Tam&i@n es verdad )"e la informacin* "na ve$ o& tenida p"ede ser
"sada para red"cir la entropía de "n sistema* pero* como afirma
Den&i-! ?s"rel % t!ere m"st &e some restricti on] For instance* it is
entirel % o"t side o"r e'peri ence t!at a se)"ence of s%m&ols on a piece
of paper or on a tape* or !eld in someoneQs !ead* can ever act as t!e
p!%sical ca"se...of an entrop% red"ction in some entirel % separate
s%stem. O!at is clearl % needed is a statement of t!e necessar% and
s"ffi cient condi tions "nder 1!ic! .rillo"inQ s interconverti &ilit% t!esis 1ill
!old* &"t t!is !e did not provi de? +Den&i -!* op.cit.* p-. 444,.
ENTR3/IA F EV3LU0I3N DE LA INF3RMA0I3N .I3L3RI0A.
El principio de 0arnot % la -enerali$acin )"e de @l !ace .rillo"i n* no
presa-ian nada &"eno para el f"t"ro del UniversoU sin em&ar-o la
evol"cin &iol-ica evidencia )"e a parti r de "n s"strato inor-#nico
p"eden s"r-i r formas comple>as % ordenadas. Esta aparente pa rado>a
se res"el ve admi ti endo )"e la dismi n"cin de la entropía en la &ioesfera
se compensa con creces por el a"mento en el entorno de @sta. A!ora
&ien* mostrar )"e la termodi n#mi ca no impi de el s"r-i mi ento de
estr"ct" ras a nivel local % con aporte ener-@tico e'terno* no es a(n
e'plicar este fenmeno or-ani$ati vo.
/ara dar "na e'plicacin le-al de los fenmenos a"to; or-ani$ati vos
nace la termodi n#mi ca de sistemas le>os de e)"ili&rio % la siner-@tica.
Am&as tratan de dar c"enta del s"r-i mi ento de estr"ct"ras ordenadas
+ver /ri-o-ine and Nicolis* 4988 % 2aGen* 495:,. Al-" nos a"tores !an
empleado estas disciplinas para est" diar los sistemas vivos. Tam&i@n la
teoría matem#ti ca de la com"nicacin !a sido "tili$ada en este #m&i to.
A)"í nos interesa diri mi r por )"@ estos científi cos esti man )"e la
comple>i dad % or-ani$acin propias de los seres vivos p"eden ser
a&ordadas desde las nociones de entropía e informacin* por )"@
entien den la informaci n como forma % s" medida como "n &a remo del
orden % comple>idad de los sistemas a )"e se aplica.
Ratlin +ver Ratlin* 4986, distin-"e la entropía termodi n#mi ca % la
informaci onal. 0"ando trata las relaciones entre informaci n % entropía
lo !ace dentro del conte'to de la teoría de la informacin. El pro &lema*
para ella* radica en el esta&leci mi ento de "na definicin % medida de la
informaci n. Si para S!annon @sta venía dada por la f"ncin 2* en
Ratlin la c"estin no es tan sencilla. La informaci n ser#E
IKD
4
^D
6
*
donde
D
4
K2
ma'
;2
4

D
6
K2
ind
;2
6
2
ma'
es la entropía m#'i ma de "n sistema* 2
ind
es la entropía en caso
de los s"cesos sean m"t"amente independientes* )"e la frec"encia de
aparicin de cada "no no est@ condicionada por los anteriores. 2
4
es la
entropía real del sistema % 2
6
* la entropía calc"lada a parti r de la
frec"encia real de pares de eventos.
0laro est# )"e podrían ser calc"ladas D
<
*...*D
n
. Así* la idea clave de
Ratlin es !acer )"e la informa cin est@ en f"ncin de la diferencia entre
la entropía ma'i ma % la real* diferencia )"e refle>a las constric ciones
efecti vas del +o so&re el, sistema )"e le impi den alcan$ar el estado m#s
pro&a&l e a priori. La diver -encia del estado m#s pro&a&le a priori tiene
m"c!o )"e ver con la red"ndanciaE
2
relati va
K2
real
M2
m#'

Red"ndanciaK4; 2
relati va

2
m#'
Kl o- aU a es el n(mero de estados posi&les del sistema. Si
!acemos
IK2
m#'
;2
real

entonces
Red"ndanciaKIMl o- a
Lo )"e nos interesa poner de mani fi esto es )"e en Ratlin no est#n en
>"e-o las relaciones entre informa cin % entropía termodi n#mi ca* sino
)"e se trata de "na redefi nicin +no m"% novedosa* por cierto, del
concepto de informacin dentro de la teoría matem#ti ca de la co;
m"nicacin. Fa en S!annon aparece la diferencia entre "na entropía
m#'i ma a priori* 2+',* % "na entropía real o a posteri ori* 2
%
+',
velocidad de transmisin K R K 2+',; 2
%
+',.
F en A&ramson "na canti dad similar se denomi na informaci n m"t"aE
I+AU.,K2+A,; 2+A\.,*
donde I+AU., es la informacin m"t"a* 2+A, es la entro pía de A % 2+A\.,
es la e)"ivocacin de A respecto de ..
Este tipo de frm"l as siempre est#n li-adas a fenmenos de
transmisin de informacin m#s )"e a la pro d"ccin de la misma. En
&iolo-ía tenemos )"e el DNA presente es el res"l tado de la informaci n
transmi ti da por la -eneracin anteri or +o por el DNA a parti r del )"e se
replic, % "na proteína lo es de la informaci n conteni da en el DNA.
Nada tiene de raro )"e en este conte'to se "tilice como medi da de la
informaci n* no la entropía informaci onal directamente* sino la diver ;
-encia de la entropía m#'i ma.
Todo lo dic!o so&re Ratlin re$a tam&i @n para .rooGs % Oile% +ver .rooGs
% Oile%* 495:,* de !ec!o ellos "tili$an la misma medi da de la
informaci n )"e Ratlin* no o&stante discrepan en c"anto al cmp"to de
la 2
m#'
. de "n sistema. Lo )"e no se entiende m"% &ien es la crítica*
"n tanto e'asperada* )"e Moro1i t$ diri-e a los a"tores de ,volution as
,ntrop$ . Se-(n @l ?at tempti n- to read t!e &ooG as seri"os p!%sics is a
s"rrealistic e'perience? +Moro1i t$* 495:,. Efecti vamente* los a"tores
descartan de modo e'plícito )"e s" concepto de entropía sea el de la
termodi n#mi ca cl#sica* incl"so afirman no a>"starse tampoco a la teoría
de la informa cin est#ndar +ver .rooGs And Oile%* op.ci t.* p-. C5,. Una
crítica como la de Moro1i t$* &asada en la ine'acti d"d de los conceptos
termodi n#mi cos )"e aparecen en el li&ro* p"ede res"l tar ociosa. Lo )"e
sí )"eda claro "na ve$ m#s es )"e entropía termodi n#mi ca e
informaci n slo son lo mismo en conte'tos m"% específicos* entre
otras ra$ones* %a al"didas* por)"eE
; ?T!e entrop% meas"re is onl % precise for e)"ili&ri "m s%stems. A
related meas"re e'ists for near to e)"ili&ri "m s%stems. For far from
e)"ili&ri "m s%stems s"c! as livin- or-ani ms t!e entrop% meas"re lacGs
meanin-.
; QAn% contri &"ti on of t!e patterni n- to t!e t!ermod%nami c f"nctions is
liGel % to &e ne-li-i&le "ntil t!e pattern is constr"cted 1it! molec"lar
finesseQ +/. Morrison* Review of 'odern "h$sics -. +49:7,* C48; C67,.
Morri son -oes on to s!o1 t!at visi&le patterni n- maGes a contri &"ti on
4=
;45
of t!at of molec" lar patterni n- in an% free ener-% f"ncti on?
+Moro1i t$* op.ci t.. p-. 78C,.
La línea de pensamiento )"e desc"&ri mos en Ratlin +% tam&i @n en
2ol$mYller,* tiene s"s antecedentes en Von Ne"mann % Oiener. /ara
@ste (lti mo* los seres vivos p"eden ser vistos como mecanismos
ci&ern@ticos +)$ber netics/ or )ontrol and )ommuni cati on in the 0ni mal
and the 'achine es el tít"l o de s" escri to m#s representa tivo,* de a!í
)"e la teoría de la informacin % otras relacionadas les sea de
aplicacin. En 2ol$mYller leemosE ?3r-anism are compara&le to
a"tomata...in all cases informati on from o"tside is taGen in and "ni)"el %
processed in t!e interi or? +2ol$mYll er* 4957* p-. 98,.
T!a'ton* 3lsen % .radle% +ver T!a'ton* 3lsen and .radle%* 4957, se
&asan en las ideas de .rillo"in para calc"lar la informaci n de las
macromol @c"l as &iol-i cas* pero ellos distin-"en entropía t@rmi ca* S
t!
*
% confi-"racional* S
c
. La entropía t@rmi ca estar# en f"n cin de las
posi&les distri &"ci ones de la ener-ía* P
t!
* en el sistemaU la
confi-"racional ser# relati va a las distri &"ciones posi&les de la masa*
P
c
E
S
t!
K k Ln P
t!

S
c
K k Ln P
c
*
siendo la entropía total la s"ma de am&as.
La informacin se calc"la* a)"í* restando la en tropía confi-"racional de
la mol@c"la en c"estin* S
cm
* de la entropía confi-"racional de "na
macromol @c"l a aleatori a de i-"al lon-i t"d* S
cr
*
IKS
cr
;S
cm
.
Los a"tores distin-"en c"idadosamente orden de comple>idad. /or
e>emplo* "n cristal posee "n alto -rado de orden* pero almacena poca
informaci n de&ido a )"e no es m"% comple>o. S" materi a p"ede
distri &"i rse de no m"c!as maneras* por tanto la diferencia S
cr
;S
cm
no
ser# m"% -rande* dado )"e S
cr
es &a>a. Una mol@c"la aperidica* como
el DNA o las proteínas* p"ede contener m"c!a informaci n* s" S
cr
es
alta. L"e de !ec!o la conten-a depende de s" especificidad* es decir*
de )"e S
cm
sea &a>a. La informaci n de "na sec"encia específica es
m#'i ma c"ando* p"diendo s"s componentes or-ani$arse de m(l ti pl es
formas* slo la sec"encia referi da res"l ta f"ncional en al-(n senti do
determi nado.
Sin em&ar-o* La identi ficacin entre informacin % orden de&e parecer
tan o&via a los a"tores )"e desli $an "n si-nificati vo error. En el li&ro
referi do se leeE ?.rillo"i n
4=
* Sc!r_din-er
44
Vla nota 44 remi te a What is
life1W* and ot!ers !ave developed &ot! )"ali ta tive and )"anti tati ve
relati ons!i ps &et1een informati on and entrop%? +T!a'ton* 3lsen and
.radle%* op.ci t.* p-. 4<4,. Sc!r_di n-er* en el li&ro mencionado* no
relaciona informaci n % entropía* sino orden % entropía.
3RDEN F ENTR3/IA.
La nocin de orden !a enla$ado frec"entemente entropía e informacinU
se dice )"e am&as miden el -rado de orden de los sistemas a )"e se
aplican. /ara clari ficar el tema necesi tamos sa&er !asta )"@ p"nto la
entropía termodi n#mi ca es real mente "na medida del orden* % otro
tanto so&re la informaci n.
/or lo )"e respecta a la pri mera c"estin* la opinin de Den&i-! res"l ta
n"evamente de "tilidad. Frente al e'tendi do parecer de )"e entropía es
sinni mo de desorden* Den&i-! ad"ce "na serie de contrae>empl os.
Analicemos "no de ellosE c"ando "n -as se e'pande % pasa de oc"par la
mi tad de "n recipiente a reparti rse por todo el vol"men disponi&le*
!a&i t"al mente se afirma )"e el sistema se !a desordenado. De la
misma forma podría decirse )"e s" orden !a crecido* p"es se !a v"el to
m#s "niforme % sim@tri co +ver Den&i-!* op.cit.* p-* 7<,.
/ienso )"e el orden es relati vo % p"ede ser defi nido como la disposicin
de los elementos de "n sistema para la reali$acin de "na estr"ct"ra
+pattern, deter minada +orden estr"ct"ral , o &ien para el c"mpli mi ento
de "na f"ncin dada +orden f"ncional,. Si admi ti mos )"e las
estr"ct"ras* independientement e de s" posi&le e'is tencia o&>eti va* son
reconocidas por seres dotados* al menos* de capacidad percepti va*
entonces el orden estr"ct"ral p"ede red"cirse tam&i @n a orden
f"ncional. En este caso la f"ncin ser# el desencadenami ento de "n
proceso de percepcin* conoci mi ento o reconoci mi ento en "n s">eto.
Definir orden como orden; para* introd"ce "n cierto ses-o teleol-ico
)"e procede mati$ar. Slo podemos decir )"e "n sistema est# ordenado
+% siempre de modo relati vo, si de !ec!o est# disp"esto para c"mpli r
"na determi nada f"ncin. No est# ordenado en general sino en relacin
a al-o* lo )"e no implica )"e ha$a sido ordenado! para .
Aclarado esto* podemos afirmar )"e la entropía mide "n cierto orden
estr"ct"ral a &a>as temperat"ras % "n cierto orden f"ncional a
temperat"ras s"periores. Así* decir )"e "n cristal es poco entrpico
e)"i vale a afirmar )"e m"% pocas comple'i ones -eneran el patrn
estr"ct"ral )"e presenta a nivel macromol ec"l ar* o sea )"e est#
ordenado en relacin a esa estr"ct"ra dada. L"e "n sistema* formado
por las mol@c"las de "n -as en "n recipiente* se !omo-ei nice si-nifica
)"e pierde capacidad f"ncional para prod"ci r tra&a>o* en relacin a esta
f"ncin se desordena. /"ede -anar orden* no o&s tante* en c"anto a la
simetría estr"ct"ral )"e pre senta. El orden es relati vo % slo &a>o
ciertas condi ciones restricti vas* p"ede ser medi do en &ase a la entropía.
La entropía informaci onal* por tener "n car#cter m#s -eneral )"e la
entropía termodi n#mi ca* sí podría considerarse "na medi da del orden* o
de la or-ani$a cin* aplica&le a campos tan diversos como la &iolo-ía o
la lin-Yística. En Oe&er et al . +4959* p#-. <9=,* se insiste so&re este
p"ntoE ?Not ever% p!%sical micros tateMmacrostate distincti on t!at
em&odies a principle of constrai nt 1ill %ield entrop% calc"lati ons in t!e
t!ermod%nami c senseU onl % t!ose t!at are appropiatel % connected to
ener-etics 1ill. Entrop% is not a meas"re of ever% sort of disorder* &"t
onl% of energeticall $ relevant disorder. Disorder in formal* non; p!%sical
s%stems is often l"mped into a S!annon ?entrop%?* &"t 1!at
relati ons!i p t!is 1o"ld !ave to a tr"e entrop% is not clear?.
03N0LUSI3NES.
4. 0onviene distin-"i r tres tipos de entro pía* la )"e se "tili$a en
termodi n#mi ca* la de la mec# nica estadística % la informaci onal. Entre
las dos pri meras !a% "na estrec!a % directa relacin* como m"estra
.olt$mann* mientras )"e la (lti ma es concept"al mente diferente % slo
se identi fica con las anteri ores en ciertos conte'tos físicos.
6. Si al-o se si-"e de las tesis de .rillo"i n es )"e la referencia a la
informaci n es s"perfl "a en todo c#lc"lo termodi n#mi co. De !ec!o
Demers en 4977 sol"ciona el pro&lema mediante detalla dos &alances
de ener -ía % entropía sin tomar para nada en c"enta la infor macin.
Tam&i@n Rodd* se-(n noti fica HemansG%* !a con se-"ido otro tanto
+HemansG%* 498<* p-. 68C,. 0omo escri&e Birsc!enmann ?.rillo"i n
names ar&i trari l % QIQ Q&o"nd informati onQ . T!is is all le-i ti mate* if s"per ;
fl"o"s? +Birsc!enmann* 498=* p-. 474,.
/or otra parte la -enerali$acin se-(n la c"al tam&i @n la informaci n
li&re es i-"al a la entropía ne-ati va* parece "n tanto in>"sti fica&le.
<. Lo )"e nos interesa poner de mani fi esto* en el conte'to de la
evol"cin de los sistemas vivos* es )"e no est#n en >"e-o* en @l* las
relaciones entre informa cin % entropía termodi n#mi ca. Lo )"e se
entiende a)"í por entropía es "na redefi nicin del concepto de infor ;
macin dentro de la teoría matem#ti ca de la com"nicacin.
7. El orden es relati vo % slo &a>o ciertas condi ciones restricti vas* p"ede
ser medido en &ase a la entropía termodi n#mi ca. La entropía
informaci onal* por tener "n car#cter m#s -eneral )"e la entropía
termodi n#mica* sí podría considerarse "na medida del orden* o de la
or-ani$a cin* aplica&le a campos tan diversos como la &iolo-ía o la
lin-Yística
N3TAS
+4,; La pala&ra entrop&a f"e p"esta en circ"lacin por 0la" si"s en 458:.
Deriva de las pala&ras -rie-as v `p a iv* )"e "nidas si-nifican
?reple-arse o crecer !acia el inte rior?. 0la"si"s desi-na&a mediante
este t@rmi no la parte de la ener-ía de "n sistema )"e no p"ede
transformarse en tra &a>o mec#nico sin transmi ti r calor a al-(n otro
c"erpo o a"mentar s" vol"men. .olt$mann en 459:* f"e el pri mero en
demostrar )"e la entropía podía e'presarse en f"ncin del valor medio
del lo-ari tmo de las pro&a&ilidades de los estados del sistema. S!annon
+4975, introd"> o la pala&ra en la teoría de la informaci n. +/ara este
tema p"ede verse A&ramson* 4988* p- C7,.
+6,; 2a% otras dific"l tades tericas )"e en este conte'to va mos a
considerar sec"ndari as. /or e>empl o M. von Smol" c!o1sGi menciona el
posi&le efecto del movi mi ento &ro1ni ano so&re la p"erta )"e separa los
dos comparti mentos* de forma )"e ?a s%stem ma% move* &"t irre-"l arl %
and not in a s%ste matic 1a%? +citQ en .rillo"in* 49:6* p#-. 4:6,
+<,; So&re la !istoria de la teoría de al informaci n p"de verseE 0.
0!err%E ?A 2istor% of t!e T!eor% of Informati on? en "roceedings of the
2nsti tute of ,lectrical ,ngineers/ vol. 34 +III, +49C4,* pp. <5<; <9<U %
?T!e 0omm"ni cati on of Informati on? en 0merican scientist/ vol. 56*
+49C6,* pp. :7=; ::7 ;/"ede verse tam&i @n el li&ro de David Slepian*
e$ papers on the development of informati on theor$. N3TAS
+7,; Tam&i@n Oeaver cita como antecedentes de S!annon a S$i lart*
.olt$mann % Von Ne"mann* como !emos referi do en 4.4.6..
+C,; /or e>emplo* A&ramson $an>a el tema de la relacin entre
informaci n % entropía asíE ?Veremos )"e el concepto de en tropía*
f"ndamental en la teoría de la informaci n tal % como se desarrolla
a)"í* tiene al menos "na seme>an$a de forma con la entropía
termodi n#mi ca +.rillo"in* 49C:U Da%nes* 49C9,? +A&ramson* 4988* p-.
4:,. F HemansG%* en este conte'to slo cita a .rillo"in +ver HemansG%*
498<* p-. 687,.
.I.LI3RRAFIA
A.RAMS3N*N. +4988,E #eor&a de la información $ codificación . /araninfo*
Madrid. Versin espaAola de 2nformati on theor$ and coding * p"&licada
por MacRra1; 2ill .ooG 0ompan%.
AS2.F*O. +49:4,E 0n 2ntroducti on to )$berneti cs. Oile%* N.F.
.AR;2ILLEL*F. +49:7,E 7anguage and informati on . Addison; Oesle% /.0.*
Massac!"setts.
.3LTHMANN*L. +495:,E ,scritos de mec(nica $ termodi n(mi ca . Alian$a
Editorial* Madrid.
.3RN*M. +4979,E 8atural "hilosoph$ of )ause and )hance. 3'ford Univ*
/ress. 3'ford.
.RILL3UIN*L. +49:6,E 9cience and informati on theor$ . Academic /ress*
London.
.R33BS*D.* D.03LLIER* ..A.MAURER* D.D.2.SMIT2 and E.3.OILEF +4959,E
?Entrop% and informati on in evolvi n- &iolo-ical s%stems?* :iolog$ and
"hilosoph$/ 5E 7=8; 7<6.
.R33BS*D.* 0UMMINR*D.* Le.L3ND*/.* +4955,E ?DolloQs la1 and t!e
second la1 of t!ermod%nami cE Analo-% or e'tensionX?. In ,ntrop$/
2nformati on and ,volution . Oe&er* Depe1 and Smit! ed. MIT /ress*
Mass.
.R33BS*D.* 2.Le.L3ND and D.0UMMINR* +4957,E ?Informati on and
Entrop% in a Simple Evol"ti on Model?. ;.#heor.:iol. <63 E 88; 9<.
.R33BS*D. and OILEF*E. +495C,E ?None)"ili &ri "m* T!ermod%na mics and
Evol"ti onE Responses to .ooGstei n and OicGen?. 9$st. =ool./ -5.
.R33BS*D. and OILEF*E. +495:,E ,volution as ,ntrop$ . Univ. of 0!ica-o
/ress* 0!ica-o.
.R33BS*D. and S2AO*R. +498<,E >rigin and development of li ving
s$stems * Academic /ress* N.F..
.RUS2*S. +498:,E #he ind of 'otion We )all %eat. Nort!; 2olland /"&l.
0o.
0ARN3T* S. +4567,E Réflexions sur la puissance motri ce du feu et les
machines propres à developper cette puissance.
03LLIER*D. +495:,E ?Entrop% in Evol"ti on?* :iolog$ and "hilosoph$/ <E C;
67.
03LLIER*D. +4955,E ?T!e D%namic of .iolo-ical 3rder?. In ,ntrop$/
2nformati on and ,volution *. Oe&er* Depe1 and Smit! ed. MIT. /ress*
Massac!"setts.
De M3IVRE +48C:,E #he doctri ne of chances? >r a method of calculati ng
the probabili t$ of events in pla$ . /!oto; repro d"ction* 49:8* N.F.E
0!elsea /ress.
DEN.IR2*B. and DEN.IR2*D. +495C,E ,ntrop$ in relati on to incompl ete
knowledge. 0am&rid-e Univ./ress* 0am&rid-e.
DE/EO*D. and OE.ER*.. +4955,E ?0onse)"ences of None)"ili&ri "m
T!ermod%nami cs for t!e Dar1inian Tradi ti on?. In ,ntrop$/ 2nformati on
and ,volution . Oe&er* Depe1 and Smit! Ed. MIT /ress. Massac!"setts.
FERRA0IN*A.* E./ANI02ELLI* M..ENASSI* A.Di NALL3 and 0.STEINDLER
+4985,E Self; or-ani$in- a&ili t% and livin- s%s tems. :io9$stems * <6E <=8;
<48.
RATLIN*L. +4986,E 2nformati on theor$ and the living s$stems. 0ol"m&i a
Universi t% /ress* N.F.
2ABEN*2. +495:,E @órmulas de éxito en la 8atural eAa. Salvat* .arcelona.
2ABEN*2. +4955,E 2nformati on and 9elf! organiAati on. Sprin-er; Verla-*
2eidel&er-.
23.S3N*A. +4984,E )oncepts in 9tatistical 'echanics . Rordon b .reac!*
N.F.
23LHMcLLER*O. +4957,E 2nformati on in biological s$stems? the role of
macromol ecules . 0am&ri d-e Univ. /ress* 0am&rid-e.
DAFNES*E. +49C8,E "h$s. Rev./ <6. E:6= % 4=5E484.
DAFNES*E. +49:C,E 0m. ;. "h$s./ --E<94.
BIRS02ENMANN*/. +498=,E 2nformati on and Reflection . Reidel /.0.*
Dordrec!t.
MANOELL*0. +4584,E #heor$ of %eat .
M3R3OITH*2. +49CC,E ?Some order; disorder considerati ons in livin-
s%stems?. :ull. 'athem. :ioph$s./ <B* p-s. 54; 5:.
M3R3OITH*2. +49:5,E ,nerg$ @low in :iolog$ . Academic /ress* London.
M3R3OITH*2. +495:,E ?Entrop% and nonsenseE A revie1 of .rooGs and
Oile%* Evol"ti on as Entrop%?* :iolog$ and "hilosoph$/ <E 78<; :.
3LMSTED*D. +4955,E ?3&servati ons on Evol"tion?. In ,ntrop$/
2nformati on and ,volution. Oe&er* Depe1 and Smit! Ed. MIT press*
Massac!"setts.
/EA030BE*A. +495<,E 0n introducti on to the phisical chemistr$ of
biological organiAati on . 3'ford Universi t% /ress. 3'ford.
/3//ER*B. +4986,E >bCecti ve nowledge . 0am&ri d-e Univ. /ress*
0am&rid-e.
/3//ER*B. +4987,E In #he philosoph$ of arl "opper . Vol. 4* p. 4<=. Ed.
/.A. Sc!ilpp.
/3//ER*B. +495<,E ?La red"ccin cienti fica % la incompleti t"d esencial de
toda ciencia?. En ,studios sobre filosof&a de la biolog&a/ A%ala %
Do&$!ansG% eds.* Ariel* .arcelona.
/RIR3RINE*I.* NI03LIS*R. and .A.L3FANTH*A. +4986,E "h$sics #oda$/
Novem&er* p-. 6<; <4.
/RIR3RINE*I. and NI03LIS*R. +4988,E 9elf! organiAati on in none+uilibri um
s$stems . Do!n Oile% b Sons* N.F.
/RIR3RINE*I. and STENRERS*I. +495<,E 7a nueva alianAa. 'etamorfosis
de la )iencia. Alian$a Editorial* Madrid. +/ri mera edicin en franc@s de
4989* Ed. Rallimard* /aris,.
REI02EN.A02*2. +49C:,E #he direction of ti me . Univ. of 0ali fornia /ress*
Los An-eles.
S2ANN3N*0. +4975,E ?Mat!emati cal T!eor% of comm"nicati on?. :ell
9$stem #echnical ;ournal/ vol.DB * p-s. <89; 76< % :6<; :C:.
S2ANN3N*0. +49C8,E 0ertai n res"l ts in codin- t!eor% for nois% c!annels.
2nform. )ontrol/ <E:; 6C
S2ANN3N*0. and OEAVER*O. +4979,E 'athemati cal theor$ of com!
municati on. Universi t% of Illinois /ress* Ur&ana.
S2ANN3N*0. et OEAVER*O. +498C,E #héorie 'athémati +ue de la
)ommuni cati on . /@face dQA&ra!am Moles. Ret$;0.E./.L.* /aris.
S2ANN3N*0. F OEAVER*O. +4954,E teor&a matem(ti ca de la comu !
nicación. For>a* Madrid.
SMART*D. +498C,E ,ntre )iencia $ @ilosof&a. Tecnos* Madrid. La o&ra
ori-inal es :etween 9cience and "hilosohp$ . Random 2o"se* 49:5* N.F.
STUART*0. +495C,E ?.io; informati onal E)"ivalence?. ;.#heor.:iol./ <<- E
:44; :<:.
SHILARD*L. +4969,E ?U&er die Entropievermi nder"n- einem t!er ;
mod%nami sc!en S%stem &ei Ein-ri ffen intelli-enter Oesen? =. "h$sik/
E-E 57=; 5C:.
T2ANT3N*0.* .RADLEF*O. and 3LSEN*R. +4957,E #he m$ster$ of lifeFs
origin . /!ilosop!ical Li&rar%* N.F.
TRI.US*M. +49:<,E :oelter 0nniversar$ Golume . McRra1; 2ill.
OE.ER*..* D.DE/EO* 0.DFBE* S.SALT2E* E.S02NEIDER* R.ULAN3OI0H
and D.OI0BEN* +4959,E ?Evol"ti on in t!ermod%nami c perspec tiveE An
ecolo-ical approac!?* :iolog$ and "hilosoph$/ 5E <8<; 7=C.
OI0BEN*D. +495<,E ?Entrop%* Informati on and None)"ili&ri "m Evol"ti on?.
9$st. =ool. -DE7<5; 77<.
OI0BEN*D. +4958d,E ?Entrop% and Informati onE S"--estion for common
len-"a-e?. "hilosoph$ of 9cience.
OI0BEN*D. +4958,E ,voluti on/ 2nformati on and #hermod$nami cs?
,xtendi ng the Harwi nian "rogram . 3'ford Univ. /ress* 3'ford.
OI0BEN*D. +4955,E ?T!ermod%nami cs* Evol"ti on and Emer-enceE
In-redients for a ne1 s%nt!esis?. In ,ntrop$/ 2nformati on and ,volution/
Oe&er* Depe1 and Smit! Ed. MIT. /ress* Massac!"sets.
OIENER*N. +4975,E )$berneti cs? or )ontrol and )ommuni cati on in the
0nimal and 'achine . MIT. /ress* 0am&rid-e* Mass.
OIENER*N. +49C=,E #he human use of human beings. 2o"-!ton Mifflin
0ompan%* .oston.
OILEF*E. and .R33BS*D. +4956,E ?Victi ms of 2istor% ;A None )"ili&ri "m
Approac! to Evol"ti on?. 9$st. =ool./ -<E 4;67.
OILEF and .R33BS +495<,E ?None)"ili &ri "m* T!ermod%nami cs and
Evol"ti onE a Response to Lovtr"p?. 9$st. =ool./ -DE 6=9; 649.
OILEF*E. +4955,E ?Entrop% and Evol"tion?. In ,ntrop$/ 2nfor mati on and
,voluti on. Oe&er* Depe1 and Smit! ed.* MIT /ress* Massac!"setts.
OILS3N* +49:5,E Increasin- Entrop% in .iolo-%. Entrop% not
Ne-"entrop%. 8ature/ D<3 E C<7; C<C
HEMANSBF*M. +498<,E )alor $ termodi n(mi ca . A-"ilar* Madrid. Edicin
ori-inal a car-o de MacRra1; 2ill* 49:5* N.F.