1906: Ludwig Boltzmann dör

Den 5 september 1906 tog den österrikiske fysikern Ludwig Eduard Boltzmann sitt liv under en vistelse i kustorten Duino nära Trieste. Han var sextiotvå år. I mer än tre decennier hade han kämpat för att etablera den statistiska mekaniken—uppfattningen att de välkända lagarna för värme och energi helt enkelt är det storskaliga uttrycket för oräkneliga slumpmässiga kollisioner mellan osynliga atomer och molekyler.

Boltzmanns bestående emblem är ekvationen som nu är huggen på hans gravsten i Wien: S = k log W. Entropin S mäter oordning; W räknar de mikroskopiska arrangemang som är förenliga med ett givet makroskopiskt tillstånd; k är konstanten som bär hans namn. I en tid då många ledande fysiker fortfarande tvivlade på att atomer var verkliga tedde sig formeln som filosofisk spekulation i matematisk dräkt. Den intellektuella isoleringen, tillsammans med svåra depressioner, tärde på honom.

Fyra decennier senare dök samma matematiska struktur upp i ett helt annat sammanhang. Claude Shannon, som på Bell Labs arbetade med problemet att skapa tillförlitlig kommunikation, behövde ett precist mått på osäkerhet. Han såg att Boltzmanns logaritmiska räkning av möjligheter gav honom precis vad han sökte. Shannons informationsentropi H = −∑ pᵢ log pᵢ blev grunden för informationsteorin och snart därefter för kodning, komprimering och digital beräkning.

Från informationsteorin vandrade begreppet in i den artificiella intelligensen. Korsentropi är den standardförlustfunktion som tränar dagens neurala nätverk; informationsvinst styr uppdelningarna i beslutsträd; entropiregularisering får förstärkningsinlärningsagenter att fortsätta utforska. När en stor språkmodell beräknar sannolikhetsfördelningen över nästa token utför den en beräkning vars idémässiga härstamning går rakt tillbaka till Boltzmanns statistiska insikt.

Så fortsätter en idé som smiddes i en artonhundratalsfysikers ensamma kamp att forma de algoritmer som känner igen tal, översätter språk och genererar text år 2024. På denna dag minns vi inte bara en tragisk död utan också den tysta uthålligheten hos ett matematiskt sätt att tänka på osäkerhet—ett sätt som visade sig oumbärligt den dag maskinerna själva började lära.