Particles prefer low energy.
통계역학 입문, 볼츠만 분포
Introduction to statistical mechanics: the Boltzmann distribution.
지금까지 우리는 온도, 열, 엔트로피, 자유에너지 같은 거시적인 양들을 다뤘습니다. 그런데 이 모든 양은 결국 눈에 보이지 않는 수많은 입자들이 모여 만들어 낸 평균값입니다. 그렇다면 입자 하나하나는 어떤 규칙을 따를까요? 어떤 입자는 바닥에서 잠잠히 있고, 어떤 입자는 높은 에너지 상태로 들떠 있습니다. 이 가운데 어떤 에너지 상태에 입자가 얼마나 머무를지를 정하는 단 하나의 식이 있습니다. 통계역학 전체를 떠받치는 가장 근본적인 식입니다.
So far we have worked with macroscopic quantities: temperature, heat, entropy, and free energy. Yet all of these are ultimately averages over enormous numbers of invisible particles. What rule does each individual particle follow? Some sit quietly in low-energy states; others are excited into high-energy ones. A single equation decides how many particles occupy each energy state. It is the most fundamental equation underpinning all of statistical mechanics.
바로 볼츠만 분포 $P_i \propto e^{-E_i/kT}$ 입니다. 에너지가 높은 상태일수록 그곳에 입자가 있을 확률이 지수적으로 줄어든다는 뜻입니다. 입자는 낮은 에너지를 압도적으로 선호하지만, 온도라는 열적 흔들림이 일부 입자를 위로 밀어 올립니다. 온도를 올리면 분포가 펑퍼짐해지며 높은 에너지 상태도 점점 채워집니다. 1877년 루트비히 볼츠만이 내놓은 이 식의 깊은 통찰은, 거시 세계의 질서 정연한 법칙이 사실은 미시 세계의 무작위가 평균된 결과라는 것입니다.
That equation is the Boltzmann distribution: $P_i \propto e^{-E_i/kT}$. Higher-energy states are exponentially less probable. Particles overwhelmingly favour low energy, but thermal agitation — temperature — pushes some of them upward. Raising temperature flattens the distribution and fills higher states progressively. The deep insight that Ludwig Boltzmann offered in 1877 is that the orderly laws of the macroscopic world are actually the statistical average of microscopic randomness.
이 한 줄에서 열역학의 거의 모든 것이 흘러나옵니다. 평균 에너지, 엔트로피, 열용량은 물론이고, 화학 반응 속도(아레니우스 식), 반도체의 전하 운반자 농도, 별빛의 스펙트럼선까지 모두 이 분포의 변주입니다. 오른쪽 그래프에서 온도 $T$ 와 에너지 준위 간격 $\Delta E$ 를 바꿔 보면, 입자들이 각 준위에 어떻게 분배되는지가 실시간 막대로 그려집니다. 추울 때 거의 모두 바닥에 모여 있다가 뜨거워지면 위로 흩어지는 모습을 직접 확인해 보세요.
Nearly all of thermodynamics flows from this single line: average energy, entropy, heat capacity, chemical reaction rates (the Arrhenius equation), semiconductor carrier concentrations, and stellar spectral lines are all variations on the Boltzmann distribution. In the graph on the right, changing temperature $T$ and energy-level spacing $\Delta E$ redraws the bar chart of level occupancies in real time. Watch almost all particles crowd the ground state at low temperature, then spread upward as you increase the heat.
미시의 무작위가 거시의 법칙.
Microscopic randomness becomes macroscopic law.
왜 하필 지수 함수 $e^{-E/kT}$ 일까요? 다른 모양은 안 될까요?
통계역학의 출발점은 단 하나의 원리입니다. 고립된 계에서는 가능한 모든 미시 배열이 똑같이 잘 일어난다는 것입니다. 그런데 우리가 관심 있는 것은 큰 열저장고와 접촉한 작은 계, 예컨대 거대한 공기 속의 분자 하나입니다. 작은 계가 에너지 $E_i$ 를 가지면 그만큼 저장고의 에너지가 줄고, 저장고에서 가능한 배열의 수 $W$ 가 바뀝니다. 볼츠만의 $S = k_B \ln W$ 를 통해 이 변화를 따라가면, 작은 계가 상태 $i$ 에 있을 확률이 정확히 저장고의 엔트로피가 가장 커지는 쪽으로 기울어진다는 것을 알 수 있습니다.
그 결과가 바로 $P_i \propto e^{-E_i/kT}$ 입니다. 지수 함수가 나오는 데에는 깊은 이유가 있습니다. 서로 독립인 두 부분의 에너지가 더해질 때 확률은 곱해져야 하는데($P(E_1+E_2)=P(E_1)P(E_2)$), 이 성질을 만족하는 함수는 지수뿐이기 때문입니다. 분모의 $kT$ 는 에너지를 무차원으로 만드는 자연스러운 척도이고, 음의 부호는 높은 에너지일수록 확률이 작아져야 분포가 규격화될 수 있기 때문에 붙습니다. 단 하나의 식이지만, 그 안에 통계역학의 골격이 모두 담겨 있습니다.
Why specifically the exponential $e^{-E/kT}$? Could it have any other form?
Statistical mechanics begins from a single postulate: in an isolated system, every accessible microstate is equally probable. The system we actually care about, however, is a small system (say, one molecule) in contact with a large heat reservoir. When the small system carries energy $E_i$, the reservoir loses that energy, changing the number of its accessible microstates $W$. Tracking this change through Boltzmann's $S = k_B \ln W$ shows that the probability of the small system being in state $i$ tilts precisely toward maximising the reservoir's entropy.
The result is $P_i \propto e^{-E_i/kT}$. There is a deep reason for the exponential: when two independent parts of a system have energies that add, their probabilities must multiply ($P(E_1+E_2)=P(E_1)P(E_2)$), and the only function satisfying this is the exponential. The denominator $kT$ is the natural energy scale that makes the exponent dimensionless; the negative sign ensures probabilities decrease at higher energy so the distribution can be normalised. One equation, yet it contains the entire skeleton of statistical mechanics.
Q1 실온에서 대부분의 분자가 바닥 상태에 머무는 이유는 무엇일까요?
Q1 Why do most molecules stay in the ground state at room temperature?
Q2 화학 반응이 온도에 그토록 민감한 것도 이 분포 때문일까요?
Q2 Is the extreme temperature-sensitivity of chemical reactions also due to this distribution?
상태 $i$ 에 입자가 있을 확률입니다. $g_i$ 는 같은 에너지를 가진 상태의 수(축퇴도), $Z$ 는 전체 확률을 1로 맞추는 규격화 상수입니다. 에너지가 높을수록 확률이 지수적으로 작아지며, 그 감소 속도를 온도 $T$ 가 정합니다.
$Z = \sum_i g_i e^{-E_i/kT}$ 는 단순한 규격화 상수가 아니라 거시 물리량 전체의 발전소입니다. 평균 에너지 $\langle E\rangle = -\partial \ln Z/\partial\beta$, 헬름홀츠 자유에너지 $F = -kT\ln Z$, 엔트로피와 열용량까지 모두 $Z$ 를 미분해서 얻습니다($\beta = 1/kT$). 미시 정보가 $Z$ 하나에 압축되어 있는 셈입니다.
$kT$ 가 준위 간격 $\Delta E$ 보다 훨씬 크면 여러 준위가 고루 채워지는 고전적 상황이 됩니다. 반대로 $\Delta E \gg kT$ 이면 바닥 상태만 점유되고, 입자가 동일할 때는 페르미-디랙이나 보스-아인슈타인 같은 양자 통계가 전면에 등장합니다. $\Delta E/kT$ 라는 한 비율이 고전과 양자의 경계를 가릅니다.
문턱 $E_a$ 를 넘는 분자 비율 $e^{-E_a/kT}$ 에서 곧바로 $k = A\,e^{-E_a/RT}$ 가 유도됩니다. 화학 반응, 확산, 크리프, 결정 성장이 모두 이 형태를 따르며, 온도가 지수 안에 들어 있어 작은 온도 변화에도 속도가 크게 달라집니다.
This gives the probability of finding a particle in state $i$. $g_i$ is the degeneracy (number of distinct states at energy $E_i$), and $Z$ is the normalisation constant that makes the probabilities sum to 1. Probability decreases exponentially with energy, and temperature $T$ sets the rate of that decrease.
$Z = \sum_i g_i e^{-E_i/kT}$ is far more than a normalisation constant: it is the generating function for all thermodynamic quantities. Average energy $\langle E\rangle = -\partial \ln Z/\partial\beta$, Helmholtz free energy $F = -kT\ln Z$, entropy, and heat capacity all follow from derivatives of $Z$ (with $\beta = 1/kT$). All microscopic information is compressed into $Z$.
When $kT \gg \Delta E$, many levels are populated and the classical equipartition regime applies. When $\Delta E \gg kT$, only the ground state is occupied, and for identical particles quantum statistics (Fermi-Dirac or Bose-Einstein) become essential. The single ratio $\Delta E/kT$ marks the boundary between classical and quantum behaviour.
The fraction of molecules with energy above the barrier $E_a$ is $e^{-E_a/kT}$, from which the Arrhenius equation $k = A\,e^{-E_a/RT}$ follows directly. Chemical reactions, diffusion, creep, and crystal growth all follow this form; temperature sitting in the exponent means even small changes cause large changes in rate.
입자들을 계단 위에 흩어진 공이라고 생각해 보세요. 공은 가만두면 가장 아래 칸으로 모이려 하지만, 온도라는 흔들림이 계단을 흔들어 일부 공을 위 칸으로 튕겨 올립니다. 흔들림이 약하면(추우면) 거의 다 아래에 모이고, 세지면(뜨거우면) 위 칸에도 제법 올라갑니다. 다만 한 칸 올라갈 때마다 거기 머무는 공의 수는 일정 비율로 뚝뚝 줄어드는데, 그 줄어드는 모양이 바로 지수 함수 $e^{-E/kT}$ 입니다.
Imagine particles as balls scattered across a staircase. Left undisturbed, they gravitate to the bottom step; temperature is a shaking that bounces some of them onto higher steps. Weak shaking (cold) keeps almost all balls on the lowest step; strong shaking (hot) sends a fair number higher. But the number of balls on each step falls by a fixed fraction with every step up, and that precise pattern of decline is the exponential $e^{-E/kT}$.
작은 계가 상태 $i$(에너지 $E_i$)에 있을 확률은 그때 저장고가 가질 수 있는 미시 배열 수 $W_R(E_\text{tot}-E_i)$ 에 비례합니다. $S_R = k_B\ln W_R$ 를 $E_i$ 에 대해 1차 전개하면 $\ln W_R(E_\text{tot}-E_i) \approx \text{const} - E_i/k_BT$ (단, $1/T = \partial S_R/\partial E$)가 되어, $P_i \propto e^{-E_i/k_BT}$ 가 곧바로 따라 나옵니다.
같은 결과를 평균 에너지 $\langle E\rangle$ 가 고정된 조건에서 정보 엔트로피 $-\sum_i P_i \ln P_i$ 를 최대화해도 얻습니다. 라그랑주 승수법으로 풀면 $P_i = e^{-\beta E_i}/Z$ 가 유일한 해이며, 승수 $\beta$ 가 $1/kT$ 로 동정됩니다. 깁스(1902)가 정식화한 이 방식은 볼츠만 분포가 주어진 정보 아래 가장 편향 없는 분포임을 보여 줍니다.
분배함수 $Z(\beta) = \sum_i g_i e^{-\beta E_i}$ 로부터 $\langle E\rangle = -\partial\ln Z/\partial\beta$, $C_V = \partial\langle E\rangle/\partial T$, $F = -kT\ln Z$, $S = -\partial F/\partial T$ 가 차례로 나옵니다. 단열·등온 같은 거시 거동이 결국 미시 합산 $Z$ 의 미분 구조에 담겨 있다는 것이 통계역학의 핵심 메시지입니다.
The probability of the small system being in state $i$ (energy $E_i$) is proportional to the number of microstates accessible to the reservoir: $W_R(E_\text{tot}-E_i)$. Expanding $S_R = k_B\ln W_R$ to first order in $E_i$ gives $\ln W_R(E_\text{tot}-E_i) \approx \text{const} - E_i/k_BT$ (using $1/T = \partial S_R/\partial E$), from which $P_i \propto e^{-E_i/k_BT}$ follows immediately.
The same result is obtained by maximising information entropy $-\sum_i P_i \ln P_i$ subject to fixed average energy $\langle E\rangle$. Solving with Lagrange multipliers gives $P_i = e^{-\beta E_i}/Z$ as the unique solution, with the multiplier $\beta$ identified as $1/kT$. This approach, formalised by Gibbs (1902), shows that the Boltzmann distribution is the least-biased distribution consistent with the given information.
From the partition function $Z(\beta) = \sum_i g_i e^{-\beta E_i}$: $\langle E\rangle = -\partial\ln Z/\partial\beta$, $C_V = \partial\langle E\rangle/\partial T$, $F = -kT\ln Z$, $S = -\partial F/\partial T$. The central message of statistical mechanics is that all macroscopic behaviour — adiabatic, isothermal, or otherwise — is encoded in the differential structure of the microscopic sum $Z$.
볼츠만 분포 $P_i \propto e^{-E_i/kT}$ 는 입자가 낮은 에너지를 선호하되 온도가 일부를 위로 들뜨게 하는 균형을 한 줄로 담아냅니다. 그리고 분배함수 $Z$ 를 통해 평균 에너지, 엔트로피, 열용량, 반응 속도, 반도체 전하 농도가 모두 이 한 식에서 흘러나옵니다. 거시 열역학이 사실은 미시 입자들의 통계 평균이라는 것, 이것이 통계역학이 우리에게 주는 가장 큰 통찰입니다. 다음 레슨에서는 이 분포를 기체 분자의 속력에 적용해, 우리가 첫 레슨에서 만났던 맥스웰-볼츠만 속력 분포를 한 단계씩 직접 유도해 보겠습니다.
The Boltzmann distribution $P_i \propto e^{-E_i/kT}$ captures in a single line the balance between particles seeking low energy and thermal agitation lifting some of them upward. Via the partition function $Z$, average energy, entropy, heat capacity, reaction rates, and semiconductor carrier densities all flow from this one equation. The key insight of statistical mechanics is that macroscopic thermodynamics is the statistical average of microscopic randomness. The next lesson applies this distribution to the speeds of gas molecules and derives step by step the Maxwell-Boltzmann speed distribution we first met in Lesson 01.
CHECK 스스로 확인하기
1. 어떤 들뜬 상태가 $\Delta E = kT$ 만큼 위에 있다면, 바닥 대비 점유 확률 비는?
→ $e^{-1} \approx 0.37$, 즉 바닥 상태의 약 37% 입니다. 한 단위 $kT$ 올라갈 때마다 확률이 $1/e$ 배로 줄어듭니다.
2. 온도를 높이면 볼츠만 분포의 모양은 어떻게 바뀔까요?
→ 펑퍼짐해집니다. 지수의 감소가 완만해져 높은 에너지 상태의 점유율이 커지고, 바닥 상태로의 쏠림이 줄어듭니다.
3. 아레니우스 식이 볼츠만 분포에서 어떻게 나올까요?
→ 활성화 에너지 $E_a$ 를 넘는 분자 비율이 $e^{-E_a/kT}$ 이고, 반응 속도가 그 비율에 비례하기 때문입니다. 그래서 $k = A\,e^{-E_a/RT}$ 가 됩니다.
CHECK Self-check
1. An excited state is $\Delta E = kT$ above the ground state. What is the ratio of its occupancy to the ground-state occupancy?
→ $e^{-1} \approx 0.37$, about 37% of the ground-state population. Every step of $kT$ upward reduces occupancy by a factor of $1/e$.
2. What happens to the shape of the Boltzmann distribution when temperature increases?
→ It flattens. The exponential decay becomes more gradual, so higher-energy states become more populated and the pile-up at the ground state is reduced.
3. How does the Arrhenius equation follow from the Boltzmann distribution?
→ The fraction of molecules with energy above the activation barrier $E_a$ is $e^{-E_a/kT}$, and reaction rate is proportional to that fraction, giving $k = A\,e^{-E_a/RT}$.