엔트로피 최대 원리와 열평형 요건의 유도
엔트로피 최대 원리와 열평형 요건의 유도
장회익 선생님의 대담영상 6-3과 6-4는 통계역학에서 논의되는 엔트로피의 문제를 다루고 있습니다.
자연철학 세미나에 도움이 되길 바라면서, 요즘 열통계물리의 교재로 많이 사용되는 책에 있는 내용을 조금 소개해 드리려 합니다.
R. K. Pathria, P. D. Beale (2011) Statistical Mechanics 3rd Edition
열역학은 1840년대부터 조금씩 조금씩 소위 '열현상'에 대한 새로운 이론으로 정립되어 갔습니다. 여러 우여곡절이 있지만, 루돌프 클라우지우스가 열역학의 두 법칙을 발표한 것이 가장 중요합니다.
열역학의 법칙들은 사람의 이름이 붙는 여느 법칙과는 근본적으로 다릅니다. 옴의 법칙은 전기저항에 흐르는 전류의 양이 입력으로 주어진 전압에 비례한다는 주장인데, 경험을 통해 확인할 수 있습니다. 또 반도체처럼 옴의 법칙이 전혀 적용되지 않는 것도 얼마든지 가능합니다.
그러나 열역학의 법칙들은 이렇게 개념적으로나 계산을 통해서나 실험을 통해 증명할 수 있는 성격의 것이 아닙니다. 말 그대로 공리체계에서 공리, 즉 모든 것의 출발점으로 제시되는 것입니다. 법률이나 헌법 같은 것과 성격이 같다고도 할 수 있습니다. 그래서 아예 '법칙 Laws / Gesetz'이라고 부릅니다.
그러나 근본법칙으로 제시되었다고 해서 무조건 받아들여야 하는 것은 아니기 때문에, 그 의미를 깊이 곱씹어 보아야 합니다.
열역학의 첫째 법칙은 다음과 같이 요약됩니다. [Robert J. Hardy and Christian Binek. (2014). Thermodynamics and statistical mechanics : an integrated approach. Wiley. p. 22]
(1a) 모든 계에 내부에너지 $U$라는 상태함수를 대응시킬 수 있다.
(1b) 에너지는 보존되며, 내부에너지의 변화는 열($Q$)의 출입이나 외부에 하는 일($W$)로 나타난다.
열역학 둘째 법칙은 다음과 같이 요약할 수 있습니다. [Robert J. Hardy and Christian Binek. (2014). Thermodynamics and statistical mechanics : an integrated approach. Wiley. p. 148]
(2a) 모든 열적으로 상호작용하는 계에는 엔트로피라는 상태함수가 존재하며, 외부에 일을 하지 않을 때 내부에너지가 증가할수록 엔트로피는 증가한다.
(2b) 단열된(열적으로 단절된) 계의 엔트로피는 감소하지 않는다.
그런데 이렇게 서술된 열역학의 의미를 정확하게 이해하는 일이 그리 쉬운 일은 아닙니다. 통계역학은 열역학을 미시상태와 거시상태라는 개념을 써서 재구성/재서술하는 것이라 할 수 있습니다.
대표적으로 온도, 압력, 화학퍼텐셜 개념을 얻는 과정은 다음과 같이 정돈할 수 있습니다.
먼저 통계역학이 적용되는 대상은 아주 많은 수의 구성원으로 이루어져 있다고 가정합니다. 그 구성원은 입자, 분자, 원자 등 여러 이름으로 불립니다. 그 대상의 거시상태는 세 가지 변수로 서술됩니다. 구성원들 전체의 에너지 $E$, 구성원들의 개수 $N$, 대상이 차지하는 부피 $V$.
거시상태(macrostate)를 간단하게 $(N, V, E)$라고 나타냅니다. 이런 거시상태 하나에 대응하여 구성원들이 이루는 상태들의 모음은 매우 다양할 수 있습니다. 이렇게 거시상태 하나를 구성하는 다양한 방식들을 미시상태(microstate) 또는 컴플렉시온(complexion)이라 부릅니다. 장회익 선생님께서도 강조하시듯이, 이름과 달리 '거시/미시'의 문제는 구성원의 크기와는 거의 상관이 없습니다.
특정의 거시상태 $(N, V, E)$에 해당하는 모든 가능한 미시상태들의 수를 $W$라 부르면, 이것은 틀림없이 구성원들의 개수 $N$, 대상의 부피 $V$, 대상의 전체 에너지 $E$의 함수일 것입니다. 이를 $W (N, V, E)$로 나타낼 수 있습니다.
대상이 두 부분계로 이루어져 있다고 가정하면, 각각의 부분계에 대하여 $W_1 (N_1, V_1, E_1)$, $W_2 (N_2, V_2, E_2)$를 정의할 수 있습니다. 만일 두 부분계의 구성원의 개수도 일정하고 부피도 일정한데, 다만 서로 에너지를 주고 받을 수 있다고 하면
$$ E^{(0)} = E_1 + E_2 = \mbox{const}$$
이어야 합니다. 여기에서 $E^{(0)}$는 두 부분계로 이루어진 복합계의 전체 에너지입니다.
두 부분계가 에너지 교환 외에 상호작용이 없다면, 복합계의 미시상태의 수는 각 부분계의 미시상태의 수의 곱으로 주어집니다.
$$ W^{(0)} = W_1 (E_1 ) W_2 (E_2) $$
앞의 식을 이용하면
$$ W^{(0)} = W_1 (E_1 ) W_2 (E^{(0)}- E_1) = W^{(0)} (E_1 ) $$
이라 말해도 됩니다.
이제 이 대상들을 자연스럽게 놓아둔다면, 틀림없이 미시상태의 수 $W^{(0)} (E_1 )$가 최대로 되는 조건을 향해 변화해 갈 것이라고 짐작할 수 있습니다. 이는 미시상태의 수가 많을수록 그렇게 될 확률이나 가능성이 많다는 말과 같습니다. 따라서 계의 가장 개연성 높은 상태는 계가 전체 시간 동안 가장 압도적으로 오래 머무르는 거시상태입니다.
미시상태의 수를 최대로 하는 조건을 계산으로 구해 보겠습니다. $ W^{(0)} = W_1 (E_1 ) W_2 (E_2) $를 최대로 하려면, 두 인수의 곱으로 주어져 있으므로 각 인수의 미분계수를 써서 다음과 같이 말할 수 있습니다.
$$ \frac{\partial W_1}{\partial E_1 } W_2 + W_1 \frac{\partial W_2}{\partial E_2 } \cdot \frac{\partial E_2}{\partial E_1} = 0 $$
그런데
$$ E^{(0)} = E_1 + E_2 = \mbox{const}$$
이니까
$$\frac{\partial E_2}{\partial E_1} =-1$$
입니다. 따라서 위의 식을 정리해 보면
$$ \frac{1}{W_1} \frac{\partial W_1}{\partial E_1 } = \frac{1}{W_2} \frac{\partial W_2}{\partial E_2 } $$
를 얻습니다. 로그 함수의 미분을 이용하면
$$ \frac{\partial \log W_1}{\partial E_1 } = \frac{\partial \log W_2}{\partial E_2 }$$
가 됩니다.
만일
$$ \beta := \frac{\partial \log W}{\partial E }$$
로 정의하면, 두 부분계가 열평형을 이루고 있을 때, 즉 더 이상 변화하지 않을 때의 조건은
$$ \beta_1 = \beta_2 $$
가 됩니다.
여기에서 볼츠만의 정의를 가져옵니다. 클라우지우스가 정의한 엔트로피 $S$가 사실은 미시상태의 수에 로그값을 붙인 것이라고 말하는 겁니다. 즉
$$ S = k \log W $$
이런 모양의 식을 처음 쓰고, 그 물리상수 $k$를 볼츠만 상수라 부른 것은 막스 플랑크입니다.
그러면
$$\beta = \frac{1}{k} \frac{\partial S}{\partial E }$$
또는
$$ \frac{\partial S}{\partial E } = k \beta$$
가 됩니다. 이제 $\beta$ 대신 $T$를 도입합니다.
$$ T = \frac{1} {k \beta}$$
다시 말해
$$ \frac{1}{T} = \frac{\partial S}{\partial E }$$
로 정의하는 $T$는 두 부분계가 열평형이라면
$$ T_1 = T_ 2$$
가 된다는 조건을 충족시켜야 합니다. 이 $T$가 바로 열역학에서 말하는 온도입니다.
(대담에서는 배경계의 온도와 대상계의 온도를 구별하고, 가령 헬름홀츠 자유에너지를 $ F = U - T' S$와 같이 표시를 달리 해 주어야 한다는 질문이 나옵니다. 이 질문은 중요한 지적인데, 나중에 다시 더 이야기를 풀어갈 수 있겠습니다.)
앞에서 특정 거시상태에 해당하는 미시상태의 수는 $W (N, V, E)$와 같이 구성원의 개수, 계의 부피, 계의 에너지의 함수로 주어진다고 했습니다. 위의 이야기에서는 구성원의 개수와 계의 부피가 달라지지 않는 경우만 다루었습니다.
계의 부피가 달라진다면, 열평형 조건은
$$ \frac{\partial \log W_1}{\partial V_1 } = \frac{\partial \log W_2}{\partial V_2 }$$
$$ \frac{\partial \log W_1}{\partial N_1 } = \frac{\partial \log W_2}{\partial N_2 }$$
라 하면, 열평형 조건은
대담 녹취에서 분명하지 않은 대목이 있습니다. 고립계, 닫힌 계, 열린 계의 개념입니다.
고립계(외떨어진 계 isolated system)는 계의 구성원의 수도, 부피도, 에너지도 달라지지 않는 계를 가리킵니다. 위에서 이야기한 것처럼 두 부분계로 나누어 생각한다면, 구성원(입자)의 흐름도 없고 에너지의 흐름(즉 열의 흐름)도 없는 경우입니다.
닫힌 계(closed system)는 구성원의 수는 변하지 않지만 에너지의 출입은 허용되는 경우를 가리킵니다. 맨 처음에 다룬 경우죠. (참고: https://en.wikipedia.org/wiki/Closed_system )
열린 계(open system)는 구성원들이 두 부분계들 사이에서 왔다갔다 하면서 움직일 수 있어서 구성원의 수가 변하는 경우를 가리킵니다. 이 때에는 화학 퍼텐셜의 아주 중요한 역할을 합니다.
열린 계에서 정의되는 기브즈 자유에너지 $G$는
$$ G = F + PV = E - TS + PV = \mu N$$
의 식을 충족시킵니다. 여기에서 $F$는 헬름홀츠 자유에너지이면
$$ F = E - TS$$
입니다.
열역학에서는 열역학적 변수를 $ T, P, V$로 두기 때문에
$$ F(N, V, T) = E - T S \quad (dF = - S dT - PdV + \mu dN ) $$
$$G(N, P, T )= U - TS + PV = \mu N \quad (dG = -Sdt +VdP + \mu dN )$$
입니다.
번호 | 제목 | 작성자 | 작성일 | 추천 | 조회 |
공지사항 |
<자연철학 강의 공부모임> 계획
시인처럼
|
2024.09.12
|
추천 0
|
조회 3533
|
시인처럼 | 2024.09.12 | 0 | 3533 |
공지사항 |
3기 새 자연철학 세미나 상세 계획
시인처럼
|
2024.09.12
|
추천 0
|
조회 3579
|
시인처럼 | 2024.09.12 | 0 | 3579 |
공지사항 |
[자료] 유튜브 대담영상 "자연철학이야기" 녹취록 & 카툰 링크 모음 (5)
neomay33
|
2023.04.20
|
추천 3
|
조회 13054
|
neomay33 | 2023.04.20 | 3 | 13054 |
공지사항 |
『양자역학을 어떻게 이해할까?』 정오표 (10)
시인처럼
|
2022.12.22
|
추천 3
|
조회 15841
|
시인처럼 | 2022.12.22 | 3 | 15841 |
공지사항 |
[공지] 게시판 카테고리 설정에 대해서 (4)
시인처럼
|
2022.03.07
|
추천 0
|
조회 12693
|
시인처럼 | 2022.03.07 | 0 | 12693 |
682 |
[질문] 엔트로피 법칙이 무엇인가요? (1)
자연사랑
|
2025.03.13
|
추천 0
|
조회 47
|
자연사랑 | 2025.03.13 | 0 | 47 |
681 |
[자료] 물리법칙과 '나'라는 문제
자연사랑
|
2025.03.12
|
추천 1
|
조회 66
|
자연사랑 | 2025.03.12 | 1 | 66 |
680 |
[자료] 자유에너지 경관과 준안정상태의 변화
자연사랑
|
2025.02.22
|
추천 1
|
조회 102
|
자연사랑 | 2025.02.22 | 1 | 102 |
679 |
[자료] 우주의 역사와 운명 (1)
자연사랑
|
2025.01.28
|
추천 1
|
조회 225
|
자연사랑 | 2025.01.28 | 1 | 225 |
678 |
[자료] 우주와 물질 - 개요 (4)
자연사랑
|
2025.01.27
|
추천 1
|
조회 239
|
자연사랑 | 2025.01.27 | 1 | 239 |
677 |
[자료] 고립계, 닫힌 계, 열린 계
자연사랑
|
2025.01.20
|
추천 1
|
조회 241
|
자연사랑 | 2025.01.20 | 1 | 241 |
676 |
[자료] 열역학 영째 법칙과 온도의 정의 (2)
자연사랑
|
2025.01.19
|
추천 0
|
조회 240
|
자연사랑 | 2025.01.19 | 0 | 240 |
675 |
상호작용 없는 측정(엘리추르-바이드만)과 겹실틈 실험
자연사랑
|
2024.12.25
|
추천 0
|
조회 216
|
자연사랑 | 2024.12.25 | 0 | 216 |
674 |
[자료] 푸리에 변환과 힐버트 공간
자연사랑
|
2024.12.10
|
추천 0
|
조회 293
|
자연사랑 | 2024.12.10 | 0 | 293 |
673 |
양자역학이 답하고 있는 문제: 상태를 어떻게 서술할까?
자연사랑
|
2024.12.09
|
추천 0
|
조회 254
|
자연사랑 | 2024.12.09 | 0 | 254 |
또 이 글과는 조금 다르면서도 상보적인 역할을 하는 글이 “온도란 무엇일까?”입니다. 직관적으로 이해하기는 어렵지만, 온도라는 것을 엔트로피와 내부에너지의 변화율로 보는 관점이 열역학에서 가장 핵심적인 것이라 하겠습니다.
이 글은 열역학의 두 법칙을 출발점으로 삼아서 온도가 내부에너지에 대한 엔트로피의 도함수로 정의하고 있습니다. 즉 $\frac{1}{T}=\frac{\partial S}{\partial E}$입니다. 그리고 여기에서 처음부터 확률 또는 경우의 수를 도입하여 $S= k \log W$를 자연스럽게 정의합니다.
이러한 접근을 조금 더 명료하게 한 것이 “ 엔트로피는 내부에너지, 부피, 분자 수의 함수”(https://is.gd/YOnGMw)입니다. 이 후자의 접근에서는 열역학의 두 법칙에서 출발하지 않고, 단순하게 평형인 계에는 언제나 하나의 열역학적 상태함수를 대응시킬 수 있다는 가정에서 출발합니다. 이 열역학적 상태함수가 곧 엔트로피 $S$입니다.
엔트로피 최대의 원리를 말할 때 "고립계의 엔트로피는 언제나 증가한다"라고 말함으로써, 엔트로피에 어떤 의미의 실체성을 부여하기 쉽습니다. 그러나 위의 이야기에서 분명하듯이, 어느 정도 긴 시간이 지나면 우여곡절과 중간 과도기를 지나서 결국 그 미시상태들의 수가 가장 많은 거시상태로 옮아가게 될 것이라는 지극히 당연하고 쉬운 말일 뿐입니다. 그것이 $ S = \log W$의 의미입니다.
자세한 설명을 올려주셔서 감사드립니다. 특히 제게는 모호했던 부분을 명확히 해주셨네요.
"엔트로피라는 상태함수가 존재하는데, 고립계에서는 같게 유지되거나, 증가한다" (엔트로피는 고립계에선 단조증가한다.)
"엔트로피에 어떤 실체성을 부여하기 쉬운 표현"을 우리가 흔히 접하지만 미시상태가 가장 많은 거시상태로 옮겨간다는 것을 엔트로피라는 상태함수를 써서 표현한 것이 열역학 제2법칙이군요.
그렇다면 확률, 통계에서의 "큰 수의 법칙"이나 "중심극한정리"와 열역학 2법칙이 상당히 유사하게 느껴집니다. (쉬운 얘기를 어렵게 하고, 거기에 법칙이라고 붙이고, 설명을 들어도 뭔가 모호하다는 느낌을 주는 면까지, 제게는 너무 비슷하게 보입니다 ㅠㅠ)
(엔트로피는 단조증가함수이니 동전던지기와 비교한다면, 수렴이 휠씬 직선적이고 빠르겠지요.)
현대적인 접근에서는 엔트로피를 정보이론으로 서술하는 것이 표준적입니다.
1948년에 미국의 수학자 클로드 섀넌이 정보의 수학적 이론을 발표하면서, '불확실성'이란 말 대신 '엔트로피'라는 용어를 사용했습니다. 당시에 폰노이만이 그랬다고 하죠. "그 불확실성이란 양은 그냥 엔트로피라고 불러도 됩니다. 어차피 엔트로피가 무엇인지 제대로 아는 사람도 별로 없구요. 그 양을 특별한 경우에 볼츠만이 정의한 엔트로피로 환원되니까요."
그에 따르면 엔트로피는 $ H = - \sum_i p_i \log p_i$로 정의합니다.
[참고: Entropy (information theory)]
엔트로피를 열역학이나 통계물리학에 국한하지 않고 정보이론으로까지 확장하면, 통계학에서 말하는 큰 수의 규칙이나 중심극한정리와 연결될 가능성이 커집니다. 그 문제를 상세하게 다룬 단행본도 있습니다.
Oliver Johnson (2004). Information Theory and the Central Limit Theorem
중심극한정리는 어떤 확률분포라도 약간의 조건이 충족되면 근사적으로 정규분포로 볼 수 있다는 것을 엄밀하게 증명한 것이기 때문에, 약간 과장하면, 확률이론에서 가장 중요한 정리라 할 수 있을 것입니다. 그리고 저로서는 결코 쉬운 이야기는 아니라 생각합니다.
참고로 말씀드리자면, 통계역학의 개념적 기초를 따지는 분야에서는 큰 수의 규칙(LLN)의 성립 여부와 관련하여 확률이론을 다룹니다. 저도 지난 7월 초에 이와 관련된 논문을 발표한 적이 있습니다. 통계역학에서 확률이 문제가 되는 이유, 그리고 더 나아가 양자역학에서 나오는 확률 개념의 의미를 이해하기 위해서는 큰 수의 규칙이 매우 중요합니다. 그리고 너무 어렵습니다. ㅠㅠ
아, 깊은 의미와 어려움이 있군요. 크게, 대충 보면 큰 수의 규칙은 너무 당연한 얘기이고, 좀 허술해 보입니다. 도박사의 오류와 함께 보면 작은 규모에선 뭐라도 가능하다고도 볼 수도 있습니다. 물론 그런 특이한 변이가 나타날 확률이 무척 작다고 말할 순 있습니다만, 큰 수의 법칙으로 그렇게 주장하려면 이미 모집단의 확률이 정해져 있어야만 하는데, 그걸 어떻게 미리 알 수 있나 라는 의문을 제기할 수 있고 그러면 베이즈 확률로 넘어가게 되는 듯 합니다. 페르마와 파스칼의 확률을 논한 편지가 1654년이니, 4백년 가까운 시간이 지났지만, 우리네 확률에 대한 이해나 느낌에는 여전히 애매한 점이 많이 남아 있는 것 같습니다.
잘 읽었습니다~
녹취에서 '닫힌 고립계'를 '고립계'로 고쳐야 하나요? 대담 중에 질문자가 질문하면서 그린 그림을 새로 그려서 녹취록에 넣었는데요. 고립계가 맞으면 그렇게 고쳐서 다시 올리겠습니다.
표준적인 교과서의 정의에 따르면, 모든 고립계는 닫힌 계가 됩니다. 즉 '닫힌 고립계'가 아닌 경우 다시 말해 '열린 고립계'라는 것은 개념상 존재할 수 없습니다.
고립계는 에너지 교환도 안 되고 물질 교환도 안 되는 경우이고, 닫힌 계는 에너지 교환은 되지만 물질 교환은 안 되는 경우이며, 열린 계는 에너지 교환과 물질 교환 모두 허용되는 경우입니다.
참고: A System and Its Surroundings
종종 물리학, 화학, 화학공학, 생태학 등등 각 영역에서 정의를 다르게 사용하기도 합니다. 지금은 거의 위에 말한 정의가 가장 표준적인 정의로 자리잡았습니다.
'습기'에 대해 말하는 대목에서처럼 분자가 직접 이동하는 경우를 고려해야 한다면, 녹취록에 있는 그림처럼, '고립계' 안에 '열린 계'가 있다고 할 수 있지만, 엔트로피 등을 이야기하는 대부분의 이야기는 고립계 안에 있는 '닫힌 계'의 상황입니다. 즉 물질교환은 안 되지만 주변에서 에너지를 받거나 에너지를 주는 상황이죠.
녹취록에 있는 그림에서는 다음과 같이 수정하면 표준적인 교과서 서술과 충돌하지 않습니다.
닫힌 고립계 --> 고립계
열린 계 --> (두 종류의 그림을 그려서) 닫힌 계 또는 열린 계
참고: System and surrounding (Energy education)
대담을 하면서 즉흥적으로 그린 그림이라서 굳이 그것을 고칠 필요는 없다고 생각합니다만, 고립계/닫힌 계/ 열린 계의 구별은 전체 계 안에서 대상계와 주변을 나누고, 그 대상계의 속성으로 정의되는 것이라서, 전체 계를 고립계라고 말하는 것이 불필요하게 느껴집니다. 전체 계 밖에 또 무슨 다른 '주변'이 있는 것은 아니니까요.
첨부파일 출처: quora.com
고맙습니다~ ^^ 즉흥적으로 그린 것을 제가 다시 그린 것이기 때문에 금방 고칠 수 있어요~ 일단 그럼 '닫힌 고립계'를 '고립계'로 고치겠습니다.