인공생명과 일반시스템이론

서재에서 리뷰할 만한 책을 한 권 고르려고 서가를 훑던 참이었다. 그러다 엉뚱한 녀석과 눈이 마주쳤다.

‘시스템 사고’. 제목만 보고 집어 들었다가, 펼쳐 보니 조직관리와 자기계발이었던 책. 베르탈란피와는 아무 상관도 없는, 시스템이론을 뒤지던 시절에 산 가장 엉뚱한 병신같은 책이다. 리뷰는 접었다. 대신 이 책을 사게 된 그때가 떠올라, 그 이야기를 쓴다.

학부생 시절, ‘일반 시스템 이론’이라는 말을 우연히 봤다.

논리적 완결성을 찾아 헤매는 합리주의자였던 나는 당연히 설계에 관한 것이려니 했다. ‘시스템’이라는 단어가 주는 인상이 그랬다. 큰 프로그램을 어떻게 짜임새 있게 쌓아 올리는가, 그런 이야기일 거라고. 게다가 앞에 ‘일반’까지 붙어 있었다. 특정 언어나 도메인을 넘어서는 궁극의 설계 원리 같은 것: 읽고 나면 어떤 내공이 손에 잡힐 것만 같았다.

하필 그 무렵 나는 사랑하는 EC8스터디 크루들과 스콧 마이어스의 『More Effective C++』를 탐독하고 있었다. 주화입마에 빠지는 마서. 다 읽고 나면 설계의 지옥에 빠져 정작 작업은 한 발도 못 나가게 되는, 그런 책. 포인터와 소멸자와 예외 안전성의 온갖 미세한 함정을 알아버린 탓에 한 줄을 쓰려 해도 지뢰밭을 걷는 기분이던 시기였으니, ‘일반 시스템 이론’이라는 키워드를 그냥 지나칠 수가 없었다.

그런데 이걸 이해할 만한 책을 구하는 게 생각보다 어려웠다. 처음 잡히는 것들은 죄다 추상적이고 딱딱해서 도무지 발 들일 틈이 없었다. 나는 학교 도서관 서가를 훑고, 신촌 책방들을 며칠에 걸쳐 돌아다녔다. 초심자가 읽을 만한 한 권을 찾겠다고.

그렇게 겨우 손에 넣은 책을 열자, 나온 건 생물이었다.

세포와 유기체와 신진대사. 설계 패턴 대신 열린 시스템, 아키텍처 대신 흐름평형. 나는 놀랐다.

생명은 물질이 아니라 조직이다

일반시스템이론을 만든 사람은 루트비히 폰 베르탈란피, 오스트리아의 생물학자다. 그의 출발점은 당시 과학의 기본기였던 환원주의에 대한 반발이었다. 환원주의는 생명을 이해하려면 잘게 쪼개 부품을 들여다보면 된다고 본다.

그는 아니라고 했다. 생명을 만드는 건 특별한 물질이 아니라 부품들이 짜인 방식, 즉 조직이라는 것이다. 생기 같은 걸 찾지 마라. 살아있음은 부분이 아니라 부분들의 관계 속에 있다.

핵심 개념 몇 개만 눈높이로 풀면 이렇다.

첫째, 생명체는 열린 시스템이다. 물질과 에너지가 끊임없이 통과한다. 우리 몸을 이루는 원자는 세월이 지나면 대부분 교체된다. 그런데도 ‘나’는 유지된다. 실체는 흘러가는데 형태는 남는 것: 베르탈란피는 이를 흐름평형이라 불렀다. 흔히 동적평형이라고도 한다. 촛불이나 강물의 소용돌이를 떠올리면 된다. 모양은 그대로인데, 그 모양을 이루는 재료는 매 순간 바뀐다.

둘째, 등종국성이다. 등결과성이라고도 옮긴다. 열린 시스템은 서로 다른 출발점에서, 서로 다른 경로로도 같은 최종 상태에 도달한다. 닫힌 물리계는 초기조건이 결과를 못박지만, 살아있는 시스템은 그렇지 않다. 발생 중인 배아를 좀 흔들어놔도 결국 같은 성체가 되는 것처럼.

셋째, 계층성이다. 살아있는 것은 층으로 쌓인다. 세포가 모여 조직이 되고, 조직이 기관이, 기관이 개체가, 개체가 생태계가 된다. 각 층은 아래층으로 이루어져 있으면서, 아래층엔 없던 성질을 새로 갖는다.

넷째, 창발이다. 방금 그 ‘새로 갖는 성질’이 창발이다. 전체는 부분의 합 이상이고, ‘살아있음’은 바로 그 조직된 전체에 깃든다.

그리고 놀라운 건, 같은 원리가 이 층들 어디에서나 되풀이된다는 점이다. 세포든 개체든 생태계든, 심지어 사회든. 그래서 ‘일반’이다. 특정 생물이 아니라 살아있는 시스템 일반에 관한 이론이라는 뜻이었다.

설계 내공은 못 찾았지만

그러니 시스템 이론은 소프트웨어 아키텍처 이야기가 아니었다. 내 착각이었다.

하지만 그 밑바닥 주장 하나는, 돌이켜보면 논리적 완결성에 목마른 사람이라면 오히려 귀를 쫑긋했어야 할 것이었다. 생명이 물질이 아니라 조직이라면, 다시 말해 어떤 특정한 재료가 아니라 짜임새의 문제라면, 원리적으로 그 짜임새를 담을 수 있는 무엇으로든 생명을 만들 수 있다는 뜻이 된다.

탄소가 아니어도. 심지어, 격자 위의 숫자로도.

당시엔 이 함의를 몰랐다. 그걸 눈앞에서 보여주는 물건은 한참 뒤에야 만났다.

반세기 뒤, 레니아

출발은 콘웨이의 생명게임(1970)이다. 격자 위 칸이 켜지거나 꺼지고, 몇 개의 단순한 규칙만으로 글라이더 같은 움직이는 패턴이 생겨난다. 딱 봐도 계단처럼 각진, 디지털 티가 나는 생명이다.

위가 바로 그 생명게임이다. ▶를 눌러 세대를 흘려보내고, 캔버스를 클릭하면 셀을 살릴 수 있다. 규칙 몇 줄에서 글라이더가 기어 나오는 걸 직접 볼 수 있다.

레니아는 여기서 한 걸음 더 간다. 버트 챈이 2018년 무렵 내놓은 것으로, 생명게임의 모든 걸 연속으로 바꾼다. 칸의 값이 0 아니면 1이 아니라 그 사이 어디든 될 수 있고, 공간도 시간도 규칙도 매끄럽다.

결과는 놀랍다. 각진 글라이더 대신, 유기적으로 생긴 ‘생명체’가 나온다. 가장 유명한 오르비움은 현미경 속 미생물이나 해파리처럼, 화면 위를 부드럽게 미끄러져 간다.

위는 레니아를 만든 Bert Chan의 공식 WebGL 데모다(출처: Lenia). 여러 종의 생명체를 불러와 실시간으로 돌려볼 수 있다. 규칙은 단 하나: 매 칸이 이웃을 보고 값을 조금 올리거나 내릴 뿐인데, 그 위로 생명체가 떠올라 스스로 형태를 유지하며 미끄러진다. 툭 건드려도 웬만하면 원래 모습으로 되돌아온다. 흐트러뜨려도 같은 모습으로 돌아오는, 앞서 말한 그 성질이다.

이 생명체들은 움직이면서도 제 형태를 유지하고, 툭 건드리면 흔들렸다가 원래 모습으로 돌아오며, 종류도 하나의 동물원을 이룰 만큼 다양하다. 누가 칸 하나하나를 설계한 게 아니다. 규칙에서 저절로 생겨나, 스스로를 지탱하는 패턴으로 존재할 뿐이다.

베르탈란피의 정의를 컴퓨터로

레니아 생명체가 기어다니는 걸 보고 있으면, 나는 베르탈란피의 정의가 그대로 돌아가는 걸 보고 있는 셈이다.

흐름평형. 생명체는 매 프레임 셀 값이 통째로 갱신되는데도 형태를 유지한다. 재료(숫자)는 흘러 지나가고 패턴만 남는다. 계산으로 만든 소용돌이다.

등종국성. 교란을 주면 원래 모습으로 자가복구한다. 다른 초기 얼룩에서 시작해도 같은 생명체로 수렴한다. 같은 종착점, 여러 경로.

계층성. 칸 하나는 죽어 있다. 칸들이 짜이면 생명체가 되고, 생명체들끼리도 부딪히고 밀어내며 관계를 맺는다. 하나의 평평한 규칙에서 층이 솟아오른다.

창발. ‘생명체’는 어느 한 곳에도 없다. 살아있는 셀 같은 건 없다. 조직된 패턴 자체가 그 동물이다.

그리고 결정적으로, 여기엔 화학도, 탄소도, 생물학이 조금도 없다. 오직 조직뿐이다. 물질 기질을 남김없이 걷어냈는데도 여전히 기어다니고, 스스로를 꿰매고, 제 몸을 붙들고 있다면, 베르탈란피가 옳았던 것이다. 살아있음은 재료가 아니라 짜임새에 있다. 레니아는 오직 패턴만 남겼기에, 그의 주장을 가장 극단적으로 증명한다.

기계를 거부한 이론의 가장 아름다운 증거

여기에 반전이 있다.

베르탈란피가 일반시스템이론을 세운 건, 부분적으로는 기계론에 대한 저항이었다. 생명을 기계로 환원하는 것에 대한 거부. 말하자면 휴머니즘적 몸짓이었다: 생명은 기계 이상이라는.

그런데 그 이론의 가장 아름다운 실증이 하필 기계다. 컴퓨터 위에서 도는 결정론적 오토마타.

그가 레니아를 봤다면 어땠을까. 자기 조직 개념의 승리라며 반겼을까, 아니면 “그건 살아있음을 흉내 낸 또 하나의 메커니즘일 뿐"이라며 손을 내저었을까. 창시자가 자기 후계를 알아보지 못하는 건, 생각의 역사에서 드문 일이 아니다. (촘스키는 챗봇을 ‘구조도 없는 계산기’라며 손을 내저었지만, 정작 그 기계야말로 ‘배우기 전에 무언가가 먼저 갖춰져 있어야 한다’는 그의 핵심 통찰을 증명하는 사례)

크리스 랭턴은 인공생명을 “있을 수 있는 생명"이라 불렀다. 우리가 아는 생명만이 아니라, 있을 수 있는 모든 형태의 생명. 이 분야 전체가 사실 베르탈란피의 내기를 물려받았다: 생명은 매질에 얽매이지 않는 조직이라는 내기. 레니아는 그 내기가 화면 위에서 배당을 지급하는 장면이다.

정의를 양쪽 끝에서 눌러보다

레니아로 ‘조직이면 곧 생명’이라는 주장이 통과하는 걸 봤다. 그렇다면 이제 이 주장을 양쪽 끝에서 눌러볼 차례다. 한쪽 끝에선 묻는다. 조직만 옮기면 정말 생명이 따라오는가. 반대쪽 끝에선 묻는다. 이 정의, 너무 헐거워서 아무거나 다 생명이 되는 건 아닌가.

한쪽 끝: 예쁜꼬마선충

첫 번째 끝은 진짜 생물이다. 레니아가 무에서 조직을 지어 올렸다면, 정반대로 진짜 생물의 조직을 통째로 베껴 컴퓨터에 옮기면 어떻게 될까.

예쁜꼬마선충(C. elegans)이 그 무대다. 몸길이 1밀리미터, 신경세포가 딱 302개뿐인 이 벌레는 신경 연결 지도, 곧 커넥톰이 온전히 밝혀진 유일한 동물이다. 어느 뉴런이 어느 뉴런에 이어지는지가 남김없이 그려져 있다. 조직의 완전한 배선도를 손에 쥔 셈이다.

베르탈란피가 옳다면, 그 조직을 그대로 재현하면 벌레의 삶도 따라와야 한다. 오픈웜(OpenWorm) 프로젝트가 정확히 그것을 시도한다. 커넥톰과 근육과 몸을 소프트웨어로 세워, 배선도만으로 살아 꿈틀대는 벌레를 되살리려는 오픈소스 실험이다.

오픈웜의 예쁜꼬마선충 크롤링 시뮬레이션. 배선도에서 출발해 소프트웨어로 재현한 꿈틀거림이다.

그런데 벌레는 아직 완전히 깨어나지 않았다. 배선도는 다 있는데 그것만으로는 부족하다. 뉴런이 언제 얼마나 세게 발화하는지, 몸이 물속에서 어떻게 휘는지, 그 타이밍과 물성까지 갖춰져야 비로소 꿈틀거림이 나온다. 살아있음이 조직에 있다 해도, 그 조직은 배선도보다 넓은 말이었던 것이다.

예쁜꼬마선충은 레니아의 거울상이다. 레니아는 재료 없이 짜임새만으로 생명 비슷한 것을 얻어냈고, 예쁜꼬마선충은 진짜 생명의 짜임새를 옮기려다 그 짜임새가 배선도보다 훨씬 깊다는 걸 배우는 중이다. 조직이 부족한 게 아니라, ‘조직’이라는 말이 생각보다 컸던 것이다.

반대쪽 끝: 항성

이제 반대쪽 끝이다. 조직이 부족한 게 아니라 너무 흔한 게 문제라면 어떨까. 별을 보자. 놀랍게도 별은 베르탈란피의 조건을 여럿 통과한다. 중력과 복사압이 맞선 균형 속에서 수십억 년 형태를 지키고(흐름평형), 엔트로피를 빛으로 내다 버리며, 수축하면 더 타고 팽창하면 식는 되먹임까지 갖췄다. 화학도 탄소도 없이 별은 이미 꽤 살아있어 보인다.

그런데 규모를 키운다고 더 살아있는 건 아니다. 생명스러움은 은하에서 정점을 찍고 양옆으로 떨어진다. 항성계는 구조는 풍부해도 중력에 묶여 도는 시계장치라 죽어 있고, 우주 거대구조는 계층의 극치지만 붕괴와 팽창으로 흩어지는 일방통행이라 죽어 있다. 정점은 은하다. 가스를 끌어들여 별로 빚고, 초신성으로 터뜨려 무거운 원소를 흩뿌리고, 그 재로 다음 별을 잉태한다. 모양은 남는데 재료는 끊임없이 갈리고, 스스로 별 생성 속도를 조절하며 제 부품을 다시 만든다. 천문학자들이 ‘은하 생태계’라 부르는 이유다.

정점과 골짜기를 가른 건 크기도 계층의 높이도 아니었다. 물질이 통과해 흐르면서 형태가 남는가, 스스로를 조절하며 제 부품을 다시 만드는가. 이 둘뿐이었다. 은하가 항성계를 앞선 건 그것이 시계장치가 아니라 불꽃이어서다. 그러니 정의는 부서지는 게 아니라 날카로워진다. 살아있음은 짜임새에 있되, 그 짜임새는 정적인 구조가 아니라 물질을 순환시키고 스스로를 붙드는 짜임새여야 한다. 레니아가 살아 보이던 이유와 같다. 숫자는 갈리는데 패턴은 남았다.

생명은 지능이 아니다

여기서 흔한 오해 하나를 짚고 가자. 생명이라고 하면 으레 지능이 딸려온다고 여기기 쉽다. 하지만 둘은 따로 도는 축이다. 지구에 생명이 나타난 건 38억 년 전, 신경계가 생긴 건 겨우 6억 년 전이다. 그 긴 시간의 대부분, 그리고 지금 지구를 채운 생물량의 대부분은 뉴런 한 개 없이 살아간다. 박테리아도, 나무도, 곰팡이도 살아있지만 생각하지 않는다. 지능은 생명의 본질이 아니라 늦게, 드물게 돋아난 곁가지다.

베르탈란피의 정의에도 지능은 없다. 열린 계, 흐름 평형, 스스로를 유지하는 짜임새. 살아있음의 조건에 문제 풀이 능력은 끼어들지 않는다. 오르비움이 자라고 상처를 복구해도 그것은 똑똑한 게 아니고, 예쁜꼬마선충의 302개 뉴런도 우리가 지능이라 부르는 것과는 멀다. 생명스러움과 마음은 처음부터 다른 말이었다.

인공생명, 인공지능과 만나다

생명과 지능이 이렇게 별개인데도, 요즘 이 둘은 한 무대에서 만난다. 인공생명과 인공지능이 마주치는 자리다.

한쪽에서는 신경망에게 오토마타의 규칙을 배우게 한다. 사람이 규칙을 손으로 정하는 대신, 신경망이 스스로 자라고 상처를 복구하는 규칙을 익히도록. 도마뱀 꼬리처럼, 잘려나가도 다시 제 모습으로 자라는 패턴이 학습으로 만들어진다.

다른 쪽에서는 인공지능이 레니아 같은 우주를 대신 탐색한다. 오르비움 같은 생명체는 원래 사람이 손으로 찾아낸 것인데, 이제 거대 AI 모델이 ‘살아있어 보이는’ 패턴을 알아보고 새 생명체를 자동으로 발굴한다. 오르비움의 후예들을 기계가 찾아 나서는 셈이다.

그리고 더 깊은 물음이 있다. 지능을 설계하는 대신, 생명처럼 자라나게 할 수는 없을까. 끝없이 새로움을 낳는 열린 진화를 지능의 조건으로 보는 흐름이다. 완성된 설계도가 아니라, 계속 자기를 넘어서는 과정으로서의 지능.

한 바퀴 돌아온 자리

개인적으로는, 한 바퀴 돌아 제자리로 온 이야기이기도 하다. 설계 내공을 찾다 생물을 만나 실망했던 그 합리주의자에게, 반세기의 아이디어가 흐른 끝에 그 생물이 다시 계산으로 돌아왔다. 젊은 날의 착각(“시스템 이론이라면 응당 설계에 관한 것이겠지”)은 틀린 게 아니었다. 그저 일렀을 뿐이다.

생명은 결국 설계의 문제였다. 다만 내가 C++ 책에서 찾던 그 설계는 아니었다.

출처 · 더 보기

• 레니아와 오르비움: Bert Wang-Chak Chan, “Lenia: Biology of Artificial Life”. 프로젝트 페이지, 논문 arXiv:1812.05433, 확장판 arXiv:2005.03742. 위에 임베드한 데모는 Chan의 공식 WebGL 구현이다 (소스·생명체 데이터).
• 브라우저에서 직접 돌려보기: Lenia WebGL 데모 · 입문용 From Conway to Lenia 튜토리얼.
• 루트비히 폰 베르탈란피, 『일반시스템이론』(1968).
• 예쁜꼬마선충 커넥톰과 시뮬레이션: OpenWorm 프로젝트. 302개 뉴런의 완전한 배선도는 White et al., “The Structure of the Nervous System of the Nematode Caenorhabditis elegans” (Phil. Trans. R. Soc. B, 1986)에 처음 정리됐다.
• 자라고 스스로 복구하는 신경 세포자동자: Mordvintsev et al., “Growing Neural Cellular Automata” (Distill, 2020).
• AI로 인공생명을 탐색: Kumar et al. (Sakana AI), “Automating the Search for Artificial Life Using Foundation Models” (arXiv:2412.17799). 변종 Particle Lenia (Google).