학부생 시절, ‘시스템 이론’이라는 말을 우연히 봤다.

논리적 완결성을 찾아 헤매는 합리주의자였던 나는 당연히 설계에 관한 것이려니 했다. ‘시스템’이라는 단어가 주는 인상이 그랬다. 큰 프로그램을 어떻게 짜임새 있게 쌓아 올리는가, 그런 이야기일 거라고. 게다가 앞에 ‘일반’까지 붙어 있었다. 특정 언어나 도메인을 넘어서는 궁극의 설계 원리 같은 것 — 읽고 나면 어떤 내공이 손에 잡힐 것만 같았다.

하필 그 무렵 나는 스콧 마이어스의 『More Effective C++』를 탐독하고 있었다. 주화입마에 빠지는 마서. 다 읽고 나면 설계의 지옥에 빠져 정작 작업은 한 발도 못 나가게 되는, 그런 책. 포인터와 소멸자와 예외 안전성의 온갖 미세한 함정을 알아버린 탓에 한 줄을 쓰려 해도 지뢰밭을 걷는 기분이던 시기였으니, ‘일반 시스템 이론’이라는 키워드를 그냥 지나칠 수가 없었다.

그런데 이걸 이해할 만한 책을 구하는 게 생각보다 어려웠다. 처음 잡히는 것들은 죄다 추상적이고 딱딱해서 도무지 발 들일 틈이 없었다. 나는 학교 도서관 서가를 훑고, 신촌 책방들을 며칠에 걸쳐 돌아다녔다. 초심자가 읽을 만한 한 권을 찾겠다고.

그렇게 겨우 손에 넣은 책을 열자, 나온 건 생물이었다.

세포와 유기체와 신진대사. 설계 패턴 대신 열린 시스템, 아키텍처 대신 흐름평형. 나는 놀랐다.

생명은 물질이 아니라 조직이다

일반시스템이론을 만든 사람은 루트비히 폰 베르탈란피, 오스트리아의 생물학자다. 그의 출발점은 당시 과학의 기본기였던 환원주의에 대한 반발이었다. 환원주의는 생명을 이해하려면 잘게 쪼개 부품을 들여다보면 된다고 본다.

그는 아니라고 했다. 생명을 만드는 건 특별한 물질이 아니라 부품들이 짜인 방식, 즉 조직이라는 것이다. 생기(生氣) 같은 걸 찾지 마라. 살아있음은 부분이 아니라 부분들의 관계 속에 있다.

핵심 개념 몇 개만 눈높이로 풀면 이렇다.

첫째, 생명체는 열린 시스템이다. 물질과 에너지가 끊임없이 통과한다. 우리 몸을 이루는 원자는 세월이 지나면 대부분 교체된다. 그런데도 ‘나’는 유지된다. 실체는 흘러가는데 형태는 남는 것 — 베르탈란피는 이를 흐름평형이라 불렀다. 흔히 동적평형이라고도 한다. 촛불이나 강물의 소용돌이를 떠올리면 된다. 모양은 그대로인데, 그 모양을 이루는 재료는 매 순간 바뀐다.

둘째, 등종국성이다. 등결과성이라고도 옮긴다. 열린 시스템은 서로 다른 출발점에서, 서로 다른 경로로도 같은 최종 상태에 도달한다. 닫힌 물리계는 초기조건이 결과를 못박지만, 살아있는 시스템은 그렇지 않다. 발생 중인 배아를 좀 흔들어놔도 결국 같은 성체가 되는 것처럼.

셋째, 계층성이다. 살아있는 것은 층으로 쌓인다. 세포가 모여 조직이 되고, 조직이 기관이, 기관이 개체가, 개체가 생태계가 된다. 각 층은 아래층으로 이루어져 있으면서, 아래층엔 없던 성질을 새로 갖는다.

넷째, 창발이다. 방금 그 ‘새로 갖는 성질’이 창발이다. 전체는 부분의 합 이상이고, ‘살아있음’은 바로 그 조직된 전체에 깃든다.

그리고 놀라운 건, 같은 원리가 이 층들 어디에서나 되풀이된다는 점이다. 세포든 개체든 생태계든, 심지어 사회든. 그래서 ‘일반’이다. 특정 생물이 아니라 살아있는 시스템 일반에 관한 이론이라는 뜻이었다.

설계 내공은 못 찾았지만

그러니 시스템 이론은 소프트웨어 아키텍처 이야기가 아니었다. 내 착각이었다.

하지만 그 밑바닥 주장 하나는, 돌이켜보면 논리적 완결성에 목마른 사람이라면 오히려 귀를 쫑긋했어야 할 것이었다. 생명이 물질이 아니라 조직이라면, 다시 말해 어떤 특정한 재료가 아니라 짜임새의 문제라면, 원리적으로 그 짜임새를 담을 수 있는 무엇으로든 생명을 만들 수 있다는 뜻이 된다.

탄소가 아니어도. 심지어, 격자 위의 숫자로도.

당시엔 이 함의를 몰랐다. 그걸 눈앞에서 보여주는 물건은 한참 뒤에야 만났다.

반세기 뒤, 레니아

출발은 콘웨이의 생명게임(1970)이다. 격자 위 칸이 켜지거나 꺼지고, 몇 개의 단순한 규칙만으로 글라이더 같은 움직이는 패턴이 생겨난다. 딱 봐도 계단처럼 각진, 디지털 티가 나는 생명이다.

레니아는 여기서 한 걸음 더 간다. 버트 챈이 2018년 무렵 내놓은 것으로, 생명게임의 모든 걸 연속으로 바꾼다. 칸의 값이 0 아니면 1이 아니라 그 사이 어디든 될 수 있고, 공간도 시간도 규칙도 매끄럽다.

결과는 놀랍다. 각진 글라이더 대신, 유기적으로 생긴 ‘생명체’가 나온다. 가장 유명한 오르비움은 현미경 속 미생물이나 해파리처럼, 화면 위를 부드럽게 미끄러져 간다.

위는 레니아를 만든 Bert Chan의 공식 WebGL 데모다(출처: Lenia). 여러 종의 생명체를 불러와 실시간으로 돌려볼 수 있다. 규칙은 단 하나 — 매 칸이 이웃을 보고 값을 조금 올리거나 내릴 뿐인데, 그 위로 생명체가 떠올라 스스로 형태를 유지하며 미끄러진다. 툭 건드려도 웬만하면 원래 모습으로 되돌아온다. 앞서 말한 등종국성을 눈으로 확인하는 셈이다.

이 생명체들은 움직이면서도 제 형태를 유지하고, 툭 건드리면 흔들렸다가 원래 모습으로 돌아오며, 종류도 하나의 동물원을 이룰 만큼 다양하다. 누가 칸 하나하나를 설계한 게 아니다. 규칙에서 저절로 생겨나, 스스로를 지탱하는 패턴으로 존재할 뿐이다.

베르탈란피의 정의를 컴퓨터로

레니아 생명체가 기어다니는 걸 보고 있으면, 나는 베르탈란피의 정의가 그대로 돌아가는 걸 보고 있는 셈이다.

흐름평형. 생명체는 매 프레임 셀 값이 통째로 갱신되는데도 형태를 유지한다. 재료(숫자)는 흘러 지나가고 패턴만 남는다. 계산으로 만든 소용돌이다.

등종국성. 교란을 주면 원래 모습으로 자가복구한다. 다른 초기 얼룩에서 시작해도 같은 생명체로 수렴한다. 같은 종착점, 여러 경로.

계층성. 칸 하나는 죽어 있다. 칸들이 짜이면 생명체가 되고, 생명체들끼리도 부딪히고 밀어내며 관계를 맺는다. 하나의 평평한 규칙에서 층이 솟아오른다.

창발. ‘생명체’는 어느 한 곳에도 없다. 살아있는 셀 같은 건 없다. 조직된 패턴 자체가 그 동물이다.

그리고 결정적으로, 여기엔 화학도, 탄소도, 생물학이 조금도 없다. 오직 조직뿐이다. 물질 기질을 남김없이 걷어냈는데도 여전히 기어다니고, 스스로를 꿰매고, 제 몸을 붙들고 있다면 — 베르탈란피가 옳았던 것이다. 살아있음은 재료가 아니라 짜임새에 있다. 레니아는 오직 패턴만 남겼기에, 그의 주장을 가장 극단적으로 증명한다.

기계를 거부한 이론의 가장 아름다운 증거

여기에 반전이 있다.

베르탈란피가 일반시스템이론을 세운 건, 부분적으로는 기계론에 대한 저항이었다. 생명을 기계로 환원하는 것에 대한 거부. 말하자면 휴머니즘적 몸짓이었다 — 생명은 기계 이상이라는.

그런데 그 이론의 가장 아름다운 실증이 하필 기계다. 컴퓨터 위에서 도는 결정론적 오토마타.

그가 레니아를 봤다면 어땠을까. 자기 조직 개념의 승리라며 반겼을까, 아니면 “그건 살아있음을 흉내 낸 또 하나의 메커니즘일 뿐"이라며 손을 내저었을까. 창시자가 자기 후계를 알아보지 못하는 건, 생각의 역사에서 드문 일이 아니다.

크리스 랭턴은 인공생명을 “있을 수 있는 생명"이라 불렀다. 우리가 아는 생명만이 아니라, 있을 수 있는 모든 형태의 생명. 이 분야 전체가 사실 베르탈란피의 내기를 물려받았다 — 생명은 매질에 얽매이지 않는 조직이라는 내기. 레니아는 그 내기가 화면 위에서 배당을 지급하는 장면이다.

인공생명, 인공지능과 만나다

요즘 이 흐름은 인공지능과 만난다.

한쪽에서는 신경망에게 오토마타의 규칙을 배우게 한다. 사람이 규칙을 손으로 정하는 대신, 신경망이 스스로 자라고 상처를 복구하는 규칙을 익히도록. 도마뱀 꼬리처럼, 잘려나가도 다시 제 모습으로 자라는 패턴이 학습으로 만들어진다.

다른 쪽에서는 인공지능이 레니아 같은 우주를 대신 탐색한다. 오르비움 같은 생명체는 원래 사람이 손으로 찾아낸 것인데, 이제 거대 AI 모델이 ‘살아있어 보이는’ 패턴을 알아보고 새 생명체를 자동으로 발굴한다. 오르비움의 후예들을 기계가 찾아 나서는 셈이다.

그리고 더 깊은 물음이 있다. 지능을 설계하는 대신, 생명처럼 자라나게 할 수는 없을까. 끝없이 새로움을 낳는 열린 진화를 지능의 조건으로 보는 흐름이다. 완성된 설계도가 아니라, 계속 자기를 넘어서는 과정으로서의 지능.

그리고 개인적으로는, 한 바퀴 돌아 제자리로 온 이야기이기도 하다. 설계 내공을 찾다 생물을 만나 실망했던 그 합리주의자에게, 반세기의 아이디어가 흐른 끝에 그 생물이 다시 계산으로 돌아왔다. 젊은 날의 착각 — “시스템 이론이라면 응당 설계에 관한 것이겠지” — 은 틀린 게 아니었다. 그저 일렀을 뿐이다.

생명은 결국 설계의 문제였다. 다만 내가 C++ 책에서 찾던 그 설계는 아니었다.

출처 · 더 보기