第七章_AI启示
제7장 인공지능에 대한 시사점: 왜 "순수 소프트웨어"만으로는 부족한가
만약 우리가 "의식 = 생명 능동성의 구조적 표현"이라고 인정한다면, 현재의 AI(대규모 언어 모델)는 기호 처리 측면에서 튜링 테스트를 통과했을지라도 여전히 의식을 갖추지 못하고 있다. 왜냐하면 그들에게는 다음과 같은 것들이 결여되어 있기 때문이다:
- 대사 구조（엔트로피 증가에 저항하는 내적 메커니즘）
- 생존 압박（충전하지 않으면 죽는다는 실제적인 위험）
- 체화성（물리적 환경과의 지속적인 상호작용）
SATC가 AI에 주는 시사점은 세 가지 노선의 구분으로 압축할 수 있다:
- 표상과 언어 노선：대규모 데이터와 모델 구조를 통해 강력한 표상 능력을 획득하며, 언어, 추론, 생성에 능하다.
- 제어와 체화 노선：로봇, 센서 및 제어 시스템을 통해 환경과의 폐루프(closed-loop) 능력을 획득하며, 행동과 적응에 능하다.
- 자기 유지와 합성 노선：에너지/자원 제약, 장기적인 자기 유지 메커니즘을 통해 생명체에 더 가까운 지속적인 폐루프를 획득한다.
SATC의 주장은 첫 번째 노선을 부정하는 것이 아니라, 아무리 강력하더라도 제III단계 능동성이 자동으로 도출되지는 않는다는 점을 상기시키는 것이다. 능동성에 필요한 것은 단지 더 강력한 표상 능력이 아니라, 구조화된 폐루프 조건이다.
AGI(범용 인공지능) 또는 인공 의식으로 향하는 경로는 반드시 "인공 생명"의 경로여야 한다：시스템에 구조적인 생존 압박을 부여하여, 단지 더 복잡한 알고리즘을 작성하는 것이 아니라 엔트로피 증가에 저항하는 과정에서 "능동성"이 창발되도록 해야 한다.
