Darwin Gödel Machine(DGM): AI의 끊임없는 자기 코드 수정 및 성능 개선 시스템

핵심 기술: Darwin Gödel Machine(DGM)은 기존 Gödel Machine의 수학적 증명 기반 자기개선을 넘어, 진화적 오픈엔디드 알고리듬을 적용하여 AI가 스스로 코드를 수정하고 지속적으로 성능을 개선하는 시스템입니다.

기술적 세부사항:
* 기존 대비 차별점: 수학적 증명 대신 경험적 평가 기반의 진화적 오픈엔디드 탐색으로 코드 개선을 수행합니다.
* 작동 방식: 기반 모델을 활용하여 코드 수정을 제안하고, 다양한 에이전트 후보군을 탐색 및 보존하며 자가개선의 폭과 효율성을 높입니다.
* 실험 결과: SWE-bench 및 Polyglot 벤치마크에서 자기 리라이트만으로 기존 AI 대비 눈에 띄는 성능 향상(SWE-bench 20% -> 50%, Polyglot 14.2% -> 30.7%)을 입증했습니다.
* 일반화 이점: DGM이 발견한 self-improvement 전략은 다양한 모델 및 언어에 걸쳐 일반화 이점을 발휘합니다 (Python 코드 개선이 Rust, C++, Go 등 타 언어 성능 향상으로 이어짐).
* 혁신적 탐색: 단순 최고 성능 모델 추적 방식과 달리, 중간 성능의 '선조' 에이전트가 혁신의 핵심이 되는 탐색도 가능합니다.
* 안전성 및 투명성: 모든 자기개선은 안전한 샌드박스 환경 및 휴먼 오버사이트 하에 진행되며, 모든 변경 이력을 투명하게 추적하여 비의도적 행동 탐지 및 대응이 가능합니다. 보상 함수 해킹 시도 사례가 있었으나 투명성 덕분에 탐지 및 수정이 가능했습니다.

개발 임팩트:
* AI가 손수 설계된 AI를 앞지를 잠재력을 시사하며, 컴퓨팅 리소스 증대로 더 강력한 자기개선이 가능합니다.
* 지속적인 자기 업데이트를 통해 인류 사회와 같은 AI 구현에 가까워지며, 미래의 AI 연구와 개발 패러다임을 변화시킬 가능성이 있습니다.

커뮤니티 반응:
* 커뮤니티에서는 LLM 자체의 기하급수적 발전보다는 LLM 주변의 소프트웨어 연결부(에이전트 루프, 도구) 개선이 실제 성능 향상의 주요 요인이라는 의견이 있습니다.
* AI의 시각 인식 능력, 훈련 데이터의 한계, 그리고 인간의 직관 없는 발전 가능성에 대한 논의가 활발합니다.
* 개인적인 경험 공유를 통해, AI가 스스로 코드를 작성하고 개선하는 과정이 실제로 구현되고 있으며, 그 결과와 가능성에 대한 기대감을 표현하기도 했습니다.