인공지능 기술이 본격화되기 전, ‘추론’은 온전히 인간의 영역이라고 여겨졌습니다. 오픈AI의 chatGPT가 일반에 공개된 이후 인공지능은 날로 고도화되고 있습니다. 구글이 최근 추론 엔진인 ‘마인드 에볼루션’을 공개했습니다. 얼마나 발전된 기술일지 같이 알아봅시다.
마인드 에볼루션이란?
구글 딥마인드가 2025년 1월 22일에 공개한 마인드 에볼루션(Mind Evolution)은 대형 언어모델(LLM)의 계획 및 추론 작업을 최적화하는 새로운 데스트-타임 추론 기술입니다. 이 기술은 탐색과 유전(genetic) 알고리즘이라는 두 가지 핵심 요소를 기반으로 합니다.
마인드 에볼루션의 작동 방식은 아래와 같습니다.
- 문제에 대한 설명과 정보를 바탕으로 여러 해결책 후보를 생성합니다.
- LLM이 이 후보들을 평가하고 개선합니다.
- 알고리즘이 더 나은 해결책을 선택하고, 이들을 결합하여 새로운 해결책을 만듭니다.
- 일부 해결책은 무작위로 수정됩니다.
- 이 과정을 반복하여 해결책을 지속적으로 개선합니다.
마인드 에볼루션의 특징
마인드 에볼루션의 특징을 알아봅시다.
- 자언여 표현: 해결책을 자연어로 표현하여 문제를 형식화할 필요가 없습니다.
- 텍스트 피드백: 숫자 점수뿐만 아니라 텍스트로 피드백을 제공하여 LLM의 이해와 개선을 돕습니다.
- 아일랜드 방식: 해결책을 여러 그룹으로 나누고, 각 그룹에서 해결책을 발전시킨 후 가장 좋은 해결책을 다른 그룹으로 옮겨 결합합니다.
마인드 에볼루션은 ‘1-패스’, ‘베스트-오브-N’, ‘순차적 개선+’와 같은 기존 모델들과 비교 테스트되었습니다. 이 기술은 LLM의 추론 능력을 향상시키고, 자연어 계획 문제에서 뛰어난 성능을 보여주었습니다.
마인드 에볼루션의 한계
- 계산 비용이 높을 수 있습니다.
- 하이퍼 파라미더에 민감할 수 있습니다.
- 블랙박스 모델의 한계가 있습니다.
향후 연구를 통해 이러한 한계점들을 극복하고, 더 넓은 범위의 문제에 적용할 수 있도록 발전될 것으로 기대됩니다. 특히 LLM 기반 평가자의 개발은 마인드 에볼루션의 적용 범위를 확대하는 데 중요한 역할을 할 것으로 예상됩니다.
맺음말
마인드 에볼루션은 AI 모델의 문제 해결 능력을 향상시키는 데 있어 검색 기반 방법의 중요성을 강조하며, LLM의 추론 시간 컴퓨팅을 확장하는 새로운 방법을 제시했다는 점에서 의의가 있습니다.