Iterative_Experience_Refinement_of_Software_Developing_Agents.pdf
- Iterative experience refinement 방법론을 통해서 Agent가 사람의 도움 없이 자체적으로 경험을 정제하고 해결책을 개선하는 프레임워크를 개발했다.
- 경험 획득
- 지시 에이전트, 응답 에이전트를 별도로 구성하여 지시에 대한 응답 세트를 구성한다. 일련의 과정을 반복하며 최적의 지시-응답 세트를 찾아내고, 더 빠르게 가장 좋은 해결책에 도달할 수 있도록 Shortcut을 정의한다.
- 경험 활용
- 경험 저장소에 저장된 Shortcut 경험과 일반 경험을 활용하여 이후의 문제 해결에 경험을 활용한다. 지시 에이전트, 응답 에이전트 각각 경험 저장소에서 기존의 경험을 검색하여 더 나은 지시와 해결책을 제시하는 과정을 거친다.
- 경험 전파
- 이전 작업에서 얻은 경험을 후속 작업에서도 활용할 수 있도록 전파하는 과정입니다. 이 과정은 2가지 패턴으로 분류된다:
- Successive Pattern: 가장 최근에 학습한 경험만을 활용하는 방식이다.
- Cumulative Pattern: 모든 과거 경험을 활용한다.
- 경험 제거
- 경험 저장소에 지속적으로 경험이 누적 될수록 불필요한 경험이 많아지고, 에이전트의 경험 활용 능력이 저하될 위험이 크다. 이를 위해서 논문에서는 정보 밀도, 사용 빈도 기반으로 경험을 제거하는 방식을 제안한다:
- 정보 밀도: 경험이 기존보다 얼마나 향상 되었는 지 평가하고, 향상도가 낮은 경험을 삭제하는 방식
- 사용 빈도: 경험이 얼마나 자주 활용 되었는 지 평가하고, 자주 활용되지 않는 경험을 삭제하는 방식
- 평가
- IER 누적 모델, IER 연속 모델 포함한 6개 모델에 대해서 완성도, 실행 가능성, 일관성, 종합 품질, 소요 시간 항목에 대해 평가를 진행했다. IER 방식이 기존 모델보다 전반적으로 높은 성능을 기록했지만, 반면에 소요 시간도 증가했다.