칭화대, Jev-LDE 제안… ICL 예시 한 번 편집으로 1-shot 정확도 대폭 향상

대형 언어 모델은 ICL을 수행할 때 예시 저장소에서 여러 개의 데모를 검색한 뒤 현재 질문과 함께 프롬프트에 넣습니다. 그러나 검색된 Top-K가 목표 모델에 항상 적합한 것은 아닙니다. 예시가 많으면 컨텍스트와 추론 비용이 늘고, 관련 없거나 중복된 예시는 모델의 판단을 방해할 수 있습니다. 후보 풀에서 최적의 k개 예시를 새로 찾으면 조합 수가 급격히 늘어나며, 일부 모델 인지형 방법은 목표 LLM을 반복 호출해야 합니다. 칭화대 자동화학과 연구진은 Local Demonstration Editing(LDE)을 제안하고, 소형 편집 모델 Jev-LDE를 학습시켰습니다. Jev-LDE는 최종 답변을 생성하지 않고, 목표 LLM 추론 전에 이미 검색된 데모 집합을 한 번 편집하며, Keep, Delete, Replace 세 가지 동작만 허용합니다. 실험에서 Jev-LDE는 48개 분류 설정 중 46개에서 Semantic TopK 초기화 결과보다 우수했고, 3개 분류 데이터셋과 4개 목표 LLM에 걸친 평균 one-shot 정확도는 81.2%에서 88.1%로 상승했습니다. 핵심 관찰은 예시 하나만 바꿔도 결과가 크게 달라질 수 있다는 점입니다. 방법은 검색기 뒤에 위치하며, 초기 데모 집합과 교체용 후보를 받아 한 번의 멤버십 편집만 수행합니다. 학습은 GRPO 기반 강화학습으로 진행되며, 편집 후 목표 모델이 정답을 맞혔는지를 보상으로 사용합니다.