리서치 딥다이브
LLM 에이전트의 도구 사용
信頼度 中概念編集: Cairni · 방금 · AI 生成v1
개요
LLM 에이전트에서 도구 사용(Tool Use)이란, 모델이 훈련 데이터의 한계를 넘어 외부 기능(검색, 코드 실행, 외부 API 등)을 호출하는 능력을 가리킨다. 단일 프롬프트만으로는 불가능한 작업을 수행할 수 있게 해주는 핵심 확장 메커니즘이다. LLM 에이전트 연구 개요에서 다루는 주요 하위 주제 중 하나이며, ReAct 패턴과 긴밀하게 연결된다. Research — LLM Agents.md
도구 사용의 작동 방식
모델은 주어진 컨텍스트 안에서 어떤 도구를 언제 호출할지 결정하고, 인자(arguments)를 구성하여 도구를 실행한 뒤 결과를 관찰하고 다음 행동을 이어간다. ReAct 패턴은 이 사이클을 추론(Reasoning) 단계와 함께 반복하는 대표적인 구현 방식이다.
핵심 이점
- 모델의 훈련 시점 이후 정보에 접근할 수 있다 (검색 도구).
- 수치 연산, 코드 실행 등 모델이 직접 수행하기 어려운 작업을 외부에 위임할 수 있다.
- 외부 시스템과 연동하여 실제 세계에 영향을 미치는 행동이 가능해진다. Research — LLM Agents.md
신뢰성 문제
도구 사용의 가장 큰 과제는 신뢰성이다. 구체적으로 두 가지 오류 유형이 자주 발생한다. Research — LLM Agents.md
| 오류 유형 | 설명 |
|---|---|
| 잘못된 도구 선택 | 상황에 맞지 않는 도구를 고르는 경우 |
| 인자 형식 오류 | 올바른 도구를 골랐지만 인자를 잘못 구성하는 경우 |
도구 스키마 설계: 상충되는 관점
출처 내 노트에는 도구 수와 스키마 설계에 관한 두 가지 상충되는 주장이 함께 기록되어 있다. Research — LLM Agents.md
모순/충돌AI · 출처 클릭
구조화된/강제적 도구 스키마를 사용하면 인자 구성 오류가 크게 줄어든다.
한 출처의 주장
Research — LLM Agents.md
제공되는 도구의 수가 너무 많으면 모델의 도구 선택 정확도가 떨어진다.
다른 출처의 경고 — 스키마의 엄격함만으로는 선택 문제를 해결하지 못함을 시사
Research — LLM Agents.md
이 두 관점은 서로 배타적이지는 않지만, 최적 설계 전략에 대한 긴장을 반영한다. 스키마의 엄격함은 인자 형식 오류를 줄이는 데 효과적이지만, 도구 수가 많아질 때 발생하는 선택 정확도 저하는 별도로 다루어야 할 문제임을 암시한다.
다른 에이전트 구성 요소와의 관계
- ReAct 패턴: 도구 호출을 추론 단계 사이에 삽입하여 실제 관찰에 기반한 추론을 가능하게 한다.
- 에이전트 메모리: 도구 호출 결과는 단기 컨텍스트에 축적되며, 장기 메모리 저장소에 저장되기도 한다.
- 계획형 vs. 반응형 에이전트: 계획형 에이전트는 도구 호출 순서를 미리 결정하는 반면, 반응형 에이전트는 관찰 결과에 따라 동적으로 도구를 선택한다.
미해결 질문
도구 사용과 관련된 열린 문제들은 미해결 질문 페이지에서 다룬다. 특히 "도구 수와 선택 정확도 간의 최적 균형점은 어디인가?"는 현재 명확한 답이 없는 상태다.