Tool description이 길면 에이전트가 도구를 더 잘 고를까
AI 에이전트에서 tool description 길이가 도구 선택에 어떤 영향을 주는지, 길이보다 중요한 schema 품질과 예시 설계 기준을 정리합니다.
-
-
Prompt caching은 언제 비용을 줄이고 언제 효과가 없을까
Prompt caching이 비용과 지연시간을 줄이는 조건을 반복 prefix, system prompt, tool schema, dynamic context 관점에서 설명합니다.
-
AI 에이전트 실전 설계 시리즈 (8) – LLM judge와 테스트셋으로 agent eval 만들기
agent eval을 LLM judge, 테스트셋, tool trajectory, grounding, 비용과 복구 기준으로 나눠 설계하는 방법을 설명합니다.
-
Reranker는 Vector DB 검색 뒤에 왜 붙일까
Reranker가 Vector DB 검색 뒤에서 어떤 문제를 줄이는지, top-k 검색과 reranking의 역할 차이, 비용과 지연시간 tradeoff를 설명합니다.
-
RAG chunk size는 얼마가 적당할까
RAG chunk size를 문서 구조, 검색 품질, context window, 비용, 평가셋 기준으로 선택하는 방법을 설명합니다.
-
AI 에이전트 실전 설계 시리즈 (7) – 에이전트 실패는 어떻게 로그로 남겨야 할까
AI 에이전트 실패를 재현하려면 최종 답변이 아니라 trace, span, retrieval, tool, memory, guardrail 로그를 나누어 남겨야 합니다.
