개념 해설/AI 모델과 시스템
긴 문맥은 RAG를 대체할까? 검색·문맥·기억의 역할
입력 한도가 늘어나면 검색은 필요 없어질까. RAG, 긴 문맥, 장기 기억의 차이를 문서 갱신·권한·비용·답변 근거라는 네 기준으로 분석한다.
← 모든 주제
AI SYSTEMS
AI 모델과 시스템
모델은 어떻게 이해하고, 기억하고, 행동할까. 개념의 경계를 짚고 시스템의 작동 원리를 연결합니다.
어디서 시작할까요?
긴 문맥과 RAG의 관계에서 시작해 BM25·벡터·재정렬이 후보와 순위를 나누는 이유를 읽어 보세요.
심층 리포트/AI 모델과 시스템
하이브리드 검색은 왜 필요한가: BM25·벡터·재정렬의 역할
벡터 검색에 키워드 검색과 reranker를 더할 때 무엇이 좋아지고 무엇이 남는지 분석한다. RRF를 직접 계산하고 후보 누락·권한 필터·평가 지표를 구분해 설계 기준을 제시한다.
THE NEXT CONNECTION
이어서 읽을 관점
심층 리포트/소프트웨어와 제품
AI 에이전트의 경쟁력은 어디에 쌓이는가
더 강한 모델이 곧 더 좋은 업무 제품은 아니다. 에이전트의 구조, 업무 연결, 완료 기준, 재시도 비용을 연결해 제품 경쟁력의 축적 지점을 분석한다.
개념 해설/컴퓨팅 인프라
LLM 추론에서 메모리가 병목이 되는 이유
모델 파일 크기만으로 실행 가능성을 판단할 수 없는 이유를 가중치, KV 캐시, 메모리 대역폭으로 설명한다. 문맥 길이와 동시 요청의 영향을 계산기로 확인한다.
심층 리포트/소프트웨어와 제품
MCP는 API를 대체할까? AI 도구 연결의 표준과 남는 책임
MCP와 REST API·함수 호출의 차이를 호스트, 도구 계약, 인증과 업무 권한으로 나눠 분석한다. 통합 비용이 줄어드는 지점과 오히려 운영 부담이 늘어나는 조건을 비교한다.