Tier 0: 응용기초 (Applied Foundations)
임베딩·시멘틱서치·RAG·지식그래프·그래프DB·LLM·베이지안·위상수학·접근제어·에이전트 — 실무 진입점이 되는 10개 개념
F01 — 임베딩 & 벡터 공간
TL;DR: 의미를 고차원 숫자 벡터로 표현. "비슷한 의미 → 가까운 벡터"
한 문장 요약: 단어나 문장의 의미를 숫자 배열로 변환하여 컴퓨터가 비교할 수 있게 만드는 기술이다.
왜 이것이 필요한가
"사과"와 "배"는 글자로 보면 완전히 다르지만, 임베딩 공간에서는 가까이 위치한다. 둘 다 과일이라는 의미를 공유하기 때문이다.
이 변환이 없으면 AI는 단어의 의미를 전혀 이해할 수 없다. 임베딩의 품질이 곧 검색의 품질이고, RAG의 품질이다.
분포 가설: 함께 등장하는 단어는 비슷한 의미
"사과"는 "과일", "빨간"과 자주 함께 등장하므로, AI는 이 단어들이 의미적으로 가깝다고 학습한다. 사전 정의 없이도 맥락만으로 의미를 파악하는 원리다.
차원: 384~4,096, HNSW 인덱스로 로그 탐색
하나의 단어/문장이 384~4,096개의 숫자 배열로 표현된다. 차원이 높을수록 미세한 의미 차이를 표현할 수 있지만 저장과 검색 비용이 올라간다. HNSW는 이 고차원 공간에서 빠르게 유사한 벡터를 찾는 알고리즘이다.
쿼리 풍부화: HyDE, 쿼리 확장, Multi-Query, 청크 풍부화
사용자의 짧은 질문을 더 풍부하게 만들어 검색 정확도를 높이는 기법이다. 예를 들어 HyDE는 질문에 대한 가상의 답변을 먼저 생성하고, 그 답변으로 검색하여 더 관련성 높은 문서를 찾는다.
F02 — 시멘틱 서치 (Semantic Search)
TL;DR: BM25(키워드) + 벡터(의미) 하이브리드 서치가 표준
한 문장 요약: 키워드가 아닌 의미를 기준으로 문서를 찾는 검색 방식이다.
왜 이것이 필요한가
"자동차 수리 비용"을 검색했을 때, 키워드 검색은 정확히 이 단어가 포함된 문서만 찾는다. 시멘틱 서치는 "차량 정비 견적"이라는 동일한 의미의 문서도 찾아준다.
실무에서는 키워드(BM25)와 벡터를 결합한 하이브리드 검색이 최선이며, RRF(Reciprocal Rank Fusion)로 두 결과를 통합한다.
하이브리드 서치와 RRF(Reciprocal Rank Fusion)
키워드 검색과 의미 검색의 결과 순위를 수학적으로 통합하는 방법이다. 두 검색 모두에서 상위에 오른 문서가 최종 순위도 높아진다.
리랭킹: 바이-인코더(속도) → 크로스-인코더(정밀도) 2단계 파이프라인
1차로 빠르게 후보 100개를 추린 후(바이-인코더), 2차로 후보 하나하나를 질문과 정밀 비교하여 최종 순위를 매기는(크로스-인코더) 2단계 전략이다. 서점에서 대충 코너를 찾은 후 책을 꼼꼼히 비교하는 것과 같다.
청킹 전략: 재귀적 청킹, 시맨틱 청킹, 계층적(Parent-Child) 청킹
긴 문서를 검색 가능한 작은 조각으로 나누는 방법이다. 단순히 글자 수로 자르면 문맥이 끊기므로, 문단이나 의미 단위로 나누는 것이 중요하다. 계층적 청킹은 큰 덩어리 안에 작은 덩어리를 두어 요약과 상세 정보를 모두 활용한다.
시멘틱 드리프트 방지: 모델 버전별 인덱스 분리
임베딩 모델을 업그레이드하면 같은 단어도 다른 벡터로 변환된다. 기존 벡터와 새 벡터를 섞으면 검색 품질이 떨어지므로, 모델 버전별로 인덱스를 따로 관리해야 한다.
F03 — RAG (Retrieval-Augmented Generation)
TL;DR: LLM 환각을 줄이고 최신 지식 활용 — 파인튜닝의 대안
한 문장 요약: AI가 답변할 때 외부 문서를 먼저 검색해서 참고하게 만드는 기술이다.
왜 이것이 필요한가
LLM은 학습 데이터에 없는 최신 정보나 회사 내부 문서를 모른다. RAG는 이 문제를 해결한다.
- 오프라인 파이프라인: 문서 → 청킹 → 임베딩 → 벡터 DB 저장
- 온라인 파이프라인: 쿼리 → 임베딩 → 검색 → 컨텍스트 조립 → LLM 생성
- 평가: Faithfulness(충실도), Relevance(관련성), Answer Correctness
- 구조적 한계 3가지 → GraphRAG로의 전환 필요성
실전 시나리오: RAG가 작동하는 흐름
회사의 내부 문서 1,000개가 있다고 가정하자. 신입사원이 "휴가 신청 절차가 어떻게 되나요?"라고 질문한다.
- 질문이 벡터로 변환된다
- 벡터 DB에서 가장 유사한 문서 청크 5개를 찾는다
- 찾은 청크를 LLM에게 "이 자료를 참고해서 답변해줘"라고 전달한다
- LLM이 문서 내용을 기반으로 정확한 답변을 생성한다
하지만 "최근 3년간 휴가 정책이 어떻게 변해왔나?"처럼 여러 문서를 연결해야 하는 질문에서는 실패한다. 이것이 GraphRAG가 필요한 이유다.
F04 — 지식 그래프 (Knowledge Graph)
TL;DR: 엔티티(노드) + 관계(엣지) + 트리플(주어-술어-목적어)
한 문장 요약: 개체와 개체 사이의 관계를 그래프 구조로 저장한 지식 데이터베이스다.
왜 이것이 필요한가
관계형 DB는 테이블에 데이터를 저장하지만, "봉준호 감독이 만든 영화에 출연한 배우가 다른 어떤 영화에 출연했는가?"같은 다중 관계 질문에 약하다.
지식 그래프는 (봉준호, 감독, 기생충), (송강호, 출연, 기생충) 같은 트리플로 관계를 직접 표현하므로 이런 질문에 자연스럽게 답할 수 있다.
트리플: 분리 불가능한 지식의 최소 단위
(서울, 수도, 대한민국)처럼 주어-술어-목적어 세 요소로 하나의 사실을 표현한다. 이 세 요소 중 하나라도 빠지면 의미가 사라지기 때문에 "분리 불가능한 최소 단위"라고 한다.
RDF vs 프로퍼티 그래프: RDF(연동·추론) vs Property Graph(속성 직접 첨부, Neo4j)
RDF는 웹 표준(W3C) 기반으로 서로 다른 시스템 간 지식을 연결하는 데 강하고, 프로퍼티 그래프는 관계에 직접 속성(가중치, 날짜 등)을 붙일 수 있어 실무에서 더 직관적이다.
온톨로지: TBox(개념 정의) + ABox(사실) = 완전한 지식 그래프
TBox는 "사원은 부서에 소속된다"같은 규칙/구조이고, ABox는 "홍길동은 영업부에 소속된다"같은 구체적 사실이다. 규칙(틀)과 사실(내용)이 합쳐져야 완전한 지식 그래프가 된다.
N-hop 탐색: 깊이(depth) = 검색 품질과 비용의 핵심 파라미터
1-hop은 직접 연결된 이웃만, 3-hop은 3단계 떨어진 노드까지 탐색한다. Hop을 늘리면 더 넓은 맥락을 얻지만, 불필요한 정보도 늘고 비용이 기하급수적으로 증가한다.
F05 — 그래프 DB & 쿼리
TL;DR: 노드·엣지·속성을 네이티브 저장·탐색. Index-Free Adjacency로 깊이 탐색 비용 일정.
한 문장 요약: 관계를 1등 시민으로 다루는 데이터베이스로, 연결 탐색이 압도적으로 빠르다.
왜 이것이 필요한가
관계형 DB에서 5단계 관계(A→B→C→D→E)를 탐색하려면 5번의 JOIN이 필요하다. 그래프 DB는 인덱스 프리 인접(Index-Free Adjacency) 구조로 이를 밀리초 단위로 처리한다.
GraphRAG의 hop 기반 탐색, ReBAC의 관계 경로 판정이 모두 이 위에서 작동한다.
Neo4j + Cypher:
MATCH (a:Person)-[:KNOWS*1..3]->(b:Person)Cypher는 그래프 DB의 질의 언어다. 위 예시는 "사람 a에서 1~3단계 '알고있는' 관계를 따라가서 사람 b를 찾아라"는 뜻이다. SQL의 SELECT처럼 직관적이지만 관계 탐색에 특화되어 있다.
RDBMS의 재귀 JOIN(지수적 성능 저하)을 극복
관계형 DB에서 5단계 관계를 찾으려면 테이블을 5번 합쳐야 하고, 데이터가 늘수록 기하급수적으로 느려진다. 그래프 DB는 연결을 직접 저장하므로 깊이가 깊어져도 속도가 거의 일정하다.
커뮤니티 탐지, 최단경로 등 그래프 알고리즘 내장
서로 밀접하게 연결된 그룹(커뮤니티)을 자동으로 찾거나, 두 노드 사이의 가장 짧은 경로를 찾는 등의 분석 기능이 DB 안에 기본 내장되어 있어 별도 프로그래밍 없이 바로 사용할 수 있다.
F06 — LLM & 프롬프트 엔지니어링
TL;DR: Transformer 기반 대규모 언어 모델 + 프롬프트 설계
한 문장 요약: 대규모 언어 모델을 실무에서 효과적으로 사용하는 기법과 패턴이다.
왜 이것이 필요한가
LLM은 만능이 아니다. 같은 모델이라도 프롬프트를 어떻게 구성하느냐에 따라 결과가 극적으로 달라진다.
Zero-shot(예시 없이 요청)보다 Few-shot(예시 제공)이, Few-shot보다 Chain-of-Thought(단계별 사고 유도)가 복잡한 추론에서 더 좋은 결과를 낸다. 이것은 GraphRAG의 엔티티 추출과 요약 품질에 직결된다.
Multi-Head Self-Attention:
P08에서 설명한 트랜스포머의 핵심 메커니즘이다. Q(질문)·K(키)·V(값)를 사용하여 입력의 각 부분이 다른 부분에 얼마나 주목해야 하는지를 계산한다.
프롬프트 기법: Zero-shot → Few-shot → CoT → ReAct → 복합도구 사용
Zero-shot은 예시 없이 바로 질문, Few-shot은 예시를 먼저 보여주고 질문, CoT(Chain-of-Thought)는 "단계별로 생각해봐"라고 유도, ReAct는 생각과 행동을 번갈아 수행하는 방식이다. 오른쪽으로 갈수록 복잡하지만 정확도가 높아진다.
환각 감소: RAG 연동, Self-Verification, RLHF
AI가 사실이 아닌 내용을 그럴듯하게 만들어내는 것이 환각(Hallucination)이다. RAG로 실제 문서를 참조하게 하거나, AI에게 자기 답변을 스스로 검증하게 하거나, 사람 피드백으로 학습(RLHF)시켜 줄일 수 있다.
F07 — 베이지안 추론
TL;DR: 새 증거에 따라 믿음을 업데이트 — 지식 그래프 신뢰도 전파에 직접 적용
한 문장 요약: 새로운 증거가 나올 때마다 기존 판단을 체계적으로 수정하는 추론 방식이다.
왜 이것이 필요한가
스팸 메일 필터를 생각해보자. 처음에는 50:50이지만, "무료", "당첨" 같은 단어가 보일 때마다 스팸 확률이 올라간다. 이것이 베이지안 업데이트다.
GraphRAG에서 커뮤니티 정보가 추가될 때 관련도를 재평가하는 것도 같은 원리다.
베이지안 네트워크(BN): DAG 구조로 불확실성 추론
원인과 결과를 화살표로 연결한 그래프다. "비 → 도로 젖음 → 사고 증가"처럼 연쇄적 확률 관계를 표현하여, 하나의 변화가 다른 요소에 미치는 영향을 계산할 수 있다.
확률적 지능에서 구조적 지능으로의 보완: 온톨로지·KG가 구조를 명시적으로 표현
확률만으로는 "왜 이 결과가 나왔는지" 설명하기 어렵다. 온톨로지와 지식 그래프가 개념 간 관계를 명시적으로 저장하면, AI의 판단에 구조적 근거를 부여할 수 있다.
F08 — 위상수학 기초 (Topology Basics)
TL;DR: 연속 변환에 불변하는 공간의 성질. TDA로 임베딩 구조적 패턴 발견.
한 문장 요약: 데이터의 형태(구멍, 연결, 군집)를 수학적으로 분석하는 기법이다.
왜 이것이 필요한가
점들의 집합에서 군집(cluster)이나 고리(loop) 같은 구조적 특징을 발견하는 것이 TDA다.
임베딩 공간에서 개념들이 어떤 위상적 구조를 이루는지를 분석하면, 단순 거리 측정으로는 보이지 않는 의미적 관계를 발견할 수 있다. 이것이 위상학적 지능(C05)의 수학적 기반이다.
위상 공간, 위상동형(Homeomorphism), 불변량
커피잔과 도넛은 모양은 다르지만 "구멍이 1개"라는 점에서 위상적으로 같다. 위상수학은 이렇게 찌그러뜨리거나 늘려도 변하지 않는 본질적 특성(불변량)을 연구한다.
TDA 파이프라인: 데이터 → 단체 복합체 → 퍼시스턴트 호몰로지 → 바코드/벡터화
흩어진 데이터 점들에서 "군집이 몇 개인가", "고리 구조가 있는가" 같은 형태적 특징을 추출하는 과정이다. 이 결과를 바코드라는 시각화로 표현하면, 데이터의 숨겨진 구조를 한눈에 파악할 수 있다.
분석 공간 = 위상: 임베딩, 그래프, 지식 그래프 모두 위상 공간으로 해석
벡터 공간(임베딩)이든 그래프 구조든, 결국 "점들과 연결"로 이루어진 위상 공간으로 볼 수 있다. 이 관점을 취하면 서로 다른 데이터 구조를 하나의 수학적 틀로 통합 분석할 수 있다.
위상 디랙 연산자(Nature Physics 2025)
물리학의 디랙 방정식을 네트워크 분석에 적용한 최신 연구다. 그래프의 노드뿐만 아니라 엣지와 삼각형까지 포함한 고차원 상호작용을 분석하여, 기존 방법으로는 보이지 않던 패턴을 발견한다.
F09 — 접근 제어 (Access Control)
TL;DR: RBAC → ABAC → ReBAC (관계 기반, Google Zanzibar)
한 문장 요약: 누가 어떤 데이터에 접근할 수 있는지를 규칙으로 관리하는 보안 체계다.
왜 이것이 필요한가
AI가 모든 문서를 자유롭게 탐색하면 기밀 유출 위험이 있다. 전통적 RBAC(역할 기반)은 역할이 기하급수적으로 늘어나는 "역할 폭발" 문제가 있다.
ReBAC는 관계 그래프로 권한을 표현하여 이를 해결한다. 온톨로지와 접근제어를 통합하면 검색과 보안이 하나의 구조로 작동한다.
RLS(행 수준 보안): 벡터 DB + 그래프 DB 두 레이어에 적용
같은 테이블이라도 사용자마다 볼 수 있는 행(row)이 다르게 필터링되는 보안 방식이다. 영업팀은 자기 지역 고객만, 경영진은 전체 고객을 볼 수 있게 하는 식이다.
JWT + 파이프라인 자동 필터: GraphRAG에서 접근 가능한 서브그래프만 탐색
사용자가 로그인하면 JWT(암호화된 출입증)에 권한 정보가 담기고, GraphRAG 검색 시 이 권한에 맞는 문서·노드만 자동으로 필터링되어 기밀 정보가 결과에 포함되지 않는다.
GraphRAG + ReBAC: 온톨로지 설계가 곧 접근제어 설계
지식 그래프에서 "누가 무엇을 볼 수 있는가"를 관계(엣지)로 직접 표현한다. 검색 구조와 보안 구조를 하나로 통합하여, 별도의 권한 시스템 없이도 접근제어가 자동으로 작동한다.
F10 — 에이전트 & 오케스트레이션
TL;DR: 지각 → 추론 → 행동 → 기억의 자율적 시스템
한 문장 요약: 스스로 판단하고, 도구를 사용하고, 목표를 달성하는 자율적 AI 시스템이다.
왜 이것이 필요한가
챗봇은 질문에 답할 뿐이지만, 에이전트는 행동한다.
4대 구성요소: 지각(Perceive), 추론(Reason), 행동(Act), 기억(Memory)
사람이 문제를 해결하는 과정과 같다. 상황을 파악하고(지각), 어떻게 할지 생각하고(추론), 실행하고(행동), 결과를 기억해서 다음에 활용한다(기억).
ReAct 패턴: Thought → Action → Observation 사이클
"생각한다 → 행동한다 → 결과를 관찰한다"를 반복하는 패턴이다. 아래 실전 시나리오에서 이 사이클이 구체적으로 어떻게 작동하는지 확인할 수 있다.
멀티에이전트 오케스트레이션: 순차, 분기, 라우팅, 계층(Hierarchical)
여러 AI 에이전트가 팀처럼 협업하는 방식이다. 순차는 릴레이처럼 순서대로, 분기는 동시에 각자 맡은 일을, 라우팅은 질문 유형에 따라 전문 에이전트에게 배정, 계층은 팀장-팀원 구조로 관리한다.
프랙탈 + 재귀 분해: 서브태스크가 동일 에이전트 구조를 재귀적으로 사용
큰 과제를 작은 과제로 나누고, 각 작은 과제도 같은 방식으로 더 작게 나누는 구조다. 회사 조직이 본부→팀→파트로 같은 패턴으로 분할되는 것과 비슷하다.
MCP: Resources + Tools + Prompts로 에이전트-도구 통합
AI 에이전트가 외부 도구를 사용하기 위한 표준 연결 규격이다. Resources(읽을 데이터), Tools(실행할 기능), Prompts(사용 방법 안내)를 하나의 패키지로 제공한다.
GraphRAG + 에이전트: 플래너 → 검색 → 추론 → 검증 에이전트 파이프라인
하나의 질문에 여러 전문 에이전트가 순서대로 투입된다. 계획 에이전트가 전략을 짜고, 검색 에이전트가 관련 정보를 찾고, 추론 에이전트가 답변을 만들고, 검증 에이전트가 정확성을 확인한다.
실전 시나리오: 에이전트의 ReAct 사이클
사용자: "이번 달 매출 보고서를 만들어줘"
- Thought: 매출 데이터가 필요하다. DB를 쿼리해야 한다.
- Action: sales_db.query("SELECT * FROM sales WHERE month='2026-03'")
- Observation: 총 매출 5.2억, 신규 고객 47건, 이탈 12건
- Thought: 전월 대비 변화를 계산하고 시각화해야 한다.
- Action: chart_tool.create(data, type="bar")
- Observation: 차트 생성 완료
- Thought: 보고서 형식으로 정리하면 완료.
- Action: doc_tool.create_report(title, data, chart)
이 Thought → Action → Observation 사이클이 ReAct 패턴이다. 멀티에이전트 시스템에서는 여러 에이전트가 각자의 역할(검색, 분석, 작성)을 분담한다.
이해도 점검
Tier 0 응용기초 퀴즈
Q1. Naive RAG의 가장 큰 구조적 한계는?
Q2. 지식 그래프의 기본 단위는 (주어, 술어, 목적어) 트리플이다.
Q3. ReAct 패턴의 사이클 순서는?
Q4. Persistent Homology(지속적 호몰로지)가 분석하는 것은?
Q5. MCP(Model Context Protocol)의 3가지 구성요소는 Resources, Tools, Prompts이다.