Agent 개념의 등장과 Agent의 중요성
LLM이 모든 지식을 내재화할 수 없다는 사실에서 agent 설계가 왜 중요해졌는지 정리합니다. Agent가 왜 튀어나왔나 {#agent가-왜-튀어나왔나} LLM이 처음 대중적으로 쓰였을 때는 대답 자체가 신기했습니다. 그런데 실제 업무에 붙이면 금방 벽이 보입니다. 모델은 문장을 잘 만들지만 최신 파일 상태를 모르고, 사내 정책을 모르고, 지금 서버가 어떤 응답을 내는지도 모릅니다. 그래서…
Series
ontology 읽는 순서
메모리 계층과 Knowledge Graph
메모리를 여러 층으로 나누는 이유와 내재화되지 않은 정보를 Knowledge Graph로 다루는 감각입니다. 메모리를 한 덩어리로 두면 생기는 문제 {#메모리를-한-덩어리로-두면-생기는-문제} Agent가 기억을 가진다고 할 때, 그것이 단순히 과거 대화를 저장한다는 뜻이면 금방 막힙니다. 원문 로그, 사건 기록, 일반 지식, 정책, 절차, 자기반성은 쓰임새가 다릅니다. 모두 같은 벡터 저장…
Agent의 Taxonomy 관리와 Pipeline
입력 정리부터 Postcondition Verify까지 agent가 정보를 분류하고 실행하는 흐름입니다. 입력 정리 {#입력-정리} Agent pipeline의 첫 단계는 input 정리입니다. 사용자의 문장을 그대로 계획으로 바꾸지 않고, 요청, 배경, 제약, 예시, 금지 조건, 감정 표현을 나눕니다. 사용자가 급하게 말할수록 실제 요구와 위험 신호가 섞입니다. 그래서 input은 먼저 s…
분리된 Agent 층과 판단의 특성
Syntax와 Semantics, T A R 논리모델, Assertion 기반 일반화와 검증 필요성을 설명합니다. Agent Memory 재차 복습 {#agent-memory-재차-복습} 앞에서 말한 메모리 층을 다시 불러오면 이렇습니다. Lexical memory는 이름과 표기를 잡고, Relational memory는 관계를 잡고, Procedural memory는 확인 순서를 잡습니다.…
OWL과 EL QL RL
OWL의 기본 감각과 EL, QL, RL 프로필을 예시 중심으로 설명합니다. OWL을 왜 보는가 {#owl을-왜-보는가} OWL은 웹 온톨로지 언어입니다. agent 개발자가 OWL을 그대로 다 구현하지 않더라도, class, individual, property, restriction, inference의 감각을 익히면 schema 설계가 훨씬 또렷해집니다. 중요한 점은 모든 것을 LLM에…
Rule, SHACL, LLM Critic, Belief Management
규칙 검증과 LLM critic 반복을 belief 관리로 연결하는 구조입니다. Rule에서 시작하기 {#rule에서-시작하기} Rule은 agent가 매번 새로 고민하지 않아도 되는 판단을 고정합니다. 예를 들어 출처 없는 claim은 확정 사실로 승격하지 않는다, destructive action은 승인 없이는 실행하지 않는다, 최신성이 필요한 정책은 공식 문서를 확인한다 같은 규칙입니다…
Conflict Handling과 Guardrail Case Study
충돌 처리와 개발자가 직접 다는 guardrail을 사례 중심으로 설명합니다. 충돌은 예외가 아니다 {#충돌은-예외가-아니다} Agent 운영에서 conflict는 예외가 아니라 기본 상태입니다. 사용자는 빠른 실행을 원하고, 정책은 보수적 판단을 요구합니다. 모델은 일반 지식을 말하고, 실제 파일은 다른 상태일 수 있습니다. 문서 A는 허용한다고 쓰고, 최신 약관 B는 금지한다고 말할 수 …
Operation 판단과 Action Ontology
Operation을 어떻게 판단시키고, Internalization Boundary와 LongTerm Memory를 어떻게 나눌지 설명합니다. Operation을 판단한다는 것 {#operation을-판단한다는-것} Operation은 agent가 실제로 하는 일입니다. 읽기, 쓰기, 변환, 공개, 삭제, 알림, 결제, 위임 같은 행동이 모두 operation입니다. 중요한 점은 operat…
Capability Permission, Planning, Policy Reasoning
능력과 권한을 구분하고, planning과 policy reasoning을 연결합니다. Capability와 Permission {#capability와-permission} Capability는 agent가 할 수 있는 능력입니다. 파일을 읽을 수 있고, 웹을 검색할 수 있고, 코드를 실행할 수 있고, 배포할 수 있습니다. Permission은 해도 되는 권한입니다. 이 둘은 다릅니다. c…
Safety Guard Architecture와 Human In The Loop
Safety guard와 인간 승인 루프가 하나의 사이클로 돌아가는 구조를 설명합니다. Architecture로 보기 {#architecture로-보기} 실무 사이클은 Planner, 비판 반복, 검증, 정책 엔진, 실행, 관측과 PostCondition Verifier로 이어집니다. 마지막 Verifier는 단지 성공 여부를 찍는 장치가 아니라, 피드백용 메모리를 관리하는 장치입니다. 실패…
Invariant 내재화와 이상적인 내재화
내재화가 잘 됐는지 테스트하는 방법과 BadPlan, Critique, RepairedPattern 학습 세트를 설명합니다. Invariant란 무엇인가 {#invariant란-무엇인가} Invariant는 상황이 바뀌어도 유지되어야 하는 원칙입니다. 예를 들어 출처 없는 최신 사실은 확정하지 않는다, destructive action은 확인한다, 법적 규제 준수를 우선한다, postcond…
Ontology Violation Loss와 판단 평가
온톨로지 위반을 loss로 보고, agent 판단을 숫자 기반으로 계속 평가하는 감각입니다. Ontology Violation Loss {#ontology-violation-loss} Ontology Violation Loss는 agent가 타입과 관계를 제대로 다루지 못할 때 낮은 점수를 주는 방식으로 판단 품질을 평가하는 관점입니다. Evidence를 결론처럼 쓰거나, 가설을 findin…
용어 사전
Agent ontology 문서를 읽기 위한 lexical 용어 사전입니다. 가드레일(Guardrail) {#가드레일-guardrail} 한 줄 정의: agent가 위험한 입력, 기억, 검색, action, 출력을 넘지 않게 막는 제약입니다. 풀어 쓰면 가드레일은 prompt 문구 하나가 아니라 schema, validator, allowlist, denylist, 승인 UI, audit l…