최근 OpenAI가 AI 에이전트 구축을 위한 새로운 도구인 리스폰스 API와 에이전트 SDK를 출시했습니다. 이번에 공개된 도구들은 웹 검색, 파일 탐색 기능뿐만 아니라 'Computer Use' 기능을 통해 AI가 실제로 컴퓨터 화면을 읽고 마우스나 키보드를 조작할 수 있는 능력까지 제공한다고 하는데요.
AI업계의 선두주자라고 할 수 있는 OpenAI 뿐만 아니라 다양한 기업들이 이미 활발하게 AI 에이전트 개발에 뛰어들고 있습니다. 이를테면 마이크로소프트는 '코파일럿 스튜디오'를 통해 기업들이 자체 AI 에이전트를 만들 수 있는 환경을 제공하고 있으며, 구글은 '제미나이' 모델 기반의 '프로젝트 아스트라'를 통해 멀티모달 AI 비서 비전을 제시했습니다.
이처럼 다양한 기업들이 AI 에이전트를 주목하고 있는 만큼, 향후 글로벌 AI 에이전트 시장에 대한 성장 전망도 밝은데요. 시장 조사에 따르면, 2023년 약 58억 달러 규모였던 AI 에이전트 시장은 2030년까지 연평균 42.8% 성장해 705억 달러(약 102조 원)에 달할 것으로 전망*된다고 합니다. 국내에서도 AI 에이전트 시장이 2025년까지 연평균 35% 성장해 1조 원 규모를 형성할 것으로 예측되고 있습니다.
이처럼 많은 기업들이 AI 에이전트 개발에 뛰어들고 있지만, 막상 특정 도메인에 특화된 고품질 AI 에이전트를 개발하는 것은 생각보다 훨씬 복잡합니다. 도메인 특화 AI 에이전트 개발에는 여러 기술적 요소와 도메인 노하우들이 유기적으로 통합되어야 하기 때문입니다.
AI 기술에서 '도메인 특화'란 일반적인 목적으로 개발된 AI가 아닌, 특정 전문 분야에 최적화된 AI를 말합니다. 법률, 의료, 금융, 교육 등이 각각 하나의 도메인이 될 수 있으며, 각 도메인은 고유한 용어, 지식 체계, 규칙, 관행을 가지고 있습니다.
예를 들어, 법률 도메인에서는 특정 용어들이 일상에서 사용하는 의미와는 다른 특별한 법적 의미를 갖습니다. 또한 법률 문서는 일반 문서와 달리 조항, 항, 호 등의 특수한 구조를 가지며, 법률적 판단은 법령, 판례 등을 종합적으로 고려해야 합니다.
도메인 특화 AI 에이전트는 이러한 도메인별 특성을 깊이 이해하고, 해당 분야의 전문가처럼 판단하고 응답할 수 있어야 합니다. 이는 단순히 많은 데이터를 학습하는 것 이상의, 전문적인 지식 구조와 추론 능력을 필요로 합니다.
범용 AI와 도메인 특화 AI의 차이를 확인하기 위해, 일반적인 챗봇인 ChatGPT와 법률 특화 에이전트인 앨리비 비즈니스 에이전트의 차이를 비교해보았습니다.
좀 더 이해가 쉽도록 구체적인 예를 들어보겠습니다. "사업자간 정보 공유행위는 담합에 해당 할 수 있나요?"라는 질문을 ChatGPT와 앨리비 비즈니스 에이전트에 한 결과를 확인해보겠습니다.
두 AI 에이전트의 답변을 비교해보면 전문성 측면에서 확연한 차이가 드러납니다. 일반 범용 AI가 단편적인 정보를 제공하는 데 그치는 반면, 도메인 특화 AI는 해당 분야의 깊이 있는 전문 지식을 바탕으로 한 차별화된 답변을 보여줍니다.
특히 법률 분야에서는 관련 법령의 구체적 조항, 최신 판례의 판단 기준, 법리적 해석의 근거를 명확히 제시하며, 전문가가 검토한 듯한 정확성과 신뢰성을 갖춘 응답을 제공합니다.
전문 분야, 특히 법률이나 금융 같은 도메인의 문서는 복잡한 구조와 특수한 형식을 가지고 있으며, 이를 효과적으로 처리하기 위해서는 아래와 같은 기술들이 필요합니다.
이미지에서 볼 수 있는 '정부용역계약 시 유의사항' 문서는 복잡한 표 구조와 체크리스트 항목을 포함하고 있습니다. 앨리비의 도메인 특화 OCR은 단순히 텍스트만 추출하는 것이 아니라, 문서의 레이아웃을 정확히 분석하여 필요한 요소 단위로 분리합니다.
이미지에서 볼 수 있는 '정부용역계약 시 유의사항' 문서를 살펴보면, 표 형태로 정리된 계약 시 점토항목, 검토 여부, 해당없음, 조치사항, 비고 등의 복잡한 구조를 가지고 있습니다. 리걸AI는 구조적으로 문서를 인식함으로써, AI는 단순히 텍스트만 읽는 것이 아니라 "정부용역계약에서 발주기관의 기밀 관리를 위한 체크리스트"와 같은 문서의 맥락을 이해하고, 필요한 정보를 정확히 추출하여 분석할 수 있게 됩니다. 이는 사용자가 "정부용역계약에서 기밀 관련 체크리스트 항목은 무엇인가요?"라고 질문했을 때 정확한 답변을 제공하는 기반이 됩니다.
청킹(Chunking) 기술은 대용량 문서를 처리할 때 핵심적인 역할을 하는 기술로, 긴 텍스트를 의미적으로 연관된 부분들로 적절히 분할하는 과정입니다. 이는 단순히 기계적으로 문장이나 단락을 나누는 것이 아니라, 문서의 논리적 구조와 내용의 연관성을 고려해 의미 단위로 분할하는 것을 의미합니다.
이를테면 100페이지가 넘는 M&A 계약서를 처리할 때, 단순히 페이지나 문단 단위로 나누는 것이 아니라, "정의 조항", "진술 및 보증", "선행 조건", "위약금 조항" 등 의미 단위로 묶어서 처리합니다.
만약 제5조~제8조까지가 모두 "매도인의 진술 및 보증"에 관한 내용이라면, 이를 하나의 의미 단위로 묶어 처리하는 것입니다. 이는 마치 법률 전문가가 계약서를 검토할 때 연관된 조항들을 함께 고려하는 방식과 유사합니다.
도메인 특화 에이전트는 사용자의 질의를 정확히 이해하고 관련 정보를 검색할 수 있어야 합니다. 이를 위해선 아래와 같은 검색 기술들이 들어가게 됩니다.
텍스트를 수치 벡터로 변환하여 의미적 유사성을 기반으로 검색하는 기술입니다. 이는 전통적인 키워드 검색과 달리, '임차인의 의무'와 '세입자의 책임'처럼 표현은 다르지만 의미가 유사한 내용도 찾아낼 수 있어 전문 분야의 다양한 표현을 효과적으로 처리할 수 있습니다.
텍스트에서 중요한 개체를 자동으로 식별하고 분류하는 기술입니다. 법률 문서에서는 특히 계약 당사자, 계약 기간, 관할 법원, 분쟁해결 방법 등과 같은 핵심 정보를 인식하는 것이 중요합니다.
예를 들어, AI는 "구매계약서"이라는 단어를 '계약서 제목'이라는 엔티티 등으로 정확히 인식할 수 있습니다. 또한 "계약기간"이나 "1년"과 같은 기간 관련 정보도 특정 엔티티로 분류할 수 있습니다.
이러한 엔티티 인식 기술은 방대한 계약서에서 핵심 정보를 자동으로 추출하여 검색과 분석의 정확도를 높일 수 있습니다.
검색된 정보를 바탕으로 사용자에게 유용한 답변을 생성하기 위해서는 다음과 같은 고급 기술이 필요합니다.
최근 딥시크(DeepSeek)로 인해 주목받았던 기술입니다. 추론은 여러 정보 조각을 논리적으로 연결하고 분석하여 새로운 결론을 도출하는 과정입니다. 예를 들어, 특정 행위가 법적으로 문제가 되는지 판단하기 위해 AI 에이전트라면 관련 법조항, 유사 판례, 법원의 해석 기준 등을 종합적으로 고려하여 논리적 결론을 제시할 수 있어야 합니다.
단순히 텍스트를 줄이는 것이 아니라, 사용자의 질문 의도와 상황적 맥락을 고려하여 필요한 정보만을 선별적으로 추출하고 조직화하는 기술입니다. 예컨대 계약 위반에 관한 질문에 대해 50페이지 가량의 계약서 전체가 아닌, 위반 조항과 관련 책임 규정만을 정확히 추출하여 요약할 수 있어야 합니다.
도메인 특화 AI 에이전트 개발에서 가장 간과하기 쉬운 부분이 바로 도메인 전문가와의 협업입니다. 아무리 뛰어난 AI 기술을 보유하고 있다 해도, 해당 분야의 전문성 없이는 해당 분야를 정말 잘 이해하는 에이전트를 개발하기 어렵습니다.
법률, 금융, 의료와 같은 중요한 의사결정이 필요한 분야에서는 정보의 신뢰성이 매우 중요합니다.
법률 분야를 예로 들면, AI 엔지니어는 법률 용어의 미묘한 뉘앙스, 법체계의 복잡성, 판례의 해석 방법 등을 이해하기 어렵습니다. 이런 상황에서 법률 전문가는 AI 모델이 생성한 내용이 법적으로 정확한지, 맥락에 맞는지, 실무에서 활용 가능한지를 평가해 신뢰도를 점수로 측정할 수 있습니다.
이를 인간 피드백을 통한 강화 학습(RLHF)이라고도 부르며, 이러한 프로세스는 도메인 특화 AI 개발에서 필수적인 요소입니다. 도메인 전문가들이 AI의 출력을 지속적으로 검증하고 피드백을 제공함으로써, 모델은 점진적으로 해당 분야의 지식과 규범을 학습하게 됩니다. 해당 과정은 특히 '할루시네이션(환각)' 문제를 줄이는 데 중요한 역할을 합니다.
일반적인 대화체가 아닌, 해당 분야의 전문적 표현과 용어를 적절히 사용하여 텍스트를 생성하는 기술입니다. 법률 분야에서는 법률 문서 작성 관행이나 판례 등에서 사용되는 표현 방식들이 있습니다. 이런 표현들은 도메인 전문가들의 지도아래 AI에게 해당 분야의 표현을 가르치는 과정도 필요합니다. 이는 단순히 기술적 정확성을 넘어, 실용적인 가치를 창출하는 데 핵심적입니다.
이처럼 도메인에 특화된 AI 에이전트는 다양한 복합적 기술 요구사항과 도메인 전문성의 결합을 필요로 합니다. 앨리비는 특히 법률 도메인에 집중해, 기술과 전문성을 결합한 리걸AI를 개발해 이를 에이전트에 효과적으로 적용하고 있습니다.
특히 앨리비 비즈니스 에이전트에 탑재된 국내외 법령, 판례, 정부 기관의 정책 등 방대한 전문 지식 데이터베이스는 단순 수집을 넘어 법률 전문가들로 구성된 리걸옵스 팀의 지도 하에 분류, 정제, 구조화 과정을 거쳐 활용됩니다. 그리고 이 과정에서 법률 전문성이 핵심적인 역할을 합니다.
일반 기업들은 이러한 시스템을 구축하려고 해도 전문가 검증 체계를 갖추기 쉽지 않은 경우가 대부분이며, 전문가의 피드백이 없는 경우, AI는 '할루시네이션(환각)' 문제에 취약할 수밖에 없습니다. 이는 특히 법률과 같이 정확성이 중요한 영역에서는 치명적인 약점으로 작용할 수 있습니다.
뿐만 아니라 기술적 측면에서 앨리비는 법률 특화 OCR, 청킹, 레이아웃 분석, 리걸 LLM 등 다양한 기술을 유기적으로 통합하고 있기 때문에, 이러한 기술들이 단순히 '있다/없다'의 문제가 아니라 법률 도메인에 최적화되어 적용되고 있다는 점이 핵심이라고 할 수 있습니다.
앞서 말씀드렸듯 AI 에이전트 시장이 빠르게 성장하고 있고 AI에 대한 개별 기술을 보유한 기업은 많지만, 이를 완전히 통합하여 특정 도메인에 최적화된 서비스로 구현하는 기업은 드뭅니다.
그러나 앨리비는 도메인 전문가와의 협업을 통해 도메인 특화 AI 에이전트 개발에 대한 노하우를 지니고 있으며, 이렇게 개발한 다양한 AI기술을 비즈니스 에이전트와 같은 실제 서비스에 녹여내 활용하고 있습니다. 이러한 통합적 접근은 새롭게 시장에 진입하려는 기업들이 단기간에 따라잡기 어려운 노하우입니다.
결국 AI 에이전트의 가치는 얼마나 많은, 또는 최신의 기술을 사용하는가가 아니라, 그 기술을 바탕으로 실제 현실에서의 문제를 얼마나 효과적으로 해결하는가에 달려 있습니다. 앨리비는 바로 이 지점에서 사용자에게 차별화된 가치를 제공하고 있으며, 이것이 앨리비의 리걸AI가 가진 가치라고 할 수 있습니다.
.svg)
