AI는 이미 필수 도구로 자리 잡았습니다. 성장하는 기업 환경에서는 더욱 그렇죠. 그러나 기업이 챗GPT 같은 생성형 AI를 도입하려면 비용, 안정성, 보안 등 다양한 문제가 얽혀 있습니다. 바로 이런 문제를 해결한 제품이 포티투마루의 AI 솔루션인데요. 포티투마루의 AI는 다양한 유형의 조직이 겪는 어려움을 해소시켜줄 뿐만 아니라, 미지의 위험을 예측하는 유능한 전략가로서의 역할을 수행합니다. ‘세상의 모든 질문에 대한 해답’이라는 비전 아래, AI와의 생산적인 협업을 가능케 한 포티투마루. 포티투마루의 AI 솔루션이 기업의 생산성을 어떻게 극대화하는지 김동환 대표와 함께 알아봤습니다.

기업 성장의 변곡점

탐구하는 AI에서 답 찾다

포티투마루는 어떤 서비스인가요?

포티투마루는 챗GPT 같은 초거대 인공지능(LLM)을 기업에서 쓸 수 있게 경량화해 제공하는 서비스입니다. 초거대 인공지능은 가짜 정보를 생성하는 ‘환각(Hallucination)’ 현상과 높은 비용, 취약한 보안 등의 고질적인 문제가 있다 보니 기업이 쓰기에 안정성이 부족한데요. 포티투마루 솔루션은 전문 분야에 특화해 경제적으로 만들면서도, Private 모드를 지원해 안전하게 초거대 인공지능을 활용할 수 있도록 돕습니다.

초거대 인공지능을 ‘경량화’해야 하는 이유는 무엇인가요?

초거대 인공지능에 정치, 경제, 사회, 문화 무엇을 물어봐도 잘 답해요. 그러나 정확도에 점수를 매긴다고 했을 때, 100점 만점에 80점 초반이거든요. B+ 수준인 셈이죠. 그런데 경량화 모델은 다른 부분이 취약해도 특정 분야 만큼은 A+를 받게 하는 거예요. 이처럼 포티투마루의 생성형 AI 솔루션은 고객사 분야에 맞는 맞춤형 모델 구축을 통해 정확성을 높인 게 특징입니다. 질문하면 얻을 수 있는 답을 신뢰할 수 있는 출처와 함께 제공하죠. 포티투마루 솔루션은 챗GPT와는 차별화된, 정확성과 실제 업무 적용성까지 확보한 서비스예요.

기존 생성형 AI와 차별화되는 기술적 특징에 대해 자세히 설명해 주세요.

챗GPT처럼 초거대 인공지능에 환각 현상이 생기는 이유는 자신의 경험을 기반으로 답을 추출하기 때문에 정보가 뒤섞이고 충돌하는 거예요. 그러다 보니 거짓을 사실처럼 이야기하는 현상이 나타나고요. 포티투마루는 이러한 환각 현상을 완화하기 위해 검색증강생성 기술 RAG42와 인공지능 독해 기술 MRC42을 접목했어요. RAG42는 마치 오픈북 테스트처럼, 제한된 자료 안에서 정확도 높은 답변을 주는 기술이에요. 기업 내에 데이터가 많이 쌓여 있잖아요. RAG42를 적용하면 AI가 허구의 정보를 지어내지 않고, 사실에 가까운 답변을 만들게 돼요.

답을 얻는 과정에 대한 고민이 엿보여요. 이전의 커리어가 영향을 준 것일까요?

저는 스타트업에서 개발자로서 검색 포털을 만들었어요. 그 회사가 SK에 합병되면서, SK 검색 사업 총괄을 하게 됐죠. 검색 분야에서 20여 년 일하면서도, 기술적인 난제가 있었는데요. AI에게 질문하면 키워드 위주의 답변을 내놓거나, 문장 요약의 경우 맥락을 읽지 못하고 특정 키워드를 발췌해 합치는 정도에 그친다는 점이었어요. 이때 딥러닝 기술로 해법을 찾았죠. 데이터 간의 유의미한 패턴을 발견하고 학습하는 거예요. 딥러닝에 대해 알아갈수록, 그동안 인류가 해결하지 못했던 문제를 할 수 있겠다는 확신이 생겼어요.

포티투마루의 기술은 업무에 어떤 방식으로 도움을 주고 있나요?

유플러스를 예로 들어 볼게요. 설치 기사님들 같은 경우에 현장마다 다른 대응 방법을 모두 알고 있기란 쉽지 않잖아요. 솔루션을 도입하면 매뉴얼을 찾아보거나 본사 전문가에게 전화하지 않고도 실시간으로 AI에게 답을 얻을 수 있어요. 금융권 상담 시에도 상담원의 백과사전이 되어주는 AI가 있다면 업무가 훨씬 수월해지죠. 법률 계약서에 독소 조항을 빼준다거나, 설계 문서를 대신 작성해 주기도 하고요. 업무 이해도가 높은 유능한 선배가 곁에 있는 셈이에요.

솔루션을 적용하기 전후 차이가 극명할 것 같아요.

우선 업무 효율성을 놀라울 만큼 극대화시킬 수 있어요. 보통 AI를 사용하면 업무의 20%를 절감할 수 있다고 하잖아요. 포티투마루 솔루션은 그 이상이에요. 전문가가 이틀에서 일주일씩 걸리는 일을 포티투마루 모델은 1시간 만에 해냅니다. 나아가 잠재된 리스크를 관리할 수 있다는 차원에서 엄청난 이점이 있어요. 사람이 리스크를 관리할 경우, 정해진 것만 체크하기 쉽거든요. 그런데 AI는 사람이 예측하지 못한 것을 잡아낼 수 있어요. 작게는 계약서에서 누락된 부분부터 기업 내 잠재된 치명적인 문제, 심지어 예상치 못한 자연재해까지. 기존 생성형 AI와 다른 차원의 기술이라고 해도 과언이 아닐 거예요.

업무 방식 자체를 바꾸는 솔루션이네요. 어떻게 가능한 걸까요?

핵심은 딥러닝이에요. 딥러닝 기술이 처음 나온 2012년 이전에는 개발자가 예상되는 문제를 정의해야 했어요. 개발자의 지적 능력이나 상상력을 못 벗어났죠. 그런데 지금의 딥러닝은 사람이 예상하지 못한 영역으로 나아가요. 사람이 뻔한 것들을 조합해 왔다면, AI는 엉뚱한 것들을 다 넣어보고 생각하지 못한 무언가를 발견해요. 가까운 예로, 2024년 4월 중동을 덮친 홍수는 사람이 예측할 수 있는 것이 아니었잖아요. 건조한 사막 기후에 배수로도 없는 지역인데, 기후변화의 영향으로 별안간 폭우가 오니까 곳곳에 피해가 속출했던 거거든요. 딥러닝 AI 솔루션은 중동의 홍수처럼 사람이 예측하지 못하는 잠재적 리스트를 찾아낼 수 있어요.

기업의 미래를

함께 고민하는 AI 컨설팅

포티투마루는 화려한 수상 경력을 자랑하는 기업이죠. 국내외로 주목받게 된 계기가 무엇이라 생각하시나요?

아무래도 포티투마루의 솔루션이 상용화에 용이하기 때문이라고 생각해요. 대표적으로 스탠포드대 주관 SQuAD 2.0 경진대회에서 구글과 공동 1위를 차지한 성과가 있는데요. 포티투마루의 AI 모델이 단순히 답변 제공을 넘어 복잡한 문맥과 질문 의도를 파악할 수 있다는 점에서 좋은 평가를 받았어요. GLGE 경진대회 요약 분야에서도 1위를 차지했고요. 포티투마루의 자연어 처리 기술이 텍스트 생성과 요약에서도 뛰어난 성과를 낼 수 있음을 검증했죠. 이런 성과를 이룰 수 있던 배경에는 분야를 막론한 다양한 고객의 실제 문제를 해결해 온 결과라고 생각합니다.

기업 입장에서 낯선 AI를 실무에 적용하는 결정이 쉽지 않을 텐데요. 어떻게 가이드하는 편인가요?

전사적으로 AI 도입 의지가 있더라도, 현업 부서에서 AI를 도입하고 직접 사용하는 것에 부담을 느끼는 경우가 많아요. 큰 예산을 배정해서 모든 것을 한 번에 시작하기보다는 실무의 페인 포인트를 해결할 수 있는 작은 것에서부터 시작하는 것을 제안드려요. 성과를 직접 체험하고 단계별로 고도화해 나가는 방법이 가장 좋은 방법이죠. 저희가 실제 프로젝트 전에 컨설팅을 진행하는 것도 이런 이유기도 하고요.

컨설팅은 어떤 방식으로 진행되나요?

가장 먼저 고객의 페인 포인트를 명확히 파악해요. AI 플랫폼은 어떻게 쓰느냐에 따라 다양한 문제를 해결할 수 있거든요. 각 분야의 기업이 갖고 있는 고민을 들어보고, 저희 솔루션으로 해결하는 게 효율적인지 논의해요. 경우에 따라 AI를 도입하지 않아도 될 때도 있어요. 반복적이면서도 결과가 바뀌지 않는 일은 AI보다 사람이 하는 게 나아요. 가령 누군가의 생일이 언제인지에 대한 답은 바뀌지 않잖아요. 고정된 결괏값 말고 지속적으로 변화한다거나, 그것을 통해 새로운 답을 추론해야 할 경우는 적합하죠. 때론 연구가 이뤄지고 있는 기술을 논의드리면서, 2~3년 뒤 발전된 AI 솔루션 적용 가능성도 이야기해요. 그럴 때는 데이터를 정비해 놓고, 적합한 기술이 나왔을 때 바로 적용할 수 있게끔 가이드합니다.

상담 시 가장 많이 받는 질문은 무엇인가요?

대체로 많은 분이 현업에 적용하기 위한 실질적인 요소를 궁금해하시죠. 실제로 얻을 수 있는 효율성, 비용 절감 효과나 우리 업계에 적합한지, 데이터 보안은 지켜지는지, 기존 내부 시스템과의 통합 문의가 많습니다. 이런 부분들은 컨설팅을 통해 개선 효과를 정량적으로 제시하고, 경량화된 모델을 통해 우수한 보안과 특수한 산업에 맞춘 솔루션을 제안드리죠. 더불어 API 및 다양한 통합 옵션을 제공하고 있어요.

딥러닝 AI 기술의 최전방에 서 계신 만큼, 기대하고 계신 기술이 있나요?

멀티 모달입니다. 언어, 이미지, 영상, 음성이 결합돼서 움직이는 분야를 지칭하죠. 저희 분야에서 업무적으로 접목시킨 사례는 대부분 ‘글’의 형태거든요. 멀티 모달로 발전하게 되면 그래프, 차트, 도면 같은 자료를 이해하고 분석할 수 있게 돼요. 지금의 AI가 문서 초안만 작성한다면, 발전한 멀티 모달은 그래프는 물론 설계 도면까지 직접 그릴 거예요. 장기적으로 보면 LLM(large language model)에서 LAM(large action model)으로 나아갈 거라고 봐요. 인공지능이 자체적으로 지금 일어나는 일을 이해하고 미래를 추측해서 판단하는 거죠.

누구든 질문하면

답을 얻는 세상을 꿈꾸며

어떤 기업이 포티투마루의 솔루션을 도입하면 좋을까요?

기업 내에 데이터가 많지만, 정리되지 않아 활용이 어려운 곳에 추천해요. 포티투마루는 기업 내 대규모 문서나 데이터베이스를 활용할 수 있게 만들어 주거든요. 컨설팅부터 도입까지 한 번에 진행되는 원스톱 서비스를 이용하면 간편히 문제를 해결할 수 있죠. 특히 법률, 금융, 제조업 등 시간 민감성이 높은 산업에 적용할 경우 효율을 극대화할 수 있습니다.

솔루션을 적용한 뒤 업무의 효율을 높인 고객사 사례를 들려 주세요.

조선해양과 엔지니어링 분야 사례가 있어요. 대형 선박을 설계하고 고객의 요구에 대응하기 위해서는 최소 20년 경력의 베테랑과의 2주 정도의 리뷰가 필요한데요. AI 솔루션 도입 이후 1~2일이면 처리할 수 있게 됐습니다. 또한, 주니어급 인력도 이 업무를 처리할 수 있게 되었다는 것도 큰 장점이에요. 가장 보람 있던 순간은 역시 추가 고도화 프로젝트를 고객사에서 먼저 제안해 주실 때죠. 서비스를 사용하고 업무 효율을 직접 체감하신 분들께서 2차, 3차 고도화를 제안해 주시고 좋은 피드백을 주실 때 가장 뿌듯했어요.

글로벌에서 주목받는 만큼, 해외에서도 서비스를 출시하셨다고요.

영국과 중동에 출시한 생성형 AI 기반의 SaaS 솔루션 사이트버니(SiteBunny)가 있습니다. 쉽게 말하자면 홈페이지를 대체하는 서비스죠. 일반적인 홈페이지는 접속 후 이것저것 클릭해 보면서 자료를 찾아야 하잖아요. 정보가 업데이트되지 않았거나, 페이지 내 숨겨져 있다면 찾는 데에 시간이 오래 걸리고요. 이때 회사 정보를 모두 알고 있는 사람에게 물어보게 될 텐데요. 사이트버니가 그 역할을 해 주는 거예요. 회사에 대한 모든 정보를 알고 있기 때문에 질문에 정확한 답을 줘요. 저희는 훗날 세상에 있는 모든 홈페이지가 없어질 거라고 봐요. 사이트버니 같은 AI 솔루션이 홈페이지의 역할을 대체하겠죠.

가장 최근에 업데이트되거나 출시된 솔루션이 있나요?

최근 생성형 AI 에이전트인 도큐에이전트42 솔루션을 출시했어요. 기업 내 보유 중인 다양한 유형의 문서를 학습시키고, 누군가 물어보면 전문가처럼 답변해주는 시스템이에요. 모든 분야에 적용 가능할 뿐만 아니라, SaaS 형태로 서비스 확장도 가능하죠. AI 도입 시 문턱이 되는 것 중 하나는 높은 비용과 실무진의 협조가 필요하다는 점인데요. 도큐에전트42는 저비용으로 AI 솔루션 도입이 가능하고, 플러그인 프로그램을 설치하듯이 사용할 수 있어 간편해요. AI 솔루션을 사내에 적용하고 싶을 때 단계적으로 도입할 수 있다는 이점이 있어요.

포티투마루가 해결하고 싶은 최종적인 문제는 무엇인가요?

초거대 언어 모델, 생성형 AI 등. 기술의 발전이 급속도로 이뤄지면서, 정보 불균형을 넘어 디지털 문맹이나 기술 소외 계층이 생겨나고 있죠. 포티투마루는 누구에게나 단순히 정보를 제공하는 것을 넘어, ‘세상의 모든 질문에 대한 해답’이라는 비전을 갖고 있어요. 정보 비대칭 문제를 해결하고, AI 기술로 더 공정하고 효율적인 사회를 만드는데 기여하고자 합니다.