사내 앱·데이터 활용 생성형 AI 및 RAG 서비스 제공
[데이터넷] 생성형 AI에게 “팀장에게 휴가가 필요하다는 사실을 효과적으로 알리는 내용을 작성하라”고 명령하면 AI는 대규모 언어모델(LLM)을 통해 입력된 텍스트를 분석하고, 사용자 정보를 생성, 요약, 변환, 추출해 “팀장님, 지난 몇 달 동안 매우 생산적으로 열심히 일했기 때문에 휴가가 필요합니다”라는 답을 작성한 후, 텍스트 문서 혹은 메일 등 사용자가 지정한 형식으로 사용자에게 전송한다. 여기에 글머리 기호, 번호 매기기 등 서식도 포함해서 완성된 문서로 전달되고, 즉시 업무에 적용할 수 있다.
오라클의 ‘OCI 생성형 AI 서비스’ 소개 페이지에서 이 서비스의 활용 사례를 예시로 소개한 내용이다. OCI 생성형 AI 서비스는 OCI 슈퍼클러스터와 통합돼 기업이 자체 데이터를 활용해 안전하면서도 비용효율적인 방식으로 생성형 AI 서비스를 개발·운영하도록 지원한다.
API를 통해 제공되는 완전 관리형 서비스인 OCI 생성형 AI 서비스는 다용도 언어 모델을 활용해 글쓰기, 요약, 채팅 등 광범위하게 사용할 수 있다. 각종 문서와 보고서 요약은 물론이며, 마케팅 카피 작성, 제품 설명 초안도 작성할 수 있다. 다른 문제나 언어로 콘텐츠를 재작성 할 수 있으며, 고객과의 채팅 로그와 고객 지원 티켓 등의 의도를 파악, 분류할 수도 있다.
오라클은 21일 서울 삼성동에서 기자간담회를 갖고 OCI 생성형 서비스를 포함한 오라클의 데이터 및 AI 전략을 소개했다. 이 행사에서 오라클은 기술 스택 전반의 모든 레이어마다 AI 솔루션을 제공하는 ‘풀 스택’ 전략을 통해 기업 AI 여정을 촉진한다고 강조했다.
나정옥 한국오라클 부사장은 “현재 비즈니스의 핵심이 ‘데이터’에서 AI 기반 ‘분석’으로 변화하고 있는 가운데, 오라클은 완전하고 통합된 데이터·AI 포트폴리오의 일부로서 ▲AI 인프라 ▲애플리케이션 ▲AI 서비스 ▲데이터 플랫폼과 유기적으로 작동하는 ‘OCI 생성형 AI 서비스’를 제공한다”고 밝혔다.
노코드 방식 RAG 앱 개발 지원
이 간담회에서는 OCI 생성형 AI 서비스 및 에이전트 RAG 서비스에 대한 상세한 설명과 함께 김태완 상무의 데모 시연도 진행됐다. 김태완 상무는 OCI 생성형 AI 서비스에서 임베딩, 프롬프트 작업 및 자동 코드 생성 등을 통해 애플리케이션 개발을 효과적으로 지원하는 기능, 미세조정을 통한 모델 맞춤화 및 모델 성능 관리 기능을 설명했다.
오라클의 AI 기술 스택 중 AI 서비스 레이어에서 제공하는 것은 ‘OCI 생성형 AI 에이전트 RAG 서비스’로, 노코드 방식의 검색 증강 생성(RAG) 애플리케이션 개발을 가능하게 한다. 이 서비스는 라마 2(Llama 2), 코히어(Cohere) LLM 미세조정 및 추론 서비스 및 데이터 플랫폼과 결합 가능한 RAG를 제공한다.
RAG 서비스는 사내 데이터에 근거한 자연어 답변과 함께 참조 문서 정보를 제공해 질문에 대한 정확한 결과를 도출할 수 있다. 예를 들어 ERP, HCM, CX, 데이터 레이크 등 다양한 기업 내부 데이터를 활용하며, 여러 데이터 사일로를 동시에 쿼리할 수 있다. 사용자는 해당 데이터가 저장되는 방법이나 위치를 알 필요가 없으며, 정적 보고서, 오래된 인덱스, 동적 데이터 저장소에서도 최신 정보를 사용해 결과를 제공한다.
오라클이 제공하는 AI 기술 스택 중 애플리케이션 레이어에서는 생성형 AI를 내재화한 퓨전(Fusion) 애플리케이션, 데이터 플랫폼에서는 AI를 내장한 자율운영 데이터베이스와 MySQL 히트웨이브(MySQL Heatwave) 및 오라클 데이터베이스 23c의 벡터 지원 기능 등을 제공한다.
나정옥 부사장은 “현재 비즈니스의 핵심이 ‘데이터’에서 AI 기반 ‘분석’으로 변화하고 있는 가운데, 오라클은 기술 스택 전반의 모든 레이어마다 AI 솔루션을 제공하는 ‘풀 스택’ 전략을 통해 기업 AI 여정을 촉진한다”고 강조했다.
