유니콘팩토리

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다. ] AI(인공지능)·클라우드 소프트웨어 전문기업 오케스트로가 기업의 AI 인프라 운영 효율을 높이기 위한 AI 추론 운영 플랫폼 '콘체르토 AI'를 출시했다고 29일 밝혔다. 최근 생성형 AI 도입이 확산하면서 기업 AI 인프라의 핵심 과제가 GPU(그래픽처리장치) 확보에서 추론 운영 효율화로 이동하고 있다. AI 챗봇, 업무 자동화 에이전트, RAG(검색증강생성) 서비스 등 상시 운영되는 AI 서비스가 늘어나면서 추론 연산 수요도 급증하고 있는 추세다. 특히 에이전트형 AI 환경에서는 하나의 요청이 여러 차례의 모델 호출과 반복 연산으로 이어져 추론 부하가 더욱 커질 수 있다. 오케스트로는 이러한 문제를 해결하기 위해 콘체르토 AI를 개발했다. 해당 플랫폼은 대규모 추론 요청을 분산 처리하고 GPU와 NPU(신경망처리장치) 등 가속기 자원을 작업 특성에 맞춰 배분함으로써 보유 인프라의 활용 효율을 높이는 것이 특징이다.

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다. ] AI(인공지능)·클라우드 소프트웨어 기업 오케스트로가 행정안전부와 한국지능정보사회진흥원(NIA)이 추진하는 '2026년 클라우드 네이티브 상세설계' 1·2차 사업을 모두 수주하며 공공 클라우드 전환 시장 공략에 속도를 낸다. 오케스트로는 이번 사업을 통해 올해 클라우드 네이티브 전환 대상에 포함된 7개 공공기관의 핵심 설계 컨설팅을 수행한다고 20일 밝혔다. 회사는 각 기관의 업무 특성과 시스템 구조를 분석한 뒤 마이크로서비스 아키텍처(MSA), 컨테이너, 데브옵스(DevOps) 등 핵심 기술을 적용한 상세설계를 맡게 된다. 애플리케이션 설계뿐 아니라 데이터베이스(DB), 인프라, 보안 체계 구축까지 포함해 안정성과 확장성을 고려한 클라우드 전환 전략을 제시할 계획이다. 1차 사업 대상에는 △행정안전부 '상훈시스템' △소상공인시장진흥공단 '소상공인24' △한국토지주택공사(LH) '렌트홈' △한국수자원공사 '국가상수도정보시스템' 등이 포함됐다.

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다. ] AI·클라우드 소프트웨어 기업 오케스트로가 해외 GPU(그래픽처리장치) 의존도를 줄이고, 국산 AI 반도체 생태계 확산을 위한 정부 R&D(연구·개발) 과제의 주관기관으로 선정됐다고 8일 밝혔다. 이날 회사는 과학기술정보통신부와 정보통신기획평가원(IITP)이 주관하는 'AI 반도체 특화 클라우드 네이티브 SW(소프트웨어) 스택 및 모델 허브 기술 개발' 과제를 맡게 됐다고 밝혔다. 해당 과제는 총 112억5000만원 규모로 올해부터 2029년까지 4년간 추진된다. 구체적으로 이번 사업은 국산 NPU(컴퓨팅신경망처리장치)와 PIM (D램 메모리에 연산이 가능한 프로세서 기능을 더한 미래형 반도체) 등 차세대 AI 가속기가 범용 클라우드 환경에서도 최적의 성능을 발휘할 수 있도록 클라우드 기반 운영 체계를 구축하는 것을 목표로 한다. 오케스트로는 이번 과제를 통해 AI 반도체 특화 클라우드 네이티브 소프트웨어 스택을 고도화한다.