국내 오픈 데이터센터 기술 행사인 ‘OCP 코리아 테크 데이 2025’가 8월 12일 서울 강남구 코엑스에서 열렸다. 오픈 컴퓨트 프로젝트(OCP) 재단이 한국에서 처음 공식 개최한 이번 행사는 ‘AI의 미래를 이끌다(Leading the Future of AI)’를 주제로 데이터센터, 클라우드, 엣지컴퓨팅, 반도체 등 핵심 기술 분야를 다뤘다. 이날 행사와 맞물려 국내 AI 스타트업들이 잇달아 신제품 출시 소식을 알리면서 국내 AI 산업의 기술 저변이 넓어지고 있음을 보여줬다.
보안 AI 회의록과 영상 관제 솔루션, 나란히 상용화
AI 기반 보안회의록 서비스를 개발하는 망고노트(대표 조대형)는 8월 12일 자사 서비스 ‘망고노트(MangoNote)’의 베타 버전을 출시했다고 밝혔다. 이 서비스는 회의 데이터를 클라우드에 저장하지 않고 사용자의 로컬 PC에만 보관하는 방식으로 설계됐으며, 개발사조차 회의 내용을 열람할 수 없는 구조적 보안을 강조했다. 실시간 음성인식(STT) 기능을 갖춘 메모장 형태로 작동해 회의 중 간단한 메모만 남겨도 AI가 전체 맥락을 분석해 정식 회의록을 자동으로 생성해 준다. 영어와 일본어 등 외국어 회의에 대한 자동 통번역 기능도 기본으로 탑재됐다. 망고노트 측은 오는 9월 중 웹버전의 무제한 무료 서비스를 추가로 선보일 계획이라고 설명했다.
AI 경량화 전문기업 노타(대표 채명수)도 같은 날 비전언어모델(VLM) 기반 실시간 영상관제 솔루션 ‘NVA(Nota Vision Agent)’의 상용화를 발표했다. 특정 사물을 인식하는 수준을 넘어 사물 간 관계, 작업 절차 위반, 복합적 위험 신호 등을 실시간으로 탐지하고 대응하는 차세대 관제 솔루션이다. 노타 측은 생성형 AI 기술을 산업 현장에 실제로 적용해 상용화까지 마친 사례로는 국내 최초이며, 세계적으로도 드문 사례라고 설명했다. 산업안전, 선별관제, 지능형교통체계(ITS), 유통, 보육 등 여러 산업 분야에 적용 가능성을 확인했으며, 국내외 파트너십을 통해 현장 검증과 상용화를 확대하고 있다고 덧붙였다. 채명수 대표는 생성형 AI 기술을 실제 산업 현장에 적용해 인명 피해를 줄이고 안전성을 강화하는 데 실질적 가치를 제공하겠다며, 산업용 AI 관제 분야의 글로벌 표준이 되는 것이 목표라고 밝혔다. 노타는 이번 상용화를 발판으로 중동과 북미 시장 진출도 추진할 계획이다.
AI 반도체 스타트업들의 그간 성과도 재조명
이번 행사를 계기로 국내 AI 반도체 스타트업들의 최근 기술 성과도 다시 주목받았다. AI 반도체 전문 스타트업 퓨리오사AI가 개발한 2세대 추론 가속기 ‘레니게이드’는 지난 7월 LG AI연구원의 대규모언어모델(LLM) ‘엑사원’에 도입이 확정됐다. 양사는 약 8개월간 엑사원 3.5 모델의 파일럿 환경에서 성능을 검증했으며, 그 결과 레니게이드가 기존 GPU 대비 전력당 성능을 2.25배 향상시킨 것으로 나타났다. LG AI연구원의 프로덕트 유닛장은 여러 GPU와 NPU를 검토한 결과 레니게이드가 가장 적합하다고 판단했으며, 탁월한 성능과 함께 인프라 총소유비용(TCO)을 획기적으로 절감하고 모델 지원 과정도 매우 빠르고 용이했다고 평가했다고 전해졌다. LG AI연구원은 조만간 레니게이드 기반 기업용 엑사원 솔루션을 선보일 예정이며, 외부 고객용 서비스뿐 아니라 LG그룹 계열사 내부 AI 서비스에도 활용할 방침이다.
AI 반도체 스타트업 리벨리온은 자사의 데이터센터용 AI 반도체 ‘아톰(ATOM)’을 탑재한 카드가 국내 AI 반도체 스타트업 가운데 최초로 PCIe 5.0 지원 공식 검증을 통과한 바 있다. 국내에서 이 검증을 통과한 기업은 삼성전자, SK하이닉스에 이어 리벨리온이 세 번째다. PCIe 5.0은 이전 세대인 PCIe 4.0 대비 최대 2배 빠른 데이터 전송 속도를 지원하는 차세대 인터페이스 표준으로, 대규모 AI 워크로드를 처리하는 데이터센터에서 중요성이 커지고 있는 기술이다.
기술 검증에서 상용화 단계로
업계에서는 국내 AI 반도체·솔루션 스타트업들이 개별 기술 검증을 넘어 실제 대기업 서비스 도입과 산업 현장 상용화 단계로 이동하고 있다는 점에 주목하고 있다. 퓨리오사AI의 사례처럼 국내 대기업이 자국산 AI 반도체를 실제 서비스에 채택한 사례가 늘어나면, 글로벌 GPU 기업에 의존해온 국내 AI 인프라 생태계에도 변화가 나타날 수 있다는 전망이 나온다. 노타와 망고노트 등 AI 솔루션 스타트업들도 국내 상용화 경험을 바탕으로 중동, 북미 등 해외 시장 진출을 추진하고 있어 향후 성과가 이어질지 관심이 쏠린다.
