[AX 혁신의 주역]래블업, GPU 분할 가상화로 AI 워크로드 효율 극대화

[K-AI에 묻는다] '엔비디아 GTC' 7년 차…래블업이 말하는 요즘 AI

KT, 래블업과 GPU 구독 서비스 협력…"AI 생태계 확장"

'조단위 투자' LLM 개발, 비용 절감 위해 래블업 '맞손'

래블업 "우린 돈버는 AI기업···AI비용 다이어트 해줘요"

[AI와 디지털전환] 딥시크 사례가 말하는 글로벌 AI 경쟁의 미래

[신년 인터뷰] “AI로 파생된 신시장, ‘냉각’에 주목하라”

[신년 인터뷰] “AI 시장 격화될수록 엔비디아는 웃는다”

신정규 래블업 대표 "2025년에는 'AI 훈련' 넘어 '서비스 지원'으로 기술 확대"

[신년 인터뷰] “AI 이슈는 도돌이표, 그래도 2025년이 기대되는 이유”

래블업, 미국 쿠버콘에서 ‘백엔드닷AI’ 업그레이드 UI 공개

래블업, 엔비디아 AI 서밋 재팬 참가해 '백엔드닷AI' 선봬

래블업 신정규 대표 “AI의 대항해 시대가 끝나고 있다”

엔비디아도 반한 韓스타트업 래블업 “해외 진출 가속화"

래블업, 2024 AIoT 국제전시회서 AI 애플리케이션 상용화 촉진하는 ‘Backend.AI’ 플랫폼 알린다... “AI 대중화 촉진!”

AI가 명품 짝퉁 잡고, 콩팥 수술도 척척…국가대표 스타트업 모였다

래블업, K-Global@실리콘밸리 2024서 엔터프라이즈 백엔드 플랫폼 ‘Backend.AI’ 선보여... “미국 시장 공략 본격화한다!”

래블업, 기술 콘퍼런스 lab | up > /conf/4 개최··· ‘AI 기술 확장에 역점’

KT, 파트너사와 함께 ‘글로벌 빅테크 전시행사’ 간다

Backend.AI - AI 인프라를 바꿀 래블업의 전략

AI 혁신의 중심 된 '엔비디아 GTC 2024', 국내 주요 참여 스타트업은?

AI 바람 탄 래블업, 엔비디아 GTC2024 참가

래블업, AMAX와 AI 인프라 플랫폼 글로벌 공급 협약

MWC 2024 개막…통신업계 최대 화두도 AI

올거나이즈·래블업 "실제 금융권이 가진 AI 수요와 문제는"

CES서 생성 AI 앱 통합 플랫폼 '젠AI 데스크톱' 공개 - 디지털데일리

한국생성AI파운데이션(KGAF), ‘KGAF 출범식 및 사업설명회’서 13개 회원사 사업·데모발표 진행... “한국 생성 AI 생태계 기업 동반 성장 기대!”

생성형 AI 인프라 플랫폼 뜬다... "GPU서버·고성능 스토리지·AI SW 통합 전진배치"

[제1회 인공지능 신뢰성·품질 대상]우수상-래블업 '백엔드닷에이아이

[AI BUS 2023] 김정묵 래블업 COO “거대 AI 시대, 고효율성 확보해야”

AI 반도체 친구 ‘래블업’ 美 무대 선다… 초거대 시대 칩 지원 기술 공개

AI가 비싸? 내가 해결해줄게! ‘갓성비’ 자신한 스타트업 3곳

[오픈테크넷서밋2023] 래블업, "LLM 전성시대, 누구나 만들 수 있다"

"GPU 가상화기술로 초거대 AI 개발비용 절감" [잇피플] 

래블업, 독일서 韓 LLM 깃발 흔들었다

“AI는 빅테크 기업 전유물? 이제는 아냐”… 연합체 꾸리는 기업들

래블업, IFA 2023 참가, 백엔드닷에이아이로 개발한 LLM 서비스 해외 첫 공개

KSC 2023 개최··· '인공지능 시대의 슈퍼컴퓨팅 미래 논하다'

기업 맞춤형 AI 챗봇 개발 빨라진다… 래블업, 언어모델 미세조정 자동화 기술 공개

래블업, “오픈소스 LLM 활용·서비스 자동화는 백엔드닷AI가 제격”···파이콘한국 2023에서 시연

래블업 "백엔드닷에이아이로 LLM 개발·파인튜닝 크게 간소화"

과기정통부-구글 주최 'AI위크 2023' 행사 개막

[한국생성AI파운데이션] 신정규 래블업 대표, "AI 민주화 꿈꾼다! 선순환 구조 구축해 KGAF 구성원 모두의 발전 유도!"

'나똑똑 AI'만 넘치는 한국…리더 10인이 제안한 생존법 [AI 패권전쟁]

서울대 시스템반도체 진흥센터, ‘2023년 제 1회 상생포럼’ 개최

AI 골드러시에 리바이스가 되려는 '래블업'

챗GPT도 못건드는 AI 스타트업 베스트3

KT, AI 반도체·로봇 등 초격차 스타트업 성장 지원

GPU 효율 400% 늘려주는 '이 기술'...105억 뭉칫돈 몰렸다

AI 개발 플랫폼 기업 래블업, 105억원 규모 투자 유치

래블업, ‘MWC 2023’ 참가, 초거대 AI 모델 서비스 경쟁력 높일 AI 연구개발 플랫폼 선보여

[#Let's 스타트업] "GPU 비용 절감 솔루션으로 원활히 AI 지원"

래블업, CES 2023서 차세대 AI 연구개발 플랫폼 소개…"대규모 AI 서비스 지원"

네카오가 반한 K-스타트업 26곳 CES 진격…전세계 이목 쏠린다

“값비싼 초거대AI 뒤로 ‘가성비’ 모델 뜬다”

NIPA, 오픈소스 활성화·헬스케어 기업 해외진출 논의...'디지털 혁신 리더스 밋업'

비말 전파 경로 AI로 분석…정부, 감염병 빅데이터 플랫폼 구축

인공지능 좀 더 쉽게 개발한다!...과기정통부-ETRI, No-code 기반 AI 응용 소프트웨어 개발 도구 공개

[디지털 의료 현황 점검] 질병 ‘예측’의 시대가 왔다

AI개발 3대 걸림돌인 전력·비용·성능 문제, SW로 해결 가능

[오픈테크넷2022] 'AI 민주화' 기여하는 래블업 '백엔드.AI'는 무엇?

인공지능 기술의 민주화-신정규 래블업 대표

효성인포-래블업, GPU 기반 AI 플랫폼 시장 공략 강화

엔비디아가 주목하는 한국 스타트업 AI 뒤에 '래블업' 있다

[인터뷰] AI 활용한 신규 감염병 대응시스템 개발 시작..."보편적 거리두기 2m 한계 넘는다"

퓨어스토리지, 국내 최초 AI 기술 파트너로 래블업 선정

Backend.AI, ARM 지원 공개, 5G와 저전력 AI 시대 선도

AI 양극화 벗어나 모두가 개발에 집중할 수 있는 환경 제공할 것

래블업, 아태지역 최초 엔비디아 DGX-레디 소프트웨어 인증 획득

신정규 래블업 대표, “지금은 대규모 연산자원의 시대”

래블업, AI 개발 플랫폼 GS인증 1등급 획득

[소프트웨이브 2020]200여개 SW기업 참여...국내 최대 전시서 신기술 선보인다

[제7회 대한민국 SW제품 품질대상]우수상-래블업 '백엔드(Backend).AI'

"필요한 기능만 골라쓰자"...멀티 클라우드 지원 속속 등장

과기정통부, 대기업 협력 스타트업 육성 지원 16개사 선정

테라텍·래블업·이호스트ICT, 'AI 전용 GPU 클라우드 사업' 공동협약 체결

래블업, 일반 소비자용 AI 클라우드 플랫폼 테스트

래블업, 머신러닝 개발에 최적화된 클라우드 플랫폼 도전한다

테라텍·시큐아이·래블업, AI 데이터센터·운영 시장 공략 맞손

포스텍-래블업, AI 연구위해 손잡다

엔비디아 ‘GTC 2019' 개최…국내 유망 AI 스타트업 총출동

엔비디아, 래블업과 AI 개발 지원 프로그램 ‘저스트 모델 잇’ 진행

[4차산업혁명] AI개발 꿈나무, 여기여기 붙어라~

AI 스타트업 육성 프로그램, NVIDIA Inception Program

‘공개SW’ 하다 만난 사람들…“편하게 AI 개발하세요”

엔비디아, AI 스타트업 대상 '인셉션 어워드' 개최

“아이디어만 가지고 떼돈 버는 일은 없다” 기술 스타트업들의 성공기

래블업 “GPU 공급 홍수, 딥러닝 자동화 시대 연다”

들어나 봤니? AI 시장을 재패할 능력자_'래블업'에 주목하라

래블업-커먼컴퓨터, AI 블록체인 프로젝트 ’AI 네트워크’ 설립

상반기 구글 스타트업 지원프로그램 참가 6개사 졸업

KEB하나은행, 생산적 금융 실천'1Q 애자일 랩' 6기 출범

구글 캠퍼스 서울, 스타트업 5곳 신규 입주사로 선정

갈수록 힘 커지는 구글…비결은 블랙홀 같은 기술생태계

머신러닝 분산처리는 ‘래블업’에 맡기세요

래블업, 코딩 교육·머신러닝 관리 플랫폼 출시

어메이저와 래블업이 들려주는 ‘캠퍼스 서울 카페에서 창업을 시작해 입주사가 되기까지’

래블업, 머신러닝 기반으로 분산처리 솔루션 지원

케이큐브벤처스·스톤브릿지VC, ‘래블업’에 20억 공동 투자

12월 2일 공개SW 데이 행사 다채롭게 열려

Backend.AI 관련 기사

**\- 미국 법인 설립 이후 첫 북미 전시회 참가, 글로벌 AI 인프라 시장 본격 공략**

![gtc25-social-drmk-orangic-exhibitor-reg-now-li-1200x628.jpg](https://cdn.lablup.com/gtc25_social_drmk_orangic_exhibitor_reg_now_li_1200x628_7dbc9fe7d1.jpg)

AI 인프라 플랫폼 기업 래블업이 오는 3월 17일부터 21일까지 미국 새너제이에서 열리는 '엔비디아 GTC 2025'에 참여한다고 밝혔다. 올해 초 미국 법인 'Lablup USA Inc.'을 설립한 래블업은 이번 GTC 2025를 북미 시장 진출의 신호탄으로 삼고, 백엔드닷에이아이(이하 Backend.AI) v25.3 업데이트와 함께 클라우드 내결함성 솔루션 'Backend.AI Continuum'을 정식으로 선보인다.

래블업은 2023년부터 글로벌 시장 진출을 위한 준비를 본격화했으며, 올해 초 미국 실리콘밸리에 현지 법인을 설립하며 해외 진출을 가속화했다. GTC 2025는 미국 법인 설립 이후 래블업이 참가하는 첫 북미 지역 전시회로, 이번 행사를 통해 래블업은 글로벌 AI 인프라 시장 공략을 위한 핵심 제품들을 집중적으로 소개할 예정이다.

'Backend.AI Continuum'은 클라우드 API 기반 서비스를 이용하는 기업들이 네트워크 장애나 서비스 중단 상황에도 중요 업무를 지속할 수 있게 해주는 혁신적인 솔루션이다. 이 기술은 평상시 클라우드와 온프레미스 환경 사이에서 지능형 중개 역할을 수행하다가, 클라우드 접속 장애 발생 시 자동으로 로컬 자원으로 전환해 API 호출과 처리를 끊김 없이 유지한다. 이를 통해 클라우드의 유연성을 간직하며 온프레미스의 안정성을 동시에 확보할 수 있다.

스마트 시티와 같은 환경에서 Backend.AI Continuum의 가치는 더욱 빛난다. 인터넷 연결 장애로 클라우드 API 접근이 불가능해져도, 교통 관제, 보안 모니터링, 비상 대응 시스템이 로컬 환경에서 중단 없이 작동한다. 이는 기존 클라우드 전용 솔루션과 비교해 복구 시간을 획기적으로 단축하고 서비스 안정성을 크게 높인 혁신이다. 실시간성과 안정적인 동작, 정확한 제어가 보장되어야 하는 ▲로보틱스 분야, 서비스 결함이 치명적인 영향을 미칠 수 있는 ▲금융 분야 ▲헬스케어 분야 ▲공공 안전 분야와 같은 영역에서도 Backend.AI Continuum이 안정적인 서비스를 제공할 수 있다는 것이 래블업의 설명이다.

특히, 글로벌 기업들이 클라우드 서비스 의존도가 높은 만큼, Backend.AI Continuum은 북미 시장 공략의 핵심 제품으로 자리매김할 전망이다. 래블업은 현재 미국 내 여러 잠재 고객들과 파일럿 프로젝트를 진행 중이며, 금융 및 헬스케어 산업을 중심으로 빠른 시장 확대를 기대하고 있다.

또한 래블업은 이번 GTC 2025에서 엔비디아 가속 컴퓨팅으로 구동되는 개인 슈퍼컴퓨터용 Backend.AI를 소개한다. 엔비디아 'DGX 스파크 (DGX Spark)'와 같은 개인용 슈퍼컴퓨터 제품 또는 '젯슨 오린 나노 (Jetson Orin™ Nano)' 시리즈 모듈 기반 엣지 컴퓨팅 장치에서 실행되는 경량 버전의 Backend.AI는 기존 Backend.AI의 핵심 기능을 소비자 책상 위에서 사용할 수 있도록 최적화한 제품으로, 에지 AI 컴퓨팅 환경에서도 고밀도·고집적 생성형 인공지능(Gen AI) 성능을 제공한다.

개인 슈퍼컴퓨터용 Backend.AI는 뛰어난 확장성과 성능에 더불어 사용자 친화적인 인스톨러와 WebUI Neo 인터페이스를 탑재, AI 서비스를 처음 사용·개발하는 초보자부터 전문가까지 편리하게 설치·사용할 수 있는 것이 특징이다. 래블업은 이 제품을 통해 북미의 개인 개발자 및 중소기업 시장도 적극 공략할 계획이다.

래블업은 GTC 2025 기간 동안 부스(#547)에서 Backend.AI Continuum과 개인 슈퍼컴퓨터용 Backend.AI의 라이브 데모를 진행하며, 특별 세션을 통해 엔비디아 생태계 내에서의 통합 사례를 발표한다. 또한 미국 현지 잠재 고객 및 파트너사를 대상으로 한 프라이빗 미팅도 다수 진행한다.

신정규 래블업 대표는 "GTC 2025를 통해 Backend.AI Continuum과 개인 슈퍼컴퓨터용 Backend.AI를 선보이게 되어 기쁘다"며 "Continuum은 클라우드 API 중단 상황에서도 AI 서비스의 연속성을 보장하는 UPS와 같은 역할을 하며, 개인 슈퍼컴퓨터용 Backend.AI는 엔비디아의 최신 에지 컴퓨팅 플랫폼을 활용한 AI 민주화에 기여할 것이다. 이 두 혁신을 통해 래블업은 클라우드부터 엣지까지 끊김 없는 AI 인프라 경험을 제공하는 글로벌 리더로 자리매김할 것"이라고 밝혔다.

이어 "미국 법인 설립은 래블업의 글로벌 확장 전략의 첫 단계로, 북미를 시작으로 유럽과 아시아 태평양 지역으로 비즈니스를 확대해 나갈 계획"이라며 "한국에서 검증된 AI 인프라 기술로 글로벌 시장에서도 래블업의 기술력과 혁신성을 인정받을 것으로 자신한다"고 덧붙였다.

래블업, 엔비디아GTC 2025에서 'Backend.AI Continuum' 및 개인 슈퍼컴퓨터용 Backend.AI 공개

![Lablup_KT MOU-01.jpg](https://cdn.lablup.com/Lablup_KT_MOU_01_9b3a9ab2ac.jpg)

원문: [KT, 래블업과 GPU 구독 서비스 협력…"AI 생태계 확장"](https://www.yna.co.kr/view/AKR20250227043700017)

(서울=연합뉴스) 조성미 기자 = KT\[030200\]가 인공지능(AI) 분야 스타트업 래블업과 그래픽처리장치(GPU) 클라우드 서비스(GPUaaS) 사업을 추진한다고 27일 밝혔다.

두 회사는 최근 세계적인 AI 전환 상황에서 수요가 높아진 GPUaaS 서비스를 공동 개발하고 조속한 시일 내에 서비스를 출시하기로 했다.

래블업은 AI 인프라 운영 관리 플랫폼을 개발하는 기업으로, 대표 상품인 백엔드닷에이아이 설루션은 아시아 태평양 지역에서 유일하게 엔비디아 DGX 시스템을 사용하기 위한 소프트웨어 검증을 받았다.

KT는 래블업이 고성능 컴퓨팅이 필요한 기업에 GPU 자원을 빌려주는 GPUaaS 서비스 사업을 함께 추진하기에 최적의 파트너라고 설명했다.

신정규 래블업 대표는 "운영 체제 단계부터 서비스까지 AI 설루션을 제공하는 자사 기술과 KT의 노하우를 결합해 기업 고객의 AI 전환을 지원하겠다"라고 말했다.

송승호 KT 전략·사업컨설팅부문 SPA본부장은 "기업 고객의 AI 전환을 도와줄 설루션을 위해 다수 파트너사와 협력하고자 한다"라며 "래블업과 힘을 모아 GPU가 필요한 많은 기업에 GPUaaS 서비스를 지원하겠다"고 말했다.

csm@yna.co.kr

> \- 클라우드 연결 장애 시 자동 로컬 전환 통한 AI 서비스 연속성 확보 기술 선보여  
> \- 금융, 헬스케어, 공공 안전 등 미션 크리티컬 분야 서비스 안정성 대폭 강화

AI 인프라 플랫폼 기업 래블업이 오는 3월 3일부터 6일까지 스페인 바로셀로나에서 열리는 세계 최대 이동통신 전시회 모바일 월드 콩그레스(MWC) 25에 3년 연속으로 참가한다고 밝혔다. 래블업은 이번 전시회에서 자사의 대표 제품 Backend.AI의 차세대 버전(v25.3)을 공개하며, 특히 클라우드 API 서비스의 연속성을 보장하는 '분산 내결함성' 기술을 핵심 혁신 기능으로 선보인다.

Backend.AI v25.3에 탑재된 새로운 분산 내결함성 기술은 클라우드 API 기반 서비스를 이용하는 기업들이 네트워크 장애나 서비스 중단 상황에도 중요 업무를 지속할 수 있게 해준다. 이 기술은 평상시 클라우드와 온프레미스 환경 사이에서 지능형 중개 역할을 수행하다가, 클라우드 접속 장애 발생 시 자동으로 로컬 자원으로 전환해 API 호출과 처리를 끊김 없이 유지한다. 이를 통해 클라우드의 유연성과 온프레미스의 안정성을 동시에 확보할 수 있게 됐다.

스마트 시티와 같은 환경에서 이 기술의 가치는 더욱 빛난다. 인터넷 연결 장애로 클라우드 API 접근이 불가능해져도, 교통 관제, 보안 모니터링, 비상 대응 시스템이 로컬 환경에서 중단 없이 작동한다. 이는 기존 클라우드 전용 솔루션과 비교해 복구 시간을 획기적으로 단축하고 서비스 안정성을 크게 높인 혁신이다.

이 외에도 서비스 중단이 치명적인 ▲금융 거래 시스템 ▲의료 모니터링 ▲공공 안전 분야 등에서 Backend.AI의 분산 내결함성 기술은 큰 가치를 발휘할 전망이다. 래블업은 내부 테스트를 통해 이 기술이 시스템 안정성을 대폭 향상시키는 것을 확인했으며, 현재 여러 기업들과 검증을 진행 중이다.

래블업은 **3홀(K-AI 얼라이언스 전시관)** 과 **7홀(#7A62)** 에서 클라우드 접속 장애 상황을 실시간으로 시뮬레이션하는 시연을 진행한다. 관람객들은 클라우드 서비스 연결이 끊겼을 때 Backend.AI가 즉시 로컬 환경으로 전환되어 서비스가 계속 운영되는 모습을 직접 체험할 수 있다.

이와 함께 딥러닝 모델 배포 솔루션 '빨리(PALI, Performant AI Launcher for Inference)'도 선보인다. 지난해 9월 공개된 PALI는 Backend.AI의 분산 내결함성 기술과 결합되어 인퍼런스 서비스의 안정성을 한층 강화했다.

래블업의 신정규 대표는 "Backend.AI v25.3의 새로운 분산 내결함성 기술은 클라우드 서비스 의존성에 따른 불안정성이라는 근본적인 문제를 해결하는 혁신"이라며 "클라우드와 로컬 환경을 지능적으로 연계하는 이 기술로 미션 크리티컬한 산업에서도 안심하고 클라우드 AI 기술을 활용할 수 있는 길이 열렸다"고 강조했다. 또한 "이번 MWC를 통해 글로벌 시장에 Backend.AI v25.3의 새로운 가치를 알리고, 향후 국내외 파트너십을 확대해 나갈 계획"이라고 덧붙였다.

래블업, MWC 2025에서 클라우드 API 서비스 연속성 보장하는 Backend.AI 신기술 공개

![PALI-demo-screenshot-1.png](https://cdn.lablup.com/PALI_demo_screenshot_1_2ceed51650.png)

래블업이 내년 1월 7~10일(현지시간) 미국 라스베이거스에서 열리는 세계 최대 IT·가전 전시회 CES 2025에 참가한다고 밝혔다. 전 세계 158개국 4300여개 기업들이 참여하는 CES에 2023년부터 3년 연속 참가한 래블업은 이번 행사에서 LVCC, North Hall, #9528에 부스를 마련하고 딥 러닝 모델을 쉽고 빠르게 서비스할 수 있는 토탈 인퍼런스 솔루션 PALI (Performant AI Launcher for Inference)를 선보인다.

PALI의 핵심 장점은 ▲NVIDIA NIM, Hugging Face, Kaggle 등 다양한 소스의 딥 러닝 모델 지원 ▲앱처럼 쉽게 실행하는 언어 모델, 이미지 생성 모델 등 최신 생성 AI 모델 ▲온프레미스 및 에어갭 환경에서도 쉬운 시스템 구축 및 운영 ▲Backend.AI의 강력한 기술력으로 NVIDIA GPU 하드웨어 성능 극대화 ▲직관적인 사용자/관리자 인터페이스로 편의성 제공 ▲어플라이언스 하드웨어 기반으로 유연한 확장성 보장 등으로, 고객은 PALI를 이용하여 최신 AI 모델을 비즈니스에 신속하게 적용할 수 있다.

이미 일본 시장에 판매되고 있는 PALI 제품군은 최신 AI 모델을 비즈니스에 신속하게 적용하고자 하는 기업들에게 이상적이다. PALI를 도입하면 개발자들은 모델 서빙에 필요한 복잡한 인프라 구축 과정 없이도 곧바로 AI 서비스 개발에 집중할 수 있으며, Backend.AI 플랫폼 위에서 압도적인 GPU 가속 성능과 유연한 확장성을 바탕으로 대규모 사용자를 대상으로 하는 고성능 AI 서비스를 손쉽게 구현할 수 있다.

래블업의 신정규 대표는 "AI 기술의 발전과 함께 다양한 규모와 분야에서 AI 서비스 및 어플리케이션 수요가 급증하고 있다." 며, "래블업의 이미 검증된 Backend.AI 의 기술력을 바탕으로 고성능, 고효율 인퍼런스 분야에서도 최상의 플랫폼 솔루션을 제공함으로서 AI 프로젝트 성공을 적극 지원하고자 한다. 앞으로도 래블업은 최첨단 AI 기술 개발과 제품 고도화를 통해 업계를 선도하는 AI 전문기업으로 성장해 나갈 것" 이라고 밝혔다.

![PALI-demo-screenshot-2.png](https://cdn.lablup.com/PALI_demo_screenshot_2_766d7ef839.png)

![PALI-demo-screenshot-3.png](https://cdn.lablup.com/PALI_demo_screenshot_3_1cf6194685.png)

![PALI-demo-screenshot-4.png](https://cdn.lablup.com/PALI_demo_screenshot_4_af331e36de.png)

래블업 CES 2025 3년 연속 참여, AI 확장성 강조한 신제품 PALI 선보인다

![lablup-sc24](https://cdn.lablup.com/lablup_sc24_719c153b8c.jpg)

인공지능 개발을 위한 올인원 엔터프라이즈 개발 및 서비스 플랫폼 기업인 래블업이 11월 17일부터 23일까지 미국 애틀랜타에서 열리는 슈퍼컴퓨팅 2024 (Supercomputing 2024, SC24)에 참가한다고 밝혔다.

SC24는 미국 컴퓨터 학회(ACM)와 IEEE 컴퓨터 학회가 1988년부터 매년 개최하는 최대 규모의 슈퍼 컴퓨팅 학회로 고성능 컴퓨팅(HPC),네트워킹, 스토리지 및 분석 분야의 최신 연구 및 기술을 공유하는 자리이다.

작년에 이어 두 번째로 해당 전시에 참가하는 래블업은 이번 행사에서 자사 AI 인프라 플랫폼 Backend.AI의 최신 버전인 24.12를 공개한다. 또한 Backend.AI 24.12 기반의 인퍼런스 솔루션 PALI를 다양한 AI 반도체에 최적화한 데모를 선보인다. 래블업은 2021년 엔비디아의 Grace CPU가 공개된 이후 곧바로 Grace 아키텍처에 대응한 새로운 Backend.AI 버전을 공개했으며, GH200 Grace Hopper 슈퍼칩에 대한 검증과 함께 엔비디아가 2024년 공개한 Blackwell 플랫폼에 대한 대응도 마쳤다. 또한 인텔과 파트너십을 맺고 6개월간의 협업을 통해 Backend.AI가 Intel Gaudi 2 및 Intel Gaudi 3 AI 가속기 플랫폼의 성능을 최대한 이끌어내도록 최적화했다. 래블업은 이번 SC24를 통해 PALI 기반으로 Intel Gaudi 2와 Intel Gaudi 3 AI 가속기 플랫폼 및 NVIDIA Grace Hopper 슈퍼칩에서 AI 모델을 운영하고 개발하는 데모를 선보이며, 동시에 PALI로 대규모 인퍼런스 서비스를 운영, 최적화 및 관리하는 기반 기술을 다양한 부스 세션을 통해 파트너사들과 함께 소개한다.

신정규 대표는 "래블업은 컴퓨팅을 가속하는 회사다. 막대한 컴퓨팅을 요구하는 AI 분야는 슈퍼컴퓨팅과 긴밀하게 결합되고 있다" 며, "AI, 가속 컴퓨팅, 스토리지, 네트워크, 양자컴퓨터 등 컴퓨팅의 최전선이 펼쳐지는 SC24에서 래블업의 앞선 기술력을 전세계와 나누고 오겠다" 고 포부를 밝혔다.

래블업, SC24에서 대규모의 GPU 및 AI 가속기 클러스터 관리 기능 강화 발표

![webui-neo](https://cdn.lablup.com/webui_neo_a6025850d5.jpg)

래블업이 11월 12일부터 15일까지 미국 솔트레이크시티에서 열리는 '쿠버콘+클라우드 네이티브콘 노스 아메리카 2024' (KubeCon+CloudNativeCon North America 2024)에 참가한다. 이 자리에서 래블업은 Backend.AI의 최신 버전인 24.09와 함께 Backend.AI를 위한 새로운 그래픽 유저 인터페이스(GUI)인 WebUI Neo를 선보인다.

Backend.AI 24.09 버전은 대규모의 GPU 및 AI 가속기 클러스터 관리 기능을 강화한다. Cloud Native 접근 방식을 통해 시스템 가시성을 크게 향상하고, 다양한 기능 지원을 추가한다. 이번 업데이트를 통해 추가되는 Prometheus 형식의 메트릭 출력을 통해 사용자는 Grafana와 같은 대시보드 솔루션에 Backend.AI의 다양한 메트릭을 손쉽게 연동할 수 있으며, Cilium의 채택을 통해 Docker 네트워크 스택의 한계를 해결하여 Docker 의존도를 줄이는 동시에, 컨테이너 간 네트워크 안정성과 처리 속도를 크게 향상시킨다. 이같은 Backend.AI 24.09 변화를 통해 사용자는 시장의 다양한 컨테이너 런타임 요구에 유연하게 대응할 수 있게 된다.

Backend.AI WebUI Neo는 기존 Backend.AI에서 사용하던 WebUI를 업그레이드한 버전이다. 사용자를 최우선으로 고려하여 UI를 설계했으며, 직관적이고 논리적으로 기능을 재배치한 것이 특징이다. 특히 WebUI Neo는 다양한 색상을 활용하여 각 클러스터의 상태 표시를 명확하게 보여주는 등 사용자 피드백 요소를 강화하여 접근성을 높였다. Backend.AI WebUI Neo는 올해 말 공식 출시될 예정이다.

래블업은 2025년을 목표로 Backend.AI를 정밀한 쿠버네티스 제어를 통합, 클라우드 네이티브 생태계를 온전히 아우르는 'Acceleration-first, Container-based' AI 인프라 운영체제로 확장할 계획이다. 쿠버콘 래블업 부스(R27)에서는 Cloud Native 생태계와 통합되는 Backend.AI를 체험할 수 있으며, 가속기 중심의 컨테이너 기반 AI 인프라 운영 체제로서 Backend.AI의 장점을 직접 확인할 수 있다.

래블업의 신정규 대표는 “이번 쿠버콘에서 Backend.AI의 현재와 미래, 그리고 쿠버네티스와의 호환성을 통한 잠재력과 WebUI Neo가 제공하는 향상된 사용자 경험을 소개하게 되어 기쁘다"며 "Backend.AI가 AI 클러스터를 얼마나 효율적으로 관리할 수 있는지 직접 확인해 보시길 바란다”라고 전했다.

![Backend.AI package(Kubecon 2024)](https://cdn.lablup.com/Backend_AI_package_Kubecon_2024_4f643a6656.jpg)

래블업, 쿠버콘에서 Backend.AI 24.09와 WebUI Neo 공개

![nvidia-ai-summit-jp-speakers](https://cdn.lablup.com/nvidia_ai_summit_jp_speakers_bb41639d48.png)

인공지능(AI) 플랫폼 기업 래블업은 일본 도쿄에서 개최되는 '[엔비디아 AI 서밋](https://www.nvidia.com/ja-jp/events/ai-summit/fireside-chat-en/)'에 참가한다고 밝혔다. 엔비디아 AI 서밋은 AI와 가속 컴퓨팅 기술의 최신 동향을 비롯한 실제 활용 사례를 소개하며, 과학, 헬스케어, 지속 가능성 등 다양한 분야의 전문가들과 업계 리더들이 모여 AI의 미래와 영향력에 대해 논의하는 자리로, 올해는 워싱턴 D.C와 인도, 그리고 마지막으로 일본에서 개최된다.

이번 엔비디아 AI 서밋 재팬에는 엔비디아 창업자이자 CEO인 젠슨 황, 일본 소프트뱅크의 손정의 회장이 AI와 가속 컴퓨팅이 변화시킬 산업에 대한 대담을 진행한다. 3000여명이 넘는 사람들이 참가신청한 이번 행사는 12일 워크샵을 필두로 생성형 AI, 산업 디지털화, 로보틱스, 거대 언어 모델(LLM)을 주제로 50여개 이상의 다양한 세션과 라이브 데모가 진행된다.

총 62개사가 참여하는 이번 행사에서 래블업은 자사의 하이퍼스케일 AI 플랫폼, Backend.AI 및 인퍼런스 솔루션인 PALI를 엔비디아 GH200 Grace Hopper 슈퍼칩 위에서 구동, NIM(엔비디아 인퍼런스 마이크로서비스)을 통해 AI 기술을 효과적으로 활용하는 방법에 대한 데모를 선보인다.

2021년부터 아시아태평양 지역에서 최초이자 유일하게 엔비디아 DGX-Ready Software로 인증받은 Backend.AI는 DGX 시스템 클러스터를 비롯해 가장 최신의 엔비디아 Grace CPU 슈퍼칩에서까지 대규모 AI 및 가속 컴퓨팅 애플리케이션을 위한 컴퓨팅 자원을 최적화하고 관리하며, GPU의 사용성을 끌어올려 주는 AI 플랫폼이다.

래블업의 신정규 대표는 "이번 엔비디아 AI 서밋을 통해 래블업이 엔비디아와 함께 Backend.AI 기반의 초거대 AI 모델 개발뿐 아니라 PALI, PALANG으로 생성AI 서비스 운영의 효율을 극대화하는 사례를 소개하게 되었다" 며, "PC 및 중소 규모 기관의 자체 AI 활용부터 GPU 하이퍼스케일러의 AI 서비스 운영까지 다양한 스케일에 모두 대응하는 AI 인프라 운영 시스템 Backend.AI의 강점을 널리 알리고자 한다" 고 밝혔다.

![nvidia-ai-summit-jp](https://cdn.lablup.com/2024_11_10_8_54_18_93c5d55e2e.png)

래블업, 엔비디아 AI 서밋 재팬 참가

 ![](https://cdn.lablup.com/lablup_intel_6f980e65b3.jpg) 

**서울, 대한민국 —** 래블업은 SuperComputing 2024에서 Backend.AI가 인텔® Gaudi® 2 및 인텔® Gaudi® 3 AI 가속기를 지원한다고 발표했습니다. Backend.AI가 지원하고 있는 NVIDIA, Rebellions, FuriosaAI, AMD 등의 AI 가속기 공급업체 라인업에 인텔을 추가함으로써, 래블업은 시장에서 가장 다양한 AI 가속기와 GPU를 고객에게 제공하게 되었습니다. 래블업은 이를 통해 Backend.AI 플랫폼의 경쟁력을 강화하고 고객들에게 더욱 폭넓은 선택권을 부여하게 되었습니다.

*2024년 11월 현재, Backend.AI는 인텔® Gaudi® 2 AI 가속기를 지원하고 있습니다. 

*인텔® Gaudi® 3 AI 가속기에 대한 지원은 2025년 상반기에 예정되어 있습니다.


래블업과 인텔은 인텔® Gaudi® 2 및 인텔® Gaudi® 3 AI 가속기가 보여줄 수 있는 최상의 성능을 Backend.AI에서 제공하기 위해 긴밀히 협력해 왔으며, 이러한 협력의 결과로 Backend.AI의 인텔® Gaudi® 2 및 인텔® Gaudi® 3 AI 가속기 지원을 발표합니다.

### Backend.AI의 Sokovan™을 통한 강력한 컨테이너 오케스트레이션
Sokovan™은 멀티테넌트 및 멀티노드 확장 시나리오에 적합한 독립 실행형 오픈소스 컨테이너 오케스트레이터입니다. Sokovan™은 최신 하드웨어 가속 기술에 최적화되어 있으며, 사용자가 정의할 수 있는 작업 스케줄링 및 노드 할당 정책을 통해, AI 성능 저하 없이 단일 클러스터에서 인터랙티브, 배치, 그리고 서비스 워크로드가 혼합된 형태의 하이브리드 환경까지도 지원합니다.

### AI 가속기를 최대치로 활용하고, 여러분의 잠재력을 실현하세요.
복잡한 비즈니스에서는 탁월한 AI 성능과 우수한 관리 용이성이 성공의 열쇠입니다. 인텔의 최신 제품인 인텔® Gaudi® 3 AI 가속기는 강력한 AI 성능과 기능을 제공합니다. 서비스형 플랫폼인 Lablup Backend.AI는 엔터프라이즈급 AI 환경에 최적화된 다양한 기능을 제공합니다.

### 인텔® Gaudi® 2 및 3 플랫폼과 깊숙이 결합된 우리의 기술 혁신
이미 비즈니스 환경에 인텔® Gaudi® 2 AI 가속기 또는 인텔® Gaudi® 3 AI 가속기를 도입한 고객과 향후 인텔® Gaudi® 2 & 3 플랫폼을 도입할 고객 모두 래블업 Backend.AI가 인텔® Gaudi®에 대해 지원하는 다양한 혜택을 누릴 수 있습니다. 인텔® Gaudi® 2 & 3 플랫폼과 함께 동작하는 Backend.AI 기능의 일부를 확인해 보세요.

#### 카드 레벨 가속기 할당 (Card-level accelerator allocation)
사용자가 의도한 만큼의 실제 가속기를 제공하여 인텔® Gaudi® 2 & 3 AI 가속기 클러스터 워크로드를 극대화합니다. 예를 들어, 고객은 기존에 선호하는 플랫폼에서 모델을 실행 및 훈련한 다음 인텔® Gaudi® 2 및 3 플랫폼에서 서비스를 제공하거나 그 반대의 경우도 가능합니다.
#### 외부 스토리지 할당 (External storage allocation)
통합 스토리지 솔루션을 최대한의 성능으로 활용하세요. 사용자의 개입 없이 공급업체별 파일 시스템 가속 기능을 활용하세요. Backend.AI는 Dell PowerScale, VAST Data, WEKA, NetApp 등과 같이 널리 사용되는 주요 플랫폼을 지원합니다.
#### 멀티스케일 워크로드 (Multi-scale workloads)
소규모 모델을 실행할 수 있는 단일 카드 AI 워크로드부터 대규모 모델을 실행할 수 있는 멀티 노드 멀티 카드 AI 워크로드까지, 어떤 환경에서도 Backend.AI는 최고의 성능을 보장합니다. 11월 1일 현재, Backend.AI는 단일 카드 AI 워크로드와 단일 노드, 다중 카드 AI 워크로드를 실행할 준비가 되었습니다. 다중 노드, 다중 카드 AI 워크로드 지원은 올해 마무리될 예정입니다. 
#### 추론 통계 데이터 관리 (Inference statistics management)
AI 프레임워크에서 제공하는 성능에 대한 최신의 상세한 지표를 모니터링하세요. Backend.AI는 하드웨어의 정보뿐만 아니라 소프트웨어의 통계 데이터를 가져올 수 있기 때문에, 관리자가 메트릭을 심층적으로, 쉽게 분석할 수 있도록 만들어줍니다.
#### 규칙 기반 추론 레플리카 자동 스케일링 (Rule-based inference replica auto scaling)
시스템이 리소스 사용량을 스스로 최적화할 수 있습니다. 다양한 하드웨어 및 소프트웨어 수치 모니터링을 통해, 관리자의 수동 개입 없이도 다양한 사용자의 사용 패턴에 대응합니다.

*현재 개발 중(2024년 12월 개발 완료 목표)

#### NUMA 인식(NUMA-aware) 리소스 할당 
CPU 소켓이 여러 개 있고 각 소켓마다 여러 개의 가속기가 있는 경우 단일 노드 내에서 CPU 간 및 PCIe 버스 오버헤드를 제거하여 베어메탈에 가까운 성능을 달성할 수 있습니다. 

#### 유저 및 프로젝트 기반의 스토리지 할당량 관리 
사용자 또는 단일 프로젝트당 데이터 스토리지 할당량을 제한하여 예산 효율적이고 간편하게 데이터 공간을 관리할 수 있습니다. 

#### Hugepage 메모리 할당 지원
주소 변환 (Address Translation)의 오버헤드를 줄이기 위해 더욱 큰 메모리 페이지 (Hugepage)를 사용하되, 그 수를 줄여 AI 가속기를 사용할 때의 CPU 오버헤드를 최소화합니다. 해당 기능에 대한 Backend.AI의 지원은 올해 안에 마무리 될 예정입니다.
#### 이외에도 더 많은 기능들이 기다리고 있습니다
래블업은 인텔과 지속적으로 소통하며 Backend.AI의 가능성을 넓혀가고 있습니다. 더 많은 기능이 아직 개발 중이며, 곧 선보여질 예정입니다. Backand.AI와 인텔® Gaudi® 3 AI 가속기를 활용하여 여러분의 클러스터 활용도를 높여보세요.

### 인텔® Gaudi® 3 AI 가속기의 성능을 Backend.AI에서 누리세요
 ![](https://cdn.lablup.com/2024_11_06_141836_9836bea9c4.png) 
Backend.AI는 인텔® Gaudi® 3 AI 가속기의 성능을 최대로 끌어낼 수 있도록 설계되었습니다. 인텔® Gaudi® 3 AI 가속기는 기본적인 컴퓨터 비전 및 NLP 모델, 심지어는 거대언어모델 및 멀티모달 모델까지 최첨단의 (state-of-the-art) 모델을 학습하고, 실행할 수 있도록 합니다. 인텔® Gaudi® 3 AI 가속기는 가격 대비 훌륭한 성능과 운영 효율성을 제공합니다. 클라우드, 혹은 데이터 센터 그 어디에서도 효율적인 확장성을 제공하도록 설계된 인텔® Gaudi® 3 AI 가속기는 AI 업계에 그 어느 때보다 필요한 선택지를 제공합니다.

### 여러분의 작업을 최고 수준의 사용자 인터페이스에서
다른 시스템과 달리, Backend.AI는 시스템 관리자가 최대한 쉽게 시스템을 제어할 수 있도록 설계되었습니다. 사용자 친화적인 인터페이스 덕분에 관리자는 몇 번의 클릭과 입력만으로 시스템을 관리할 수 있습니다. Backend.AI WebUI는 다양한 산업 환경에서 검증된 고객들이 널리 사용하고 있으며, 고객들은 CLI(명령줄 인터페이스)를 사용하지 않고도 GUI를 통해 수행할 수 있는 다양한 기능에 만족하고 있습니다. 

### Backend.AI를 통해 인텔® Gaudi® 2 및 인텔® Gaudi® 3 AI 가속기를 '관리하기 쉬운' 플랫폼으로 만들어보세요.
래블업은 과학자, 연구원, DevOps, 기업 및 AI 애호가들이 AI 서비스를 효율적이고, 확장 가능한 형태로 사용할 수 있도록 하기 위해 최선을 다하고 있습니다. 우리는 인텔과 함께 오늘날 널리 사용되고 있는 생성 AI 및 딥 러닝 기반 서비스의 성공을 위해 긴밀히 협력하고 있습니다. 다양한 고객들로부터 검증된 래블업의 기술을 통해, 인텔® Gaudi® 2 및 인텔® Gaudi® 3 플랫폼과 Backend.AI는 하드웨어 수준 통합을 제공하기 위해 노력하고 있습니다.


### 인텔® Gaudi® 3 AI 가속기 소개
검증된 MLPerf 벤치마크 성능을 갖춘 고효율 인텔® Gaudi® 플랫폼을 기반으로 하는 인텔® Gaudi® 3 AI 가속기는 까다로운 훈련 및 추론을 처리하도록 설계되었습니다.

데이터 센터 또는 노드부터 메가 클러스터에 이르는 클라우드에서 대규모 언어모델, 멀티 모달 모델, 엔터프라이즈 RAG와 같은 AI 응용 프로그램을 지원하며, 이미 보유하고 있을 가능성이 있는 이더넷 인프라에서 모두 실행됩니다. 단일 가속기가 필요하든 수천 개의 가속기가 필요하든, 인텔® Gaudi® 3는 AI 성공에 중요한 역할을 할 준비가 되어 있습니다.

인텔® Gaudi® 3에 대해 자세히 알아보려면, [intel.com](https://intel.com/gaudi3)을 방문하세요.

### 래블업 Backend.AI 소개
Backend.AI는 여러분의 AI 비즈니스를 극대화시키기 위해 시중의 다양한 GPU와 AI 가속기를 지원하고 있으며, 사용자들이 편리하게 사용할 수 있도록 직관적인 사용자 인터페이스를 제공하고 있습니다. 고객은 가장 작은 수준의 언어 모델부터 거대 언어모델까지 AI 모델의 크기에 구애받지 않고 AI 모델을 효과적으로 구축, 학습, 제공할 수 있어 서비스 개발과 운영의 비용, 복잡성을 크게 줄일 수 있습니다. Backend.AI는 생성형 AI와 가속 컴퓨팅의 잠재력을 최대한 이끌어내 최첨단 기술을 통해 여러분의 비즈니스를 혁신할 수 있는 열쇠가 되어가고 있습니다.

Backend.AI®에 대해 자세히 알아보려면, [backend.ai](https://www.backend.ai/)를 방문하세요.


래블업-인텔, Backend.AI에서 인텔® Gaudi® 2 및 인텔® Gaudi® 3 AI 가속기에 대한 지원 발표

![lablup-conf-4](https://cdn.lablup.com/lablup_conf_4_a3b94c6250.avif)

인공지능(AI) 플랫폼 기업 래블업은 자사의 정기 기술 컨퍼런스인 ‘lab | up > /conf/4’를 24일 양재 aT센터에서 개최한다고 밝혔다. 이번 행사에는 AI 전문가들과 기업 관계자들이 참석하여 참가자들에게 유익한 강연을 제공할 계획이다.

지난 세 번의 ‘lab | up > /conf’는 ‘Make AI Accessible’을 주제로 인공지능의 접근성을 높이는 기술 동향에 대해 다뤘다면, 이번에는 ‘Make AI Scalable’을 주제로 큰 규모의 산업에서 AI가 어떻게 적용되고 운영되는지 그 기술과 도전에 대해 다룬다.

이번 컨퍼런스에서 래블업의 신정규 대표는 ▲’Unchartered AI: 대 AI 시대’라는 주제로 기조연설을 진행한다. 스케일 밴드가 위아래로 확장되는 요즘 시대의 AI 기반 기술에 대한 깊이 있는 이야기와 함께 래블업이 어떻게 세상을 바꿔나가고, 바꿔나갈 것인지 래블업의 경험과 미래를 공유할 계획이다. 래블업의 황은진 수석연구원은 ▲현기증 난단 말이에요!: PALI, PALI PALI, and PALANG’을 주제로 래블업의 새로운 플랫폼과 AI 런타임 클러스터, 그리고 멀티모달 언어모델 슈이트를 소개하며, 김찬란 엔비디아(NVIDIA) 부장은 ▲’AI 제품 경쟁력을 높이는 NVIDIA의 AI Inference Microservices’를 주제로 엔비디아 NIM을 소개한다.  

또한, 최종호 리벨리온(Rebellion) 소프트웨어 엔지니어는 ▲'RBLN SDK: 리벨리온 AI 가속기로 쉽게 넘어가는 도구'를 주제로 ATOM NPU에 대해 소개하며, 황성진 kt cloud AI 플랫폼팀 팀장은 ▲'kt cloud의 AI 사업 성장기, 이래서 파트너가 중요합니다!'라는 주제로 래블업과 함께 성장하는 kt cloud의 이야기를 다룬다. 이번 자리에는 곽재도 인공지능산업융합사업단(AICA) 기반조성본부장도 참석해 ▲'대한민국 땅에 인공지능의 씨앗을! 인공지능 중심 산업융합 집적단지 조성사업'을 주제로 광주 인공지능산업융합 AI-Vally 조성 사업에 대한 추진 현황과 주요 지원사례에 대해 공유한다.

이외에도 리벨리온(Rebellions), 마이크로소프트(Microsoft), 엔비디아(NVIDIA), 카카오(Kakao), kt cloud 등 다양한 IT 기술 기업의 인사들이 연사로 나서며, 기조연설을 포함 총 19개의 강연이 준비되어 있다.

컨퍼런스가 종료된 후에는 참가자들에게 소정의 기념품이 제공되며, 추첨을 통해 애플워치 10세대 등 다양한 경품을 제공할 예정이다.

래블업의 신정규 대표는 "이번 'lab | up > conf/4’ 컨퍼런스를 통해 다양한 IT 기술 기업들이 한자리에 모여 최신 기술 동향을 공유하고, 혁신적인 아이디어를 나눌 수 있는 장을 마련하게 되어 매우 기쁘다"며 "앞으로도 래블업은 대 AI 시대에 앞장서 스케일(규모)을 감당하는 회사가 되겠다"고 밝혔다.

'lab | up > conf/4’는 오늘 (23일)까지 사전 등록을 통해 참가할 수 있으며, 사전등록은 Festa ( https://festa.io/events/5923 )를 통해 가능하다.

래블업, 'lab | up > conf/4' 정기 기술 컨퍼런스 개최 

 ![](https://cdn.lablup.com/Lablup_GTC_24_a1eb755914.png)

래블업이 3월 18일부터 21일까지 미국 새너제이 컨벤션센터에서 열리는 엔비디아의 주요 AI 컨퍼런스인 GTC 2024에 실버 스폰서로 참가한다. 이번 대면 행사는 5년 만에 처음으로 개최되며, 30만 명 이상의 참가자가 온·오프라인으로 참여할 것으로 기대되는 GPU 분야에서 가장 큰 기술 행사이다.

래블업은 이번 컨퍼런스에서 AI 기술의 최전선에 서 있는 두 가지 주제에 대해 발표할 예정이다. 첫 번째 발표 "From Idea To Crowd: Manipulating Local LLMs At Scale"는 래블업 신정규 대표와 김준기 CTO가 진행하며, 이 세션에서는 양자화, QLoRA 등의 리소스 절약 및 모델 압축 기술과 vLLM, TensorRT-LLM 결합을 통해 Backend.AI가 어떻게 대규모 로컬 LLM을 효율적으로 조작하는지 소개한다. 이는 AI 모델의 성능을 최적화하고, 리소스 사용을 최소화하는 혁신적인 접근 방식을 제공할 예정이다.

두 번째 발표인 "Personalized Generative AI: Operation and Fine-Tuning in Household Form Factors"는 3월 20일에 김준기 CTO가 진행한다. 이 세션에서는 클라우드 및 개인 PC의 GPU를 이용하여 사용자 맞춤형 생성형 AI를 개발하고 서비스할 수 있는 방법을 시연한다. 이는 AI 기술을 일상 생활에 더욱 밀접하게 통합하는 개인화된 AI의 새로운 가능성을 제시할 예정이다.

또한, 래블업은 전시부스(Booth #1233)에서 APAC 지역 유일의 엔비디아 DGX-Ready 소프트웨어인 Backend.AI Enterprise를 시연한다. Backend.AI는 엔비디아 DGX 시스템 및 기타 GPU 가속 컴퓨팅 리소스의 성능을 극대화하며, 사용자 환경을 변경하지 않고도 GPU 사용성을 높여주는 AI 인프라스트럭처 운영 플랫폼이다. 부스에서는 또한 생성 AI 개발을 간소화하고 자동화하는 MLOps 소프트웨어 플랫폼, FastTrack으로 파운데이션 모델을 다양한 산업 분야에 특화하거나 나만의 챗봇으로 자동 미세 조정하는 실시간 시연도 제공된다.

MWC에 이어 이번 GTC에서 래블업은 엔비디아 및 Dell, AMAX, Weka와 같은 글로벌 파트너사들과의 협력을 강화하며 함께 본격적인 글로벌 진출을 꾀할 예정이다.

래블업, 엔비디아 GTC 2024에서 AI 혁신의 미래를 제시하다

 ![](https://cdn.lablup.com/MWC_Amax_744f5049a8.jpeg) 

[2024년 2월 26일, 스페인 바르셀로나] 래블업은 26일 스페인 바르셀로나에서 열린 세계 최대 모바일 전시회 ‘MWC 2024’에서 글로벌 HPC 솔루션 기업 ‘AMAX’와 사업개발 협력을 강화하고 비즈니스 확장을 위한 협약식을 진행했다.

협약식에는 래블업의 신정규 대표와 AMAX의 수석 부사장인 보어 싸오가 참석했다. AI 연구, 개발, 서비스 플랫폼 기업인 래블업과 HPC 솔루션 기업인 AMAX는 AI 슈퍼 컴퓨팅 인프라 구축을 가속화하며, 전 세계 연구소 및 데이터 센터에 GPU 통합 솔루션을 제공할 계획이다.

양사는 지난해 11월 런던에서 개최된 “Optimising AI Conference”를 공동 주최하며 협업 방안을 논의해왔다. 이 행사에서는 AI 분야의 기술 전문가, 비즈니스 리더들과 함께 래블업의 영국 진출 사례를 기반으로 텔레콤, 의료, 금융 등 AI 산업 전반에 걸친 사례를 발표하고 네트워킹 시간을 가졌다.

보어 싸오 AMAX 수석 부사장은 "현재 IDC의 문제는 전력량뿐만 아니라 발열 제어에도 있다. 우리는 별도의 리퀴드 쿨링 랙을 연산 랙과 같이 설치하는 구성을 도입하여 현재 IDC 환경에서도 최적의 발열 제어 인프라를 구축할 수 있다"며, "AMAX의 인프라 설계 및 운영 경험과 래블업의 Backend.AI를 결합하여 글로벌 AI 인프라 플랫폼 공급을 기대한다"라고 말했다.

신정규 래블업 대표는 "점점 복잡해지는 AI 인프라스트럭처 운영 및 최적화에 세계 최고의 플랫폼을 제공하는 래블업과, 다양한 스케일의 고성능 컴퓨팅 하드웨어 플랫폼을 제공하는 AMAX이 서로 시너지를 낼 수 있을 것으로 보인다"며, “이번 AMAX와의 협약을 통해 유럽 및 북미 지역의 고성능컴퓨팅 수요를 대상으로 AI 토탈 플랫폼을 제공하여, 전세계의 더 많은 사람들이 Backend.AI를 통한 AI 혁신을 더 가깝게 누릴 수 있도록 하겠다"고 포부를 밝혔다.

래블업, AMAX와 AI 인프라 플랫폼 공급에 대한 글로벌 협약 체결

![](https://cdn.lablup.com/Gen_AI_Dasktop_01_02538c826c.png)

래블업은 오는 2월 26일부터 29일까지 4일간 스페인 바르셀로나에서 열리는 세계 최대 모바일 전시회 ‘MWC 2024’에 참가한다고 밝혔다.

이번 MWC 2024의 최대 화두는 AI이다. 통신사들이 앞다투어 AI 관련 최신 기술의 투자 소식을 알리는 이유도 글로벌 트랜드인 앳지클라우드 시장에 합류하고자 함이다. 래블업은 통신사들이 기지국 단에 세우는 소규모 연산 자원인 엣지클라우드에서 빠르고 쉽게, 그리고 저비용으로 AI를 연구 개발, 그리고 서비스할 수 있는지 사례를 소개한다. 또한 글로벌 기업들과의 협력을 통해 전 세계 엣지클라우드 시장에 진출할 예정이다.

래블업은 이번 전시회에서 일반 대중을 위한 사용하기 쉬운 AI 애플리케이션 통합 플랫폼인 "GenAI Desktop"을 선보일 예정이다. 이 플랫폼은 사용자가 AI를 쉽게 이해하고 활용할 수 있도록 돕는 도구다. 또한, Backend.AI FastTrack을 통해 래블업에서 거대 언어 모델을 원하는 형태로 파인튜닝하여 개발한 챗봇 솔루션인 “Talkativot”을 모바일에서 직접 시연해 볼 수 있다. FastTrack은 기업 및 연구소 대상의 B2B 솔루션으로 생성AI 개발을 간소화하고 자동화하는 MLOps 플랫폼이다. 이 플랫폼으로 데이터 분석, 분류, 처리부터 AI 훈련, 평가, 서비스 배포 등 파이프라인 모든 과정을 신속하고 효과적으로 관리한다.

신정규 대표는 “래블업은 올해 'Make AI Scalable'을 목표로, 엣지클라우드 기반의 AI 솔루션과 생성형 AI 어플리케이션 플랫폼을 통해 글로벌 AI 시장을 선도하는 플랫폼 기업으로 도약할 것"이라고 말했다. 또한, "3월 개최될 NVIDIA GTC 2024에 실버 스폰서로 참가하는 래블업은 국내뿐 아니라 글로벌 AI 시장에서도 최신 AI 트렌드를 선도할 것이다"라고 덧붙였다.

래블업, MWC 2024에서 AI 엣지 클라우드 솔루션과 생성형 AI 어플리케이션 플랫폼 선보여

 ![](https://cdn.lablup.com/Gen_AI_Desktop_bf679fb88c.png) 

AI 연구 개발 플랫폼 기업 래블업은 1월 9일 미국 라스베이거스에서 열리는 세계 최대 가전·IT 박람회 'CES 2024'에 참가한다고 밝혔다. 

래블업은 이번 전시에서 일반 사용자 대상의 생성형 AI 애플리케이션 통합 플랫폼인 “GenAI Desktop”을 공개, 어디에서나 직접 생성AI 어플리케이션을 사용하는 데모를 소개한다. “GenAI Desktop”은 AI 모델을 활용하는 애플리케이션을 어디에서나 데스크탑 앱처럼 실행하는 플랫폼으로, 사용자 입장에서 AI 운영에 대한 자세한 지식을 몰라도 내가 필요한 서비스를 앱처럼 골라 실행할 수 있는 것이 특징이다. GenAI Desktop의 기본 앱 중 하나인 전 세계적으로 열풍인 거대 언어 모델들을 원하는 형태로 파인튜닝하여 챗봇으로 사용하는 “Talkativot”를 래블업 부스(#63301-51)에서 시연해 볼 수 있다. 

또한 래블업은 기업 및 연구소 대상의 B2B 솔루션으로 생성AI 개발을 간소화하고 자동화하는 MLOps 플랫폼인 Backend.AI FastTrack을 시연한다. FastTrack은 AI 프로젝트를 구성하는 데이터 분석, 분류, 처리부터 AI 훈련, 평가, 서비스 배포 등 파이프라인 모든 과정을 신속하고 효과적으로 관리한다. 모든 AI 작업을 복제 및 공유 가능하게 만들어, 반복되는 과정은 쉽게 재사용하거나 공유할 수 있다. 생성AI 시대에 대응하여 GPU 하이퍼스케일러 클라우드들의 대규모 AI 서비스 운영에도 적합하도록 진화한 Backend.AI FastTrack을 부스에서 만날 수 있다. 

올해로 2년 연속 CES에 참가하는 래블업은 KOTRA 한국관에서 준비중인 'K-Tech Forum@CES 2024'에 AI분야 스타트업 패널로 초청되어 NVIDIA, PureStorage, NetApp, Dell 등 글로벌 기업들과 기술 파트너사로 협업 및 영국과 브라질에 수출한 해외 진출 경험을 공유한다. 

신정규 래블업 대표는 “래블업은 전세계가 AI를 쉽고 안전하고 만들고 편리하게 사용할 수 있는 다양한 방법을 끊임없이 고민하고 혁신해 왔다. 이번 CES는 대중이 AI를 친근하게 사용하는 방법에 대한 우리의 해결책을 많은 사람들에게 소개하는 시작이 될 것이다.” 고 밝혔다.

래블업, CES에서 생성AI 애플리케이션 통합 플랫폼 "GenAI Desktop" 공개

![](https://cdn.lablup.com/ai_relib_award_9d1147b73b.JPG)

래블업은 AI 연구·개발, 서비스 플랫폼인 Backend.AI가 과학기술정보통신부가 주최한 ‘제1회 인공지능(AI) 신뢰성·품질 대상’에서 우수상에 선정되었다고 밝혔다.

올해 처음으로 추진한 ‘인공지능(AI) 신뢰성·품질 대상’은 AI 신뢰성과 품질에 초점을 맞춘 국내 최초 시상제도로 신뢰성을 확보한 AI 제품과 서비스(데이터 포함)를 선정·시상함으로써 AI 신뢰성 인식을 확산하고 우수 국산 AI 제품·서비스 홍보를 지원하는 게 목적이다.

Backend.AI는 AI를 연구 및 개발하고 서비스까지 만드는 전 과정을 통합하는 올인원 플랫폼으로, 특히 초거대 AI 및 고성능 컴퓨팅, 슈퍼컴퓨팅 분야에 특화된 엔터프라이즈 솔루션이다. 온프레미스 서버 및 클라우드 환경에 설치되어 딥러닝 모델 설계 및 훈련 과정의 원활한 분산 실행 및 관리를 담당한다. 리눅스 컨테이너 및 VM 기술을 바탕으로 다양한 플랫폼에서 AI 및 고성능 컴퓨팅 코드를 안전하게 분산 및 실행하고, 수천대의 컴퓨터를 동원하는 복잡한 인공지능 개발 과정을 GUI 및 MLOps 기능과 함께 복잡한 설정 없이 자동화한다.

Backend.AI는 독자적으로 개발한 오케스트레이터 및 스케쥴러 위에 GPU 사용 비용을 크게 줄여주는 자체 특허 기반 GPU 분할 가상화 기술과 함께 최신 스토리지 및 AI 가속 하드웨어 기술을 통합하였다. 이를 바탕으로 업계 최고 수준 성능을 달성하여, 막대한 비용이 들어가는 거대 AI 훈련 및 최근 크게 늘어나고 있는 AI 서비스에 들어가는 비용을 효율적으로 줄여주는 것이 특징이다.

Backend.AI는 누구나 장벽없이 AI를 개발할 수 있도록 오픈소스로 공개되고 있으며, 기업 및 기관용 기능이 다수 포함된 엔터프라이즈 버전인 Backend.AI Enterprise는 고성능과 편의성을 통합한 AI 플랫폼으로 인정받아 삼성전자, KT, LG전자등의 국내 대기업을 비롯해 한국은행, 건강보험심사 평가원, GIST 등 70여 개 기업 및 기관에서 사용되고 있다. 또한 엔비디아의 AI 슈퍼컴퓨터인 DGX의 운영에 최적화된 DGX-Ready 소프트웨어로 아시아 태평양 지역에서 유일하게 선정되었으며, 현재 라틴아메리카 및 유럽 지역에 Backend.AI Enterprise를 수출하고 있다.

2015년 창업한 래블업은 올해 초 105억원 규모 시리즈A 투자를 유치하였다. 래블업의 신정규 대표는 “Backend.AI는 AI개발 및 운영 과정에서 발생하는 다양한 신뢰성 문제를 기술적으로 해결하

여, 많은 기업들이 고신뢰, 고품질 AI를 만들 수 있게 지원하고 있다. Backend.AI 자체적으로도 다양한 인공지능 개발시의 신뢰성 품질 요구사항들을 달성한 점이 인정받아 기쁘다”라며 ”이 수상이 Backend.AI의 고객사 및 사용자 확보에 좋은 기회가 될 것이며 글로벌 AI 시장에서 더욱 활발한 활동을 진행하는데 도움이 될 것”이라고 밝혔다.

Backend.AI, 인공지능(AI) 신뢰성·품질 검증받아 우수성 입증

![Backend.AI package.jpg](https://cdn.lablup.com/Backend_AI_package_1276cda2a8.jpg)

  래블업은 10일 미국 콜로라도 컨벤션 센터(덴버)에서 개최하는 “SC23(11.12~17)”에 참가할 예정이라고 밝혔다. 이 컨퍼런스는 고성능 컴퓨팅, 네트워킹, 스토리지 분석을 위한 행사로, AMD, ARM, AWS, IBM, 인텔(Intel), 엔비디아(NVIDIA), SK하이닉스 등 국내외 정상 기업들이 다수 참여한다.

  래블업은 이번 SC23에서 자사의 초거대 AI 생태계 구축을 위한 플랫폼인 Backend.AI를 소개한다. Backend.AI는 엔비디아 CUDA, AMD ROCm 등의 GPU 지원뿐만 아니라, 다양한 NPU 및 AI 반도체들을 최적화 기능들과 함께 제공한다. 구글 TPU를 비롯하여 그래프코어, 리벨리온 Atom 및 퓨리오사 워보이를 최적화 기능과 함께 지원하고 있다. 이를 통해 GPU로 AI 모델을 훈련하고, AI 반도체로 서비스를 연계하는 GPU-NPU 통합 파이프라인을 이용하여 최고의 성능과 최저 비용을 동시에 달성하고 있다.

  또한 Backend.AI는 GPU Direct Storage 기술을 세계 최초로 컨테이너 클러스터에서 구현하여, GPU와 네트워크 스토리지를 직결함으로써 엄청난 데이터 입출력 속도를 제공한다. 이로써 고속 스토리지 시장의 Top 3인 PureStorage, NetApp, Dell EMC와 파트너십을 맺었다. 더불어 Backend.AI는 아태지역에서 엔비디아 DGX-Ready 프로그램에 최초이자 유일하게 선정되었으며, VMWare, RedHat, Canonical 등과 함께 엔비디아 AI Accelerated Program의 파트너로 선정되었다.

  이번 SC23에서는 Backend.AI가 이와 같은 기술을 활용하여 직접 개발 운영 가능한 LLM 서비스를 데모한다. IFA 2023에서 선보인 Meta에서 공개한 Llama2 모델을 포함한 다양한 거대 공개 언어 모델들을 다양한 응용 분야에 맞게 미세 조정하여, Backend.AI의 자동화 시스템인 FastTrack을 통해 온프레미스 환경에서 LLM 서비스를 개발하고 서비스할 수 있음을 알릴 예정이다. 사용자가 제공하는 사진을 기반으로 이야기를 만들고 이미지를 생성, 동화책을 만들어주는 멀티모달 데모인 VisuTale도 선보인다.

  신정규 래블업 대표는 ”초고성능 AI에 더하여 다양한 슈퍼컴퓨터 솔루션들 및 고성능 컴퓨팅에 최적화된 Backend.AI를 전 세계 슈퍼 컴퓨팅 연구자들에게 소개할 수 있어 기쁘다“며 “앞으로도 막대한 양의 연산 자원이 들어가는 기술 선도 분야에서 Backend.AI를 통해 성능 및 비용의 혁신과 압도적인 편리함을 동시에 달성할 수 있도록 노력하겠다”고 밝혔다.

래블업, SC23에서 Backend.AI로 빚은 초거대 AI 서비스 소개

![2023-08-llm-chatbot-screenshot.png](https://cdn.lablup.com/2023_08_llm_chatbot_screenshot_e548d4462f.png)

래블업은 8월 11일~13일 개최된 파이콘 한국 2023에서, AI 연구개발 및 서비스 플랫폼 소프트웨어인 Backend.AI 로 거대 언어 모델을 직접 만들고 파인 튜닝 및 서비스하는 과정을 자동화하는 기능 및 데모를 선보여 참석한 개발자들을 사로잡았다.

데모에서는 최근 Meta에서 공개한 Llama2 모델을 포함한 다양한 오픈소스 거대 언어 모델들을 Backend.AI 의 자동화 시스템인 FastTrack을 통해 한국어에 맞추어 미세조정하였다. Llama2 를 12시간만에 파인튜닝한 모델을 즉석에서 서비스로 만든 챗봇은 전용 UI를 통해 래블업의 엔비디아 H100 클라우드 팜을 통해 행사 기간 동안 서비스되어 많은 참가자들의 주목을 받았다.

Backend.AI는 ▲GPU 클러스터 활용도 극대화, ▲직관적인 사용자 경험 및 관리, ▲저비용/저지연 AI 모델 및 서비스기술, ▲다양한 AI 반도체 지원 등을 바탕으로 다양한 AI 개발 및 서비스 분야를 선도하는 기능을 제공하고 있다. 래블업은 이번 거대 언어 모델 개발, 파인 튜닝 및 서비스 자동화 기능 공개를 통해, 다양한 업무 자동화 및 연구, 프로그래밍 코드 개발등의 본격적인 생성 AI 응용 분야에 Backend.AI를 활용할 수 있음을 입증하였다.

신정규 래블업 대표는 "보안이 요구되는 기업 및 기관, 연구소 및 조직에 거대 언어 모델 기반의 다양한 서비스를 개발하고 사내에 통합하는 과정을 극단적으로 단순화하였다. 모든 조직들이 Backend.AI 를 사용해 필요에 맞는 고유한 거대 언어 모델을 쉽게 파인튜닝하고 운영할 수 있을 것" 이라고 자신했다.

현재 일부 Backend.AI 고객사들을 대상으로 베타 테스트 중인 거대 언어 모델 통합 기능은 9월 Backend.AI 정식 버전에 포함되어 온프레미스 고객사들에게 제공된다. 이 서비스는 국내 최대 슈퍼컴퓨팅 관련 학술대회 및 전시회인 KSC2023(8/21~23, 더케이호텔 서울)에서도 직접 확인할 수 있다.

래블업, 파이콘 한국 2023에서 거대 언어 모델 통합 개발 및 서비스 첫 선 보여

AI 연구/개발, 서비스 플랫폼 기업 래블업 주식회사(대표 신정규)는 **105억 원 규모의 시리즈 A 투자 유치**를 마무리했다고 밝혔다. 이번 래블업의 투자 라운드에는 LB인베스트먼트, IBK기업은행, K2 인베스트먼트 파트너스, 대성창업투자가 참여했다.

최근 ChatGPT 열풍으로 생성형 AI 서비스에 대한 관심이 높아지는 가운데, 투자자들은 기업들이 AI 학습 및 서비스를 위해 필요한 GPU, AI 반도체 및 데이터를 효율적으로 운영할 수 있게 해 주는 플랫폼인 'Backend.AI‘를 개발하고 판매 중인 래블업의 가치를 높게 평가했다.

현재 Backend.AI는 ▲GPU 클러스터 활용도 극대화, ▲직관적인 사용자 경험 및 관리, ▲저비용/저지연 AI 모델 및 서비스 기술, ▲다양한 AI 반도체 지원을 바탕으로, 거대 언어 모델 및 그림, 텍스트, 음악 등의 생성 AI 개발, AI 교육 플랫폼 활용까지 다양한 AI 개발, 서비스 분야에서 활용되고 있다.

래블업의 Backend.AI는 삼성전자, KT, LG전자, CJ등의 국내 대기업을 비롯해 한국은행, 건강보험심사평가원, GIST 등 70여 개 기업 및 기관에서 사용되고 있으며, 아시아 태평양 지역에서 유일하게 인공지능(AI) 개발 및 서비스를 위한 토탈 AIOps 플랫폼 솔루션인 엔비디아의 DGX-Ready 소프트웨어로 선정되었다.

신정규 래블업 대표는 "전 세계적으로 AI 연구/개발과 서비스에 관심이 높은 만큼 필요로 하는 자원인 GPU 사용 및 비용 절감에 대한 부분을 제공해 줄 수 있는 솔루션의 수요 또한 빠르게 증가하고 있다."고 전했다. 그는 또한 "이번 투자를 통해 래블업은 국내뿐 아니라 글로벌 AI 플랫폼 솔루션 시장에서 주도적인 역할을 할 수 있을 것"이라고 강조했다.

AI 연구, 개발, 서비스 플랫폼 기업 래블업, 105억 원 규모 시리즈 A 투자 유치

래블업 주식회사(대표 신정규)는 스페인 바르셀로나에서 열리는 ‘모바일 월드 콩그레스(MWC) 2023’에 Backend.AI(백엔드닷에이아이) R3를 소개할 예정이라고 21일 밝혔다.

![2023_02_mwc_1.jpg](https://cdn.lablup.com/2023_02_mwc_1_2380bd8e59.jpg)

챗GPT의 열풍으로 전세계가 뜨거운 가운데 기업들이 AI 학습 및 서비스를 위해 필요한 GPU, AI 반도체 및 데이터를 효율적으로 운영할 수 있게 해 주는 플랫폼인 ‘Backend.AI’를 이번 전시회를 통해 유럽 및 전 세계 이동통신 업계 및 모바일 관련 기업들에게 소개할 예정이다. 

Backend.AI는 아시아태평양 지역에서 유일한 엔비디아의 DGX-Ready 소프트웨어인 인공지능(AI) 개발 및 서비스를 위한 토탈 AIOps 플랫폼 솔루션이다. 이를 통해, 매우 큰 AI 모델을 학습시키는 데 필요한 컴퓨팅 파워와 전력을 효율적으로 사용할 수 있다. Backend.AI 플랫폼은 AI 연구 및 서비스 개발 과정을 자동화하고, 기관 내에서 필요한 자원을 제공하여 누구나 시간과 비용의 제약 없이 인공지능을 만들고 서비스할 수 있게 한다. 최근에는 Backend.AI의 MLOps 플랫폼인 FastTrack과 Forklift 서비스가 엔터프라이즈 솔루션으로 통합되었다. 이를 통해 AI 서비스 개발 주기를 더욱 빠르게 할 수 있게 되어, 다양한 기관에서 AI 개발에 들어가는 비용과 시간을 절약해 주고 있다.

신정규 래블업 대표는 "MWC 2023은 기존 산업을 혁신하는 디지털 전환의 현실을 확인할 수 있는 장"이라며, "혁신네트워크와 AI가 융합되어 새로운 기술과 비즈니스 모델이 등장하고 있다"고 언급했다. 또한 "래블업은 국내 통신사와 거대 언어 모델부터 생성 모델까지 다양한 수요에 대응하는 AI 모델 서비스를 Backend.AI 기반으로 준비하고 있으며, MWC 2023은 이를 통해 AI를 도입하려는 글로벌 기업들이 편의성과 비용 유연화를 어떻게 함께 달성할 수 있는지 소개하는 자리가 될 것"이라고 밝혔다.

래블업 ‘MWC 2023’ 참가, 챗GPT 같은 초거대 AI 모델 서비스의 원가 경쟁력 높일 AI 연구개발 플랫폼 선보인다.

*   **컨테이너 기반 AI/ML 모델 개발 및 운영 효율화를 위한 최상의 기술력 제공**
*   **AI/HPC를 위한 GPU 환경 구현과 지속적 운영관리까지…양사 시너지 효과 기대**

데이터 인프라 및 솔루션 전문기업 효성인포메이션시스템(대표이사 양정규)이 Hyper-scale AI 개발 플랫폼 전문 기업인 래블업(대표이사 신정규)과 국내 AI(인공지능), ML(머신 러닝), HPC(고성능 컴퓨팅) 시장 저변 확대를 위한 양해각서(MOU)를 체결하고 공동 영업, 마케팅 등 협업을 강화한 다고 XX일 밝혔다.

성공적인 AI 프로젝트를 위해서는 GPU 연산 자원의 효율적인 활용, 증가하는 데이터의 효과적인 저장과 성능 유지, 손쉬운 AI 모델의 개발과 지속적인 운영관리 방안 등을 위한 고도화된 전략이 필요하다.

효성인포메이션시스템은 AI 개발 플랫폼 및 GPU 분할 가상화 기술로 글로벌 기술력을 인정받고 있는 래블업과 함께 GPU 기반 AI 플랫폼 사업 공략을 강화한다. 양사는 검증된 제품과 다양한 프로젝트 노하우를 기반으로 GPU 환경 구현부터 운영관리까지 고객들의 AI 프로젝트를 위한 최상의 인프라 환경을 제공한다.

효성인포메이션시스템은 성능 최적화된 GPU 서버 인프라와 AI 모델 운영 관리 시스템을 결합한 ‘AI 통합 플랫폼’을 통해 기업의 복잡한 AI업무를 단순화해준다. GPU 기반의 데이터 연산부터 고성능 컴퓨팅에 최적화된 스토리지를 활용한 대용량 데이터 저장과 자동화된 관리 및 운영까지 통합적으로 제안하며 고객들의 데이터 기반 디지털 전환을 적극 지원한다.

래블업은 AI 개발 및 서비스를 위한 올인원 엔터프라이즈 클러스터 플랫폼인 Backend.AI(백엔드 닷에이아이)를 제공한다. Backend.AI는 독자 개발한 컨테이너 기반 GPU 분할 가상화 기술과 딥러닝 모델 분산 훈련 및 초거대 모델 개발 플랫폼 기술, GPU 기반 초 저비용/초 저지연 AI 모 델 서비스 기술을 포함한 AI 개발 및 서비스 시대에 필요한 모든 기능을 제공한다. 현재 삼성전 자, KT, LG CNS, SK, 롯데정보통신, CJ 등을 포함한 국내외 선도 기업과 기관에서 사용 중에 있다.

래블업 신정규 대표는 “NVIDIA(엔비디아)의 AI Accelerated Program과 DGX-Ready Software Program 등 기술 파트너십 뿐만 아니라 국내외 대규모 기업과 기관 고객을 통해 검증된 기술력을 바탕으로 고객의 성공적인 AI 프로젝트를 위해 양사의 시너지를 높이겠다”며 “GPU 인프라 환경 구현부터 컨테이너 기반의 효과적인 AI모델 개발 및 서비스 관리 최적화를 통해, 고객은 AIOps를 기반으로 AI 서비스 도입과 비즈니스 성과 창출을 가속화할 수 있을 것”이라고 밝혔다.

양정규 효성인포메이션시스템 대표이사는 “양사가 국내에서 축적해온 데이터 및 AI 관련 기술력을 바탕으로, GPU 가상화 및 자원 관리에 대한 어려움을 겪는 고객에게 최상의 인프라 환경을 제공하겠다”고 밝혔다.

> **래블업 소개**
> 
> 2015년 설립된 Hyper-scale AI 개발 플랫폼 전문 기업인 래블업(Lablup Inc., [www.lablup.com](http://www.lablup.com/) )은, AI 개발 및 서비스 플랫폼 ‘Backend.AI’가 아태 지역 최초로 NVIDIA DGX-Ready Software로 인증받으며 세계적 기술력을 인정받고 있다.
> 
> Backend.AI([www.backend.ai](http://www.backend.ai/))는 AI/ML/HPC를 R&D 부터 비즈니스 서비스, AI 서비스 추론 및 제공까지 하나의 일관된 플랫폼을 통해 효과적으로 관리할 수 있게 하며 삼성전자, KT, LG CNS, SK, 롯데정보통신, SK, 한국은행, ETRI 등 다양한 고객사에서 활용되고 있다.

효성인포메이션시스템-래블업, GPU 기반(Hyper-scale) AI 플랫폼 시장 공략 강화

2022 GTC 키노트에서 엔비디아는 AI Accelerated 프로그램 파트너들을 소개했다. 그 100여개의 기업 중 하이퍼 스케일 인공지능 연구개발 및 서비스 플랫폼인 백엔드닷AI(Backend.AI)를 개발한 국내 기업인 래블업 주식회사(대표 신정규)도 포함되었다.

엔비디아의 AI Accelerated 프로그램은 엔비디아 AI 플랫폼을 활용하여 고객에게 보다 빠르고 효율적이며 최상의 결과를 제공하는 AI 지원 애플리케이션 개발사 및 솔루션 파트너를 위한 것으로 고객은 엔비디아 AI 플랫폼에 안심하고 도입할 수 있다. 이 프로그램에는 Adobe, VMware, Canonical 등 전 세계적으로 유명한 유수의 기업들도 포함되었다.

작년 여름 이미 아태지역 최초로 유일하게 엔비디아의 DGX-레디 소프트웨어로 인증받은 백엔드닷AI는 이번 AI Accelerated 프로그램에 포함됨으로써 MLOps 및 AI 서비스 시장에서의 세계적 경쟁력 및 우수성을 인정받게 되었다.

백엔드닷AI는 AI 개발 및 서비스를 위한 AIOps 환경을 구축하는 클라우드 및 온프레미스용 토탈 플랫폼솔루션으로, 표준화된 플랫폼을 통해 인공지능 연구개발부터 서비스까지 전 과정을 자동화하고, 이미 소유하고 있는 AI 클러스터 또는 클라우드를 통해 필요한 자원을 제공하여 누구나 시간과 비용의 제약 없이 인공지능을 만들고 서비스할 수 있도록 돕는다.

사용자는 노트북이나 에디터, 전문가용 터미널을 통해 편리하게 인공지능 모델을 개발할 수 있으며, 개발자는 강력한 SDK 기반으로 자사 소프트웨어 및 플랫폼에 백엔드닷AI를 통합할 수 있다. 또한 운영자는 제어판으로 개인, 그룹 및 도메인 별 관리를 직관적으로 수행할 수 있으며 대시보드를 통해 다양한 실시간 통계를 확인할 수 있다.

래블업의 신정규 대표는 “백엔드닷AI가 AI기술의 선도기업인 엔비디아의 AI Accelerated 프로그램에 파트너로 선정됨으로써 MLOps 생태계에 보다 진화된 하이퍼스케일 AIOps를 통한 국내외 모든 사용자들의 AI 개발 과정을 더욱 가속화하여 선도화 할 수 있을 것”이라고 밝혔다.

래블업 백엔드닷에이아이(Backend.AI), 엔비디아의 AI Accelerated 프로그램 파트너로 선정

래블업 주식회사는 올플래시(all-flash) 스토리지 플랫폼 전문 기업인 퓨어스토리지와 TAP(Technolpgy Alliance Partners) 프로그램에 글로벌 기술 파트너로 선정되었다고 밝혔다.

TAP 프로그램은 퓨어스토리지와 협력하여 AI, 분석, 클라우드, 최신 데이터 보호 등 사전 테스트된 공동 솔루션을 구축하고 배포하여 더 나은 비즈니스를 제공하며 구축하는 기술 얼라이언스 파트너(Technolpgy Alliance Partners)를 선정하는 프로그램이다.

래블업의 백엔드닷에이아이(Backend.AI)는 하드웨어, 소프트웨어 및 멀티클라우드 공급 클라우드 및 데이터센터 연산자원을 효율적으로 활용해 거대 인공지능(AI) 모델 개발과 고성능 컴퓨팅을 포함한 대규모 계산 워크로드를 실행하고 관리하는 솔루션으로 퓨어스토리지 플래시블레이드의 GPU를 포함한 가속 컴퓨팅의 성능을 최적화시켜 컴퓨팅 리소스를 효율적으로 관리하여 사용자 환경을 변경하지 않고도 GPU 사용성을 극대화한다.

(참고 : https://www.purestorage.com/partners/technology-alliance-partners/lablup.html) 

래블업의 최고운영책임자인 김정묵 이사는 “AI 연구에 대한 개발은 이제 관심이 아닌 실제 적용을 위한 개발 과정을 거치고 있고 그 개발을 위한 인프라 또한 대규모에 고도화가 되어 가고 있다”며 “이번 퓨어스토리지와 TAP가 됨으로써 그러한 인프라를 구축하기 위하여 필요로 하는 고사용성의 하드웨어와 그 하드웨어를 극대화시켜 AI 개발 과정을 더욱 가속화하고 배포, 사용성, AI 인프라 활용에 이르기까지 모든 과정을 최적으로 운영할 수 있는 최적의 솔루션 지원으로 글로벌 시장에 선도적으로 진입하게 되었다” 라고 밝혔다.

래블업, 퓨어스토리지와 파트너십 통해 글로벌 진출 확대

래블업 주식회사는 클라우드 및 데이터센터 연산자원을 효율적으로 활용해 거대 인공지능(AI) 모델 개발과 고성능 컴퓨팅을 포함한 대규모 계산 워크로드를 실행하고 관리하는 솔루션인 ‘백엔드닷에이아이(Backend.AI)’가 아태지역 최초로 엔비디아의 DGX-레디 소프트웨어(NVIDIA DGX-Ready Software)로 인증을 받았다고 밝혔다.

엔비디아 DGX-레디 소프트웨어는 엔비디아 DGX 시스템의 클러스터에서 사용하기 위해 완벽한 테스트와 인증 과정을 마친 검증된 엔터프라이즈급 소프트웨어 솔루션으로, 아태지역 최초로 백엔드닷에이아이(Backend.AI)가 인증을 받았다.

백엔드닷에이아이(Backend.AI)는 엔비디아 DGX 시스템과 엔비디아 GPU를 포함한 가속 컴퓨팅의 성능을 최적화시켜 컴퓨팅 리소스를 효율적으로 관리하여 사용자 환경을 변경하지 않고도 GPU 사용성을 극대화한다. 또한 백엔드닷에이아이(Backend.AI)는 독자적으로 개발한 특허 기술인 컨테이너 기반 GPU 분할 가상화 기술을 바탕으로 고가의 GPU를 필요에 따라 분할해 다수 GPU로 나눠서 쓰는 방식을 자체 지원하며 이를 통해 GPU 사용성을 극대화한다.   
(참고 : [https://www.backend.ai/partners/nvidia)](https://www.backend.ai/partners/nvidia)) 

래블업의 신정규 대표는 “백엔드닷에이아이(Backend.AI)는 교육 기관에서부터 초거대 규모 인공지능 인프라(Hyperscale AI Infra)에 이르기까지 모든 유형의 AI 플랫폼 고객들을 성공적으로 지원해 오고 있다. 아태지역 최초로 엔비디아 DGX-레디 소프트웨어로 인증을 받으며 우리의 이러한 역량을 확인할 수 있게 되어 기쁘다. 앞으로 국내외 모든 사용자들의 AI 개발 과정을 더욱 가속화할 뿐만 아니라 배포, 사용성, AI 인프라 활용에 이르기까지 모든 과정을 최적으로 운영할 수 있도록 지원할 것”이라고 밝혔다.

유응준 엔비디아 코리아 엔터프라이즈 부문 대표는 “엔비디아 DGX 시스템은 대규모 AI 이니셔티브를 가속화하여 의료, 제조, 커머스, 과학 등 여러 분야에 걸쳐 조직들이 주요 도전과제를 해결하도록 돕는다. 엔비디아 DGX-레디 소프트웨어 프로그램은 AI 클러스터 전반에서 워크플로우를 간소화하고 활용도를 최적화하는 래블업의 백엔드닷에이아이(Backend.AI)와 같은 엔터프라이즈 소프트웨어 솔루션을 검증함으로써 고객의 성공을 지원한다”고 설명했다.

래블업 백엔드닷에이아이(Backend.AI), 아태지역 최초 엔비디아 DGX-지원 소프트웨어 프로그램 파트너로 선정

보도 자료

Backend.AI와 Lablup의 최신 소식을 확인하세요.

뉴스 및 언론