AI 혁신의 중심 된 '엔비디아 GTC 2024', 국내 주요 참여 스타트업은?

AI 바람 탄 래블업, 엔비디아 GTC2024 참가

래블업, AMAX와 AI 인프라 플랫폼 글로벌 공급 협약

MWC 2024 개막…통신업계 최대 화두도 AI

올거나이즈·래블업 "실제 금융권이 가진 AI 수요와 문제는"

CES서 생성 AI 앱 통합 플랫폼 '젠AI 데스크톱' 공개 - 디지털데일리

한국생성AI파운데이션(KGAF), ‘KGAF 출범식 및 사업설명회’서 13개 회원사 사업·데모발표 진행... “한국 생성 AI 생태계 기업 동반 성장 기대!”

생성형 AI 인프라 플랫폼 뜬다... "GPU서버·고성능 스토리지·AI SW 통합 전진배치"

[AI BUS 2023] 김정묵 래블업 COO “거대 AI 시대, 고효율성 확보해야”

[제1회 인공지능 신뢰성·품질 대상]우수상-래블업 '백엔드닷에이아이

AI 반도체 친구 ‘래블업’ 美 무대 선다… 초거대 시대 칩 지원 기술 공개

AI가 비싸? 내가 해결해줄게! ‘갓성비’ 자신한 스타트업 3곳

[오픈테크넷서밋2023] 래블업, "LLM 전성시대, 누구나 만들 수 있다"

"GPU 가상화기술로 초거대 AI 개발비용 절감" [잇피플] 

래블업, 독일서 韓 LLM 깃발 흔들었다

“AI는 빅테크 기업 전유물? 이제는 아냐”… 연합체 꾸리는 기업들

래블업, IFA 2023 참가, 백엔드닷에이아이로 개발한 LLM 서비스 해외 첫 공개

KSC 2023 개최··· '인공지능 시대의 슈퍼컴퓨팅 미래 논하다'

기업 맞춤형 AI 챗봇 개발 빨라진다… 래블업, 언어모델 미세조정 자동화 기술 공개

래블업, “오픈소스 LLM 활용·서비스 자동화는 백엔드닷AI가 제격”···파이콘한국 2023에서 시연

래블업 "백엔드닷에이아이로 LLM 개발·파인튜닝 크게 간소화"

과기정통부-구글 주최 'AI위크 2023' 행사 개막

[한국생성AI파운데이션] 신정규 래블업 대표, "AI 민주화 꿈꾼다! 선순환 구조 구축해 KGAF 구성원 모두의 발전 유도!"

'나똑똑 AI'만 넘치는 한국…리더 10인이 제안한 생존법 [AI 패권전쟁]

서울대 시스템반도체 진흥센터, ‘2023년 제 1회 상생포럼’ 개최

AI 골드러시에 리바이스가 되려는 '래블업'

챗GPT도 못건드는 AI 스타트업 베스트3

KT, AI 반도체·로봇 등 초격차 스타트업 성장 지원

GPU 효율 400% 늘려주는 '이 기술'...105억 뭉칫돈 몰렸다

AI 개발 플랫폼 기업 래블업, 105억원 규모 투자 유치

래블업, ‘MWC 2023’ 참가, 초거대 AI 모델 서비스 경쟁력 높일 AI 연구개발 플랫폼 선보여

[#Let's 스타트업] "GPU 비용 절감 솔루션으로 원활히 AI 지원"

래블업, CES 2023서 차세대 AI 연구개발 플랫폼 소개…"대규모 AI 서비스 지원"

네카오가 반한 K-스타트업 26곳 CES 진격…전세계 이목 쏠린다

“값비싼 초거대AI 뒤로 ‘가성비’ 모델 뜬다”

NIPA, 오픈소스 활성화·헬스케어 기업 해외진출 논의...'디지털 혁신 리더스 밋업'

비말 전파 경로 AI로 분석…정부, 감염병 빅데이터 플랫폼 구축

인공지능 좀 더 쉽게 개발한다!...과기정통부-ETRI, No-code 기반 AI 응용 소프트웨어 개발 도구 공개

[디지털 의료 현황 점검] 질병 ‘예측’의 시대가 왔다

AI개발 3대 걸림돌인 전력·비용·성능 문제, SW로 해결 가능

[오픈테크넷2022] 'AI 민주화' 기여하는 래블업 '백엔드.AI'는 무엇?

인공지능 기술의 민주화-신정규 래블업 대표

효성인포-래블업, GPU 기반 AI 플랫폼 시장 공략 강화

엔비디아가 주목하는 한국 스타트업 AI 뒤에 '래블업' 있다

[인터뷰] AI 활용한 신규 감염병 대응시스템 개발 시작..."보편적 거리두기 2m 한계 넘는다"

퓨어스토리지, 국내 최초 AI 기술 파트너로 래블업 선정

Backend.AI, ARM 지원 공개, 5G와 저전력 AI 시대 선도

AI 양극화 벗어나 모두가 개발에 집중할 수 있는 환경 제공할 것

래블업, 아태지역 최초 엔비디아 DGX-레디 소프트웨어 인증 획득

신정규 래블업 대표, “지금은 대규모 연산자원의 시대”

래블업, AI 개발 플랫폼 GS인증 1등급 획득

[소프트웨이브 2020]200여개 SW기업 참여...국내 최대 전시서 신기술 선보인다

[제7회 대한민국 SW제품 품질대상]우수상-래블업 '백엔드(Backend).AI'

"필요한 기능만 골라쓰자"...멀티 클라우드 지원 속속 등장

과기정통부, 대기업 협력 스타트업 육성 지원 16개사 선정

테라텍·래블업·이호스트ICT, 'AI 전용 GPU 클라우드 사업' 공동협약 체결

래블업, 일반 소비자용 AI 클라우드 플랫폼 테스트

래블업, 머신러닝 개발에 최적화된 클라우드 플랫폼 도전한다

테라텍·시큐아이·래블업, AI 데이터센터·운영 시장 공략 맞손

포스텍-래블업, AI 연구위해 손잡다

엔비디아 ‘GTC 2019' 개최…국내 유망 AI 스타트업 총출동

엔비디아, 래블업과 AI 개발 지원 프로그램 ‘저스트 모델 잇’ 진행

[4차산업혁명] AI개발 꿈나무, 여기여기 붙어라~

AI 스타트업 육성 프로그램, NVIDIA Inception Program

‘공개SW’ 하다 만난 사람들…“편하게 AI 개발하세요”

엔비디아, AI 스타트업 대상 '인셉션 어워드' 개최

“아이디어만 가지고 떼돈 버는 일은 없다” 기술 스타트업들의 성공기

래블업 “GPU 공급 홍수, 딥러닝 자동화 시대 연다”

들어나 봤니? AI 시장을 재패할 능력자_'래블업'에 주목하라

래블업-커먼컴퓨터, AI 블록체인 프로젝트 ’AI 네트워크’ 설립

상반기 구글 스타트업 지원프로그램 참가 6개사 졸업

KEB하나은행, 생산적 금융 실천'1Q 애자일 랩' 6기 출범

구글 캠퍼스 서울, 스타트업 5곳 신규 입주사로 선정

갈수록 힘 커지는 구글…비결은 블랙홀 같은 기술생태계

머신러닝 분산처리는 ‘래블업’에 맡기세요

래블업, 코딩 교육·머신러닝 관리 플랫폼 출시

어메이저와 래블업이 들려주는 ‘캠퍼스 서울 카페에서 창업을 시작해 입주사가 되기까지’

래블업, 머신러닝 기반으로 분산처리 솔루션 지원

케이큐브벤처스·스톤브릿지VC, ‘래블업’에 20억 공동 투자

12월 2일 공개SW 데이 행사 다채롭게 열려

래블업, 디캠프 주최 3월 디데이 우승

Backend.AI 관련 기사

 ![](https://cdn.lablup.com/Lablup_GTC_24_a1eb755914.png)

래블업이 3월 18일부터 21일까지 미국 새너제이 컨벤션센터에서 열리는 엔비디아의 주요 AI 컨퍼런스인 GTC 2024에 실버 스폰서로 참가한다. 이번 대면 행사는 5년 만에 처음으로 개최되며, 30만 명 이상의 참가자가 온·오프라인으로 참여할 것으로 기대되는 GPU 분야에서 가장 큰 기술 행사이다.

래블업은 이번 컨퍼런스에서 AI 기술의 최전선에 서 있는 두 가지 주제에 대해 발표할 예정이다. 첫 번째 발표 "From Idea To Crowd: Manipulating Local LLMs At Scale"는 래블업 신정규 대표와 김준기 CTO가 진행하며, 이 세션에서는 양자화, QLoRA 등의 리소스 절약 및 모델 압축 기술과 vLLM, TensorRT-LLM 결합을 통해 Backend.AI가 어떻게 대규모 로컬 LLM을 효율적으로 조작하는지 소개한다. 이는 AI 모델의 성능을 최적화하고, 리소스 사용을 최소화하는 혁신적인 접근 방식을 제공할 예정이다.

두 번째 발표인 "Personalized Generative AI: Operation and Fine-Tuning in Household Form Factors"는 3월 20일에 김준기 CTO가 진행한다. 이 세션에서는 클라우드 및 개인 PC의 GPU를 이용하여 사용자 맞춤형 생성형 AI를 개발하고 서비스할 수 있는 방법을 시연한다. 이는 AI 기술을 일상 생활에 더욱 밀접하게 통합하는 개인화된 AI의 새로운 가능성을 제시할 예정이다.

또한, 래블업은 전시부스(Booth #1233)에서 APAC 지역 유일의 엔비디아 DGX-Ready 소프트웨어인 Backend.AI Enterprise를 시연한다. Backend.AI는 엔비디아 DGX 시스템 및 기타 GPU 가속 컴퓨팅 리소스의 성능을 극대화하며, 사용자 환경을 변경하지 않고도 GPU 사용성을 높여주는 AI 인프라스트럭처 운영 플랫폼이다. 부스에서는 또한 생성 AI 개발을 간소화하고 자동화하는 MLOps 소프트웨어 플랫폼, FastTrack으로 파운데이션 모델을 다양한 산업 분야에 특화하거나 나만의 챗봇으로 자동 미세 조정하는 실시간 시연도 제공된다.

MWC에 이어 이번 GTC에서 래블업은 엔비디아 및 Dell, AMAX, Weka와 같은 글로벌 파트너사들과의 협력을 강화하며 함께 본격적인 글로벌 진출을 꾀할 예정이다.

래블업, 엔비디아 GTC 2024에서 AI 혁신의 미래를 제시하다

 ![](https://cdn.lablup.com/MWC_Amax_744f5049a8.jpeg) 

[2024년 2월 26일, 스페인 바르셀로나] 래블업은 26일 스페인 바르셀로나에서 열린 세계 최대 모바일 전시회 ‘MWC 2024’에서 글로벌 HPC 솔루션 기업 ‘AMAX’와 사업개발 협력을 강화하고 비즈니스 확장을 위한 협약식을 진행했다.

협약식에는 래블업의 신정규 대표와 AMAX의 수석 부사장인 보어 싸오가 참석했다. AI 연구, 개발, 서비스 플랫폼 기업인 래블업과 HPC 솔루션 기업인 AMAX는 AI 슈퍼 컴퓨팅 인프라 구축을 가속화하며, 전 세계 연구소 및 데이터 센터에 GPU 통합 솔루션을 제공할 계획이다.

양사는 지난해 11월 런던에서 개최된 “Optimising AI Conference”를 공동 주최하며 협업 방안을 논의해왔다. 이 행사에서는 AI 분야의 기술 전문가, 비즈니스 리더들과 함께 래블업의 영국 진출 사례를 기반으로 텔레콤, 의료, 금융 등 AI 산업 전반에 걸친 사례를 발표하고 네트워킹 시간을 가졌다.

보어 싸오 AMAX 수석 부사장은 "현재 IDC의 문제는 전력량뿐만 아니라 발열 제어에도 있다. 우리는 별도의 리퀴드 쿨링 랙을 연산 랙과 같이 설치하는 구성을 도입하여 현재 IDC 환경에서도 최적의 발열 제어 인프라를 구축할 수 있다"며, "AMAX의 인프라 설계 및 운영 경험과 래블업의 Backend.AI를 결합하여 글로벌 AI 인프라 플랫폼 공급을 기대한다"라고 말했다.

신정규 래블업 대표는 "점점 복잡해지는 AI 인프라스트럭처 운영 및 최적화에 세계 최고의 플랫폼을 제공하는 래블업과, 다양한 스케일의 고성능 컴퓨팅 하드웨어 플랫폼을 제공하는 AMAX이 서로 시너지를 낼 수 있을 것으로 보인다"며, “이번 AMAX와의 협약을 통해 유럽 및 북미 지역의 고성능컴퓨팅 수요를 대상으로 AI 토탈 플랫폼을 제공하여, 전세계의 더 많은 사람들이 Backend.AI를 통한 AI 혁신을 더 가깝게 누릴 수 있도록 하겠다"고 포부를 밝혔다.

래블업, AMAX와 AI 인프라 플랫폼 공급에 대한 글로벌 협약 체결

![](https://cdn.lablup.com/Gen_AI_Dasktop_01_02538c826c.png)

래블업은 오는 2월 26일부터 29일까지 4일간 스페인 바르셀로나에서 열리는 세계 최대 모바일 전시회 ‘MWC 2024’에 참가한다고 밝혔다.

이번 MWC 2024의 최대 화두는 AI이다. 통신사들이 앞다투어 AI 관련 최신 기술의 투자 소식을 알리는 이유도 글로벌 트랜드인 앳지클라우드 시장에 합류하고자 함이다. 래블업은 통신사들이 기지국 단에 세우는 소규모 연산 자원인 엣지클라우드에서 빠르고 쉽게, 그리고 저비용으로 AI를 연구 개발, 그리고 서비스할 수 있는지 사례를 소개한다. 또한 글로벌 기업들과의 협력을 통해 전 세계 엣지클라우드 시장에 진출할 예정이다.

래블업은 이번 전시회에서 일반 대중을 위한 사용하기 쉬운 AI 애플리케이션 통합 플랫폼인 "GenAI Desktop"을 선보일 예정이다. 이 플랫폼은 사용자가 AI를 쉽게 이해하고 활용할 수 있도록 돕는 도구다. 또한, Backend.AI FastTrack을 통해 래블업에서 거대 언어 모델을 원하는 형태로 파인튜닝하여 개발한 챗봇 솔루션인 “Talkativot”을 모바일에서 직접 시연해 볼 수 있다. FastTrack은 기업 및 연구소 대상의 B2B 솔루션으로 생성AI 개발을 간소화하고 자동화하는 MLOps 플랫폼이다. 이 플랫폼으로 데이터 분석, 분류, 처리부터 AI 훈련, 평가, 서비스 배포 등 파이프라인 모든 과정을 신속하고 효과적으로 관리한다.

신정규 대표는 “래블업은 올해 'Make AI Scalable'을 목표로, 엣지클라우드 기반의 AI 솔루션과 생성형 AI 어플리케이션 플랫폼을 통해 글로벌 AI 시장을 선도하는 플랫폼 기업으로 도약할 것"이라고 말했다. 또한, "3월 개최될 NVIDIA GTC 2024에 실버 스폰서로 참가하는 래블업은 국내뿐 아니라 글로벌 AI 시장에서도 최신 AI 트렌드를 선도할 것이다"라고 덧붙였다.

래블업, MWC 2024에서 AI 엣지 클라우드 솔루션과 생성형 AI 어플리케이션 플랫폼 선보여

 ![](https://cdn.lablup.com/Gen_AI_Desktop_bf679fb88c.png) 

AI 연구 개발 플랫폼 기업 래블업은 1월 9일 미국 라스베이거스에서 열리는 세계 최대 가전·IT 박람회 'CES 2024'에 참가한다고 밝혔다. 

래블업은 이번 전시에서 일반 사용자 대상의 생성형 AI 어플리케이션 통합 플랫폼인 “GenAI Desktop”을 공개, 어디에서나 직접 생성AI 어플리케이션을 사용하는 데모를 소개한다. “GenAI Desktop”은 AI 모델을 활용하는 어플리케이션을 어디에서나 데스크탑 앱처럼 실행하는 플랫폼으로, 사용자 입장에서 AI 운영에 대한 자세한 지식을 몰라도 내가 필요한 서비스를 앱처럼 골라 실행할 수 있는 것이 특징이다. GenAI Desktop의 기본 앱 중 하나인 전 세계적으로 열풍인 거대 언어 모델들을 원하는 형태로 파인튜닝하여 챗봇으로 사용하는 “Talkativot”를 래블업 부스(#63301-51)에서 시연해 볼 수 있다. 

또한 래블업은 기업 및 연구소 대상의 B2B 솔루션으로 생성AI 개발을 간소화하고 자동화하는 MLOps 플랫폼인 Backend.AI FastTrack을 시연한다. FastTrack은 AI 프로젝트를 구성하는 데이터 분석, 분류, 처리부터 AI 훈련, 평가, 서비스 배포 등 파이프라인 모든 과정을 신속하고 효과적으로 관리한다. 모든 AI 작업을 복제 및 공유 가능하게 만들어, 반복되는 과정은 쉽게 재사용하거나 공유할 수 있다. 생성AI 시대에 대응하여 GPU 하이퍼스케일러 클라우드들의 대규모 AI 서비스 운영에도 적합하도록 진화한 Backend.AI FastTrack을 부스에서 만날 수 있다. 

올해로 2년 연속 CES에 참가하는 래블업은 KOTRA 한국관에서 준비중인 'K-Tech Forum@CES 2024'에 AI분야 스타트업 패널로 초청되어 NVIDIA, PureStorage, NetApp, Dell 등 글로벌 기업들과 기술 파트너사로 협업 및 영국과 브라질에 수출한 해외 진출 경험을 공유한다. 

신정규 래블업 대표는 “래블업은 전세계가 AI를 쉽고 안전하고 만들고 편리하게 사용할 수 있는 다양한 방법을 끊임없이 고민하고 혁신해 왔다. 이번 CES는 대중이 AI를 친근하게 사용하는 방법에 대한 우리의 해결책을 많은 사람들에게 소개하는 시작이 될 것이다.” 고 밝혔다.

래블업, CES에서 생성AI 어플리케이션 통합 플랫폼 "GenAI Desktop" 공개

![](https://cdn.lablup.com/ai_relib_award_9d1147b73b.JPG)

래블업은 AI 연구·개발, 서비스 플랫폼인 Backend.AI가 과학기술정보통신부가 주최한 ‘제1회 인공지능(AI) 신뢰성·품질 대상’에서 우수상에 선정되었다고 밝혔다.

올해 처음으로 추진한 ‘인공지능(AI) 신뢰성·품질 대상’은 AI 신뢰성과 품질에 초점을 맞춘 국내 최초 시상제도로 신뢰성을 확보한 AI 제품과 서비스(데이터 포함)를 선정·시상함으로써 AI 신뢰성 인식을 확산하고 우수 국산 AI 제품·서비스 홍보를 지원하는 게 목적이다.

Backend.AI는 AI를 연구 및 개발하고 서비스까지 만드는 전 과정을 통합하는 올인원 플랫폼으로, 특히 초거대 AI 및 고성능 컴퓨팅, 슈퍼컴퓨팅 분야에 특화된 엔터프라이즈 솔루션이다. 온프레미스 서버 및 클라우드 환경에 설치되어 딥러닝 모델 설계 및 훈련 과정의 원활한 분산 실행 및 관리를 담당한다. 리눅스 컨테이너 및 VM 기술을 바탕으로 다양한 플랫폼에서 AI 및 고성능 컴퓨팅 코드를 안전하게 분산 및 실행하고, 수천대의 컴퓨터를 동원하는 복잡한 인공지능 개발 과정을 GUI 및 MLOps 기능과 함께 복잡한 설정 없이 자동화한다.

Backend.AI는 독자적으로 개발한 오케스트레이터 및 스케쥴러 위에 GPU 사용 비용을 크게 줄여주는 자체 특허 기반 GPU 분할 가상화 기술과 함께 최신 스토리지 및 AI 가속 하드웨어 기술을 통합하였다. 이를 바탕으로 업계 최고 수준 성능을 달성하여, 막대한 비용이 들어가는 거대 AI 훈련 및 최근 크게 늘어나고 있는 AI 서비스에 들어가는 비용을 효율적으로 줄여주는 것이 특징이다.

Backend.AI는 누구나 장벽없이 AI를 개발할 수 있도록 오픈소스로 공개되고 있으며, 기업 및 기관용 기능이 다수 포함된 엔터프라이즈 버전인 Backend.AI Enterprise는 고성능과 편의성을 통합한 AI 플랫폼으로 인정받아 삼성전자, KT, LG전자등의 국내 대기업을 비롯해 한국은행, 건강보험심사 평가원, GIST 등 70여 개 기업 및 기관에서 사용되고 있다. 또한 엔비디아의 AI 슈퍼컴퓨터인 DGX의 운영에 최적화된 DGX-Ready 소프트웨어로 아시아 태평양 지역에서 유일하게 선정되었으며, 현재 라틴아메리카 및 유럽 지역에 Backend.AI Enterprise를 수출하고 있다.

2015년 창업한 래블업은 올해 초 105억원 규모 시리즈A 투자를 유치하였다. 래블업의 신정규 대표는 “Backend.AI는 AI개발 및 운영 과정에서 발생하는 다양한 신뢰성 문제를 기술적으로 해결하

여, 많은 기업들이 고신뢰, 고품질 AI를 만들 수 있게 지원하고 있다. Backend.AI 자체적으로도 다양한 인공지능 개발시의 신뢰성 품질 요구사항들을 달성한 점이 인정받아 기쁘다”라며 ”이 수상이 Backend.AI의 고객사 및 사용자 확보에 좋은 기회가 될 것이며 글로벌 AI 시장에서 더욱 활발한 활동을 진행하는데 도움이 될 것”이라고 밝혔다.

Backend.AI, 인공지능(AI) 신뢰성·품질 검증받아 우수성 입증

![Backend.AI package.jpg](https://cdn.lablup.com/Backend_AI_package_1276cda2a8.jpg)

  래블업은 10일 미국 콜로라도 컨벤션 센터(덴버)에서 개최하는 “SC23(11.12~17)”에 참가할 예정이라고 밝혔다. 이 컨퍼런스는 고성능 컴퓨팅, 네트워킹, 스토리지 분석을 위한 행사로, AMD, ARM, AWS, IBM, 인텔(Intel), 엔비디아(NVIDIA), SK하이닉스 등 국내외 정상 기업들이 다수 참여한다.

  래블업은 이번 SC23에서 자사의 초거대 AI 생태계 구축을 위한 플랫폼인 Backend.AI를 소개한다. Backend.AI는 엔비디아 CUDA, AMD ROCm 등의 GPU 지원뿐만 아니라, 다양한 NPU 및 AI 반도체들을 최적화 기능들과 함께 제공한다. 구글 TPU를 비롯하여 그래프코어, 리벨리온 Atom 및 퓨리오사 워보이를 최적화 기능과 함께 지원하고 있다. 이를 통해 GPU로 AI 모델을 훈련하고, AI 반도체로 서비스를 연계하는 GPU-NPU 통합 파이프라인을 이용하여 최고의 성능과 최저 비용을 동시에 달성하고 있다.

  또한 Backend.AI는 GPU Direct Storage 기술을 세계 최초로 컨테이너 클러스터에서 구현하여, GPU와 네트워크 스토리지를 직결함으로써 엄청난 데이터 입출력 속도를 제공한다. 이로써 고속 스토리지 시장의 Top 3인 PureStorage, NetApp, Dell EMC와 파트너십을 맺었다. 더불어 Backend.AI는 아태지역에서 엔비디아 DGX-Ready 프로그램에 최초이자 유일하게 선정되었으며, VMWare, RedHat, Canonical 등과 함께 엔비디아 AI Accelerated Program의 파트너로 선정되었다.

  이번 SC23에서는 Backend.AI가 이와 같은 기술을 활용하여 직접 개발 운영 가능한 LLM 서비스를 데모한다. IFA 2023에서 선보인 Meta에서 공개한 Llama2 모델을 포함한 다양한 거대 공개 언어 모델들을 다양한 응용 분야에 맞게 미세 조정하여, Backend.AI의 자동화 시스템인 FastTrack을 통해 온프레미스 환경에서 LLM 서비스를 개발하고 서비스할 수 있음을 알릴 예정이다. 사용자가 제공하는 사진을 기반으로 이야기를 만들고 이미지를 생성, 동화책을 만들어주는 멀티모달 데모인 VisuTale도 선보인다.

  신정규 래블업 대표는 ”초고성능 AI에 더하여 다양한 슈퍼컴퓨터 솔루션들 및 고성능 컴퓨팅에 최적화된 Backend.AI를 전 세계 슈퍼 컴퓨팅 연구자들에게 소개할 수 있어 기쁘다“며 “앞으로도 막대한 양의 연산 자원이 들어가는 기술 선도 분야에서 Backend.AI를 통해 성능 및 비용의 혁신과 압도적인 편리함을 동시에 달성할 수 있도록 노력하겠다”고 밝혔다.

래블업, SC23에서 Backend.AI로 빚은 초거대 AI 서비스 소개

![2023-08-llm-chatbot-screenshot.png](https://cdn.lablup.com/2023_08_llm_chatbot_screenshot_e548d4462f.png)

래블업은 8월 11일~13일 개최된 파이콘 한국 2023에서, AI 연구개발 및 서비스 플랫폼 소프트웨어인 Backend.AI 로 거대 언어 모델을 직접 만들고 파인 튜닝 및 서비스하는 과정을 자동화하는 기능 및 데모를 선보여 참석한 개발자들을 사로잡았다.

데모에서는 최근 Meta에서 공개한 Llama2 모델을 포함한 다양한 오픈소스 거대 언어 모델들을 Backend.AI 의 자동화 시스템인 FastTrack을 통해 한국어에 맞추어 미세조정하였다. Llama2 를 12시간만에 파인튜닝한 모델을 즉석에서 서비스로 만든 챗봇은 전용 UI를 통해 래블업의 엔비디아 H100 클라우드 팜을 통해 행사 기간 동안 서비스되어 많은 참가자들의 주목을 받았다.

Backend.AI는 ▲GPU 클러스터 활용도 극대화, ▲직관적인 사용자 경험 및 관리, ▲저비용/저지연 AI 모델 및 서비스기술, ▲다양한 AI 반도체 지원 등을 바탕으로 다양한 AI 개발 및 서비스 분야를 선도하는 기능을 제공하고 있다. 래블업은 이번 거대 언어 모델 개발, 파인 튜닝 및 서비스 자동화 기능 공개를 통해, 다양한 업무 자동화 및 연구, 프로그래밍 코드 개발등의 본격적인 생성 AI 응용 분야에 Backend.AI를 활용할 수 있음을 입증하였다.

신정규 래블업 대표는 "보안이 요구되는 기업 및 기관, 연구소 및 조직에 거대 언어 모델 기반의 다양한 서비스를 개발하고 사내에 통합하는 과정을 극단적으로 단순화하였다. 모든 조직들이 Backend.AI 를 사용해 필요에 맞는 고유한 거대 언어 모델을 쉽게 파인튜닝하고 운영할 수 있을 것" 이라고 자신했다.

현재 일부 Backend.AI 고객사들을 대상으로 베타 테스트 중인 거대 언어 모델 통합 기능은 9월 Backend.AI 정식 버전에 포함되어 온프레미스 고객사들에게 제공된다. 이 서비스는 국내 최대 슈퍼컴퓨팅 관련 학술대회 및 전시회인 KSC2023(8/21~23, 더케이호텔 서울)에서도 직접 확인할 수 있다.

래블업, 파이콘 한국 2023에서 거대 언어 모델 통합 개발 및 서비스 첫 선 보여

AI 연구/개발, 서비스 플랫폼 기업 래블업 주식회사(대표 신정규)는 **105억 원 규모의 시리즈 A 투자 유치**를 마무리했다고 밝혔다. 이번 래블업의 투자 라운드에는 LB인베스트먼트, IBK기업은행, K2 인베스트먼트 파트너스, 대성창업투자가 참여했다.

최근 ChatGPT 열풍으로 생성형 AI 서비스에 대한 관심이 높아지는 가운데, 투자자들은 기업들이 AI 학습 및 서비스를 위해 필요한 GPU, AI 반도체 및 데이터를 효율적으로 운영할 수 있게 해 주는 플랫폼인 'Backend.AI‘를 개발하고 판매 중인 래블업의 가치를 높게 평가했다.

현재 Backend.AI는 ▲GPU 클러스터 활용도 극대화, ▲직관적인 사용자 경험 및 관리, ▲저비용/저지연 AI 모델 및 서비스 기술, ▲다양한 AI 반도체 지원을 바탕으로, 거대 언어 모델 및 그림, 텍스트, 음악 등의 생성 AI 개발, AI 교육 플랫폼 활용까지 다양한 AI 개발, 서비스 분야에서 활용되고 있다.

래블업의 Backend.AI는 삼성전자, KT, LG전자, CJ등의 국내 대기업을 비롯해 한국은행, 건강보험심사평가원, GIST 등 70여 개 기업 및 기관에서 사용되고 있으며, 아시아 태평양 지역에서 유일하게 인공지능(AI) 개발 및 서비스를 위한 토탈 AIOps 플랫폼 솔루션인 엔비디아의 DGX-Ready 소프트웨어로 선정되었다.

신정규 래블업 대표는 "전 세계적으로 AI 연구/개발과 서비스에 관심이 높은 만큼 필요로 하는 자원인 GPU 사용 및 비용 절감에 대한 부분을 제공해 줄 수 있는 솔루션의 수요 또한 빠르게 증가하고 있다."고 전했다. 그는 또한 "이번 투자를 통해 래블업은 국내뿐 아니라 글로벌 AI 플랫폼 솔루션 시장에서 주도적인 역할을 할 수 있을 것"이라고 강조했다.

AI 연구, 개발, 서비스 플랫폼 기업 래블업, 105억 원 규모 시리즈 A 투자 유치

래블업 주식회사(대표 신정규)는 스페인 바르셀로나에서 열리는 ‘모바일 월드 콩그레스(MWC) 2023’에 Backend.AI(백엔드닷에이아이) R3를 소개할 예정이라고 21일 밝혔다.

![2023_02_mwc_1.jpg](https://cdn.lablup.com/2023_02_mwc_1_2380bd8e59.jpg)

챗GPT의 열풍으로 전세계가 뜨거운 가운데 기업들이 AI 학습 및 서비스를 위해 필요한 GPU, AI 반도체 및 데이터를 효율적으로 운영할 수 있게 해 주는 플랫폼인 ‘Backend.AI’를 이번 전시회를 통해 유럽 및 전 세계 이동통신 업계 및 모바일 관련 기업들에게 소개할 예정이다. 

Backend.AI는 아시아태평양 지역에서 유일한 엔비디아의 DGX-Ready 소프트웨어인 인공지능(AI) 개발 및 서비스를 위한 토탈 AIOps 플랫폼 솔루션이다. 이를 통해, 매우 큰 AI 모델을 학습시키는 데 필요한 컴퓨팅 파워와 전력을 효율적으로 사용할 수 있다. Backend.AI 플랫폼은 AI 연구 및 서비스 개발 과정을 자동화하고, 기관 내에서 필요한 자원을 제공하여 누구나 시간과 비용의 제약 없이 인공지능을 만들고 서비스할 수 있게 한다. 최근에는 Backend.AI의 MLOps 플랫폼인 FastTrack과 Forklift 서비스가 엔터프라이즈 솔루션으로 통합되었다. 이를 통해 AI 서비스 개발 주기를 더욱 빠르게 할 수 있게 되어, 다양한 기관에서 AI 개발에 들어가는 비용과 시간을 절약해 주고 있다.

신정규 래블업 대표는 "MWC 2023은 기존 산업을 혁신하는 디지털 전환의 현실을 확인할 수 있는 장"이라며, "혁신네트워크와 AI가 융합되어 새로운 기술과 비즈니스 모델이 등장하고 있다"고 언급했다. 또한 "래블업은 국내 통신사와 거대 언어 모델부터 생성 모델까지 다양한 수요에 대응하는 AI 모델 서비스를 Backend.AI 기반으로 준비하고 있으며, MWC 2023은 이를 통해 AI를 도입하려는 글로벌 기업들이 편의성과 비용 유연화를 어떻게 함께 달성할 수 있는지 소개하는 자리가 될 것"이라고 밝혔다.

래블업, ‘MWC 2023’ 참가, 챗GPT 같은 초거대 AI 모델 서비스의 원가 경쟁력 높일 AI 연구개발 플랫폼 선보인다.

*   **컨테이너 기반 AI/ML 모델 개발 및 운영 효율화를 위한 최상의 기술력 제공**
*   **AI/HPC를 위한 GPU 환경 구현과 지속적 운영관리까지…양사 시너지 효과 기대**

데이터 인프라 및 솔루션 전문기업 효성인포메이션시스템(대표이사 양정규)이 Hyper-scale AI 개발 플랫폼 전문 기업인 래블업(대표이사 신정규)과 국내 AI(인공지능), ML(머신 러닝), HPC(고성능 컴퓨팅) 시장 저변 확대를 위한 양해각서(MOU)를 체결하고 공동 영업, 마케팅 등 협업을 강화한 다고 XX일 밝혔다.

성공적인 AI 프로젝트를 위해서는 GPU 연산 자원의 효율적인 활용, 증가하는 데이터의 효과적인 저장과 성능 유지, 손쉬운 AI 모델의 개발과 지속적인 운영관리 방안 등을 위한 고도화된 전략이 필요하다.

효성인포메이션시스템은 AI 개발 플랫폼 및 GPU 분할 가상화 기술로 글로벌 기술력을 인정받고 있는 래블업과 함께 GPU 기반 AI 플랫폼 사업 공략을 강화한다. 양사는 검증된 제품과 다양한 프로젝트 노하우를 기반으로 GPU 환경 구현부터 운영관리까지 고객들의 AI 프로젝트를 위한 최상의 인프라 환경을 제공한다.

효성인포메이션시스템은 성능 최적화된 GPU 서버 인프라와 AI 모델 운영 관리 시스템을 결합한 ‘AI 통합 플랫폼’을 통해 기업의 복잡한 AI업무를 단순화해준다. GPU 기반의 데이터 연산부터 고성능 컴퓨팅에 최적화된 스토리지를 활용한 대용량 데이터 저장과 자동화된 관리 및 운영까지 통합적으로 제안하며 고객들의 데이터 기반 디지털 전환을 적극 지원한다.

래블업은 AI 개발 및 서비스를 위한 올인원 엔터프라이즈 클러스터 플랫폼인 Backend.AI(백엔드 닷에이아이)를 제공한다. Backend.AI는 독자 개발한 컨테이너 기반 GPU 분할 가상화 기술과 딥러닝 모델 분산 훈련 및 초거대 모델 개발 플랫폼 기술, GPU 기반 초 저비용/초 저지연 AI 모 델 서비스 기술을 포함한 AI 개발 및 서비스 시대에 필요한 모든 기능을 제공한다. 현재 삼성전 자, KT, LG CNS, SK, 롯데정보통신, CJ 등을 포함한 국내외 선도 기업과 기관에서 사용 중에 있다.

래블업 신정규 대표는 “NVIDIA(엔비디아)의 AI Accelerated Program과 DGX-Ready Software Program 등 기술 파트너십 뿐만 아니라 국내외 대규모 기업과 기관 고객을 통해 검증된 기술력을 바탕으로 고객의 성공적인 AI 프로젝트를 위해 양사의 시너지를 높이겠다”며 “GPU 인프라 환경 구현부터 컨테이너 기반의 효과적인 AI모델 개발 및 서비스 관리 최적화를 통해, 고객은 AIOps를 기반으로 AI 서비스 도입과 비즈니스 성과 창출을 가속화할 수 있을 것”이라고 밝혔다.

양정규 효성인포메이션시스템 대표이사는 “양사가 국내에서 축적해온 데이터 및 AI 관련 기술력을 바탕으로, GPU 가상화 및 자원 관리에 대한 어려움을 겪는 고객에게 최상의 인프라 환경을 제공하겠다”고 밝혔다.

> **래블업 소개**
> 
> 2015년 설립된 Hyper-scale AI 개발 플랫폼 전문 기업인 래블업(Lablup Inc., [www.lablup.com](http://www.lablup.com/) )은, AI 개발 및 서비스 플랫폼 ‘Backend.AI’가 아태 지역 최초로 NVIDIA DGX-Ready Software로 인증받으며 세계적 기술력을 인정받고 있다.
> 
> Backend.AI([www.backend.ai](http://www.backend.ai/))는 AI/ML/HPC를 R&D 부터 비즈니스 서비스, AI 서비스 추론 및 제공까지 하나의 일관된 플랫폼을 통해 효과적으로 관리할 수 있게 하며 삼성전자, KT, LG CNS, SK, 롯데정보통신, SK, 한국은행, ETRI 등 다양한 고객사에서 활용되고 있다.

효성인포메이션시스템-래블업, GPU 기반(Hyper-scale) AI 플랫폼 시장 공략 강화

2022 GTC 키노트에서 엔비디아는 AI Accelerated 프로그램 파트너들을 소개했다. 그 100여개의 기업 중 하이퍼 스케일 인공지능 연구개발 및 서비스 플랫폼인 백엔드닷AI(Backend.AI)를 개발한 국내 기업인 래블업 주식회사(대표 신정규)도 포함되었다.

엔비디아의 AI Accelerated 프로그램은 엔비디아 AI 플랫폼을 활용하여 고객에게 보다 빠르고 효율적이며 최상의 결과를 제공하는 AI 지원 애플리케이션 개발사 및 솔루션 파트너를 위한 것으로 고객은 엔비디아 AI 플랫폼에 안심하고 도입할 수 있다. 이 프로그램에는 Adobe, VMware, Canonical 등 전 세계적으로 유명한 유수의 기업들도 포함되었다.

작년 여름 이미 아태지역 최초로 유일하게 엔비디아의 DGX-레디 소프트웨어로 인증받은 백엔드닷AI는 이번 AI Accelerated 프로그램에 포함됨으로써 MLOps 및 AI 서비스 시장에서의 세계적 경쟁력 및 우수성을 인정받게 되었다.

백엔드닷AI는 AI 개발 및 서비스를 위한 AIOps 환경을 구축하는 클라우드 및 온프레미스용 토탈 플랫폼솔루션으로, 표준화된 플랫폼을 통해 인공지능 연구개발부터 서비스까지 전 과정을 자동화하고, 이미 소유하고 있는 AI 클러스터 또는 클라우드를 통해 필요한 자원을 제공하여 누구나 시간과 비용의 제약 없이 인공지능을 만들고 서비스할 수 있도록 돕는다.

사용자는 노트북이나 에디터, 전문가용 터미널을 통해 편리하게 인공지능 모델을 개발할 수 있으며, 개발자는 강력한 SDK 기반으로 자사 소프트웨어 및 플랫폼에 백엔드닷AI를 통합할 수 있다. 또한 운영자는 제어판으로 개인, 그룹 및 도메인 별 관리를 직관적으로 수행할 수 있으며 대시보드를 통해 다양한 실시간 통계를 확인할 수 있다.

래블업의 신정규 대표는 “백엔드닷AI가 AI기술의 선도기업인 엔비디아의 AI Accelerated 프로그램에 파트너로 선정됨으로써 MLOps 생태계에 보다 진화된 하이퍼스케일 AIOps를 통한 국내외 모든 사용자들의 AI 개발 과정을 더욱 가속화하여 선도화 할 수 있을 것”이라고 밝혔다.

래블업, 백엔드닷AI(Backend.AI) 엔비디아의 AI Accelerated 프로그램 파트너로

래블업 주식회사는 올플래시(all-flash) 스토리지 플랫폼 전문 기업인 퓨어스토리지와 TAP(Technolpgy Alliance Partners) 프로그램에 글로벌 기술 파트너로 선정되었다고 밝혔다.

TAP 프로그램은 퓨어스토리지와 협력하여 AI, 분석, 클라우드, 최신 데이터 보호 등 사전 테스트된 공동 솔루션을 구축하고 배포하여 더 나은 비즈니스를 제공하며 구축하는 기술 얼라이언스 파트너(Technolpgy Alliance Partners)를 선정하는 프로그램이다.

래블업의 백엔드닷에이아이(Backend.AI)는 하드웨어, 소프트웨어 및 멀티클라우드 공급 클라우드 및 데이터센터 연산자원을 효율적으로 활용해 거대 인공지능(AI) 모델 개발과 고성능 컴퓨팅을 포함한 대규모 계산 워크로드를 실행하고 관리하는 솔루션으로 퓨어스토리지 플래시블레이드의 GPU를 포함한 가속 컴퓨팅의 성능을 최적화시켜 컴퓨팅 리소스를 효율적으로 관리하여 사용자 환경을 변경하지 않고도 GPU 사용성을 극대화한다.

(참고 : https://www.purestorage.com/partners/technology-alliance-partners/lablup.html) 

래블업의 최고운영책임자인 김정묵 이사는 “AI 연구에 대한 개발은 이제 관심이 아닌 실제 적용을 위한 개발 과정을 거치고 있고 그 개발을 위한 인프라 또한 대규모에 고도화가 되어 가고 있다”며 “이번 퓨어스토리지와 TAP가 됨으로써 그러한 인프라를 구축하기 위하여 필요로 하는 고사용성의 하드웨어와 그 하드웨어를 극대화시켜 AI 개발 과정을 더욱 가속화하고 배포, 사용성, AI 인프라 활용에 이르기까지 모든 과정을 최적으로 운영할 수 있는 최적의 솔루션 지원으로 글로벌 시장에 선도적으로 진입하게 되었다” 라고 밝혔다.

래블업, 퓨어스토리지와 파트너십 통해 글로벌 진출 확대

래블업 주식회사는 클라우드 및 데이터센터 연산자원을 효율적으로 활용해 거대 인공지능(AI) 모델 개발과 고성능 컴퓨팅을 포함한 대규모 계산 워크로드를 실행하고 관리하는 솔루션인 ‘백엔드닷에이아이(Backend.AI)’가 아태지역 최초로 엔비디아의 DGX-레디 소프트웨어(NVIDIA DGX-Ready  Software)로 인증을 받았다고 밝혔다.

엔비디아 DGX-레디 소프트웨어는 엔비디아 DGX 시스템의 클러스터에서 사용하기 위해 완벽한 테스트와 인증 과정을 마친 검증된 엔터프라이즈급 소프트웨어 솔루션으로, 아태지역 최초로 백엔드닷에이아이(Backend.AI)가 인증을 받았다.

백엔드닷에이아이(Backend.AI)는 엔비디아 DGX 시스템과 엔비디아 GPU를 포함한 가속 컴퓨팅의 성능을 최적화시켜 컴퓨팅 리소스를 효율적으로 관리하여 사용자 환경을 변경하지 않고도 GPU 사용성을 극대화한다. 또한 백엔드닷에이아이(Backend.AI)는 독자적으로 개발한 특허 기술인 컨테이너 기반 GPU 분할 가상화 기술을 바탕으로 고가의 GPU를 필요에 따라 분할해 다수 GPU로 나눠서 쓰는 방식을 자체 지원하며 이를 통해 GPU 사용성을 극대화한다.   
(참고 : [https://www.backend.ai/partners/nvidia)](https://www.backend.ai/partners/nvidia)) 

래블업의 신정규 대표는 “백엔드닷에이아이(Backend.AI)는 교육 기관에서부터 초거대 규모 인공지능 인프라(Hyperscale AI Infra)에 이르기까지 모든 유형의 AI 플랫폼 고객들을 성공적으로 지원해 오고 있다. 아태지역 최초로 엔비디아 DGX-레디 소프트웨어로 인증을 받으며 우리의 이러한 역량을 확인할 수 있게 되어 기쁘다. 앞으로 국내외 모든 사용자들의 AI 개발 과정을 더욱 가속화할 뿐만 아니라 배포, 사용성, AI 인프라 활용에 이르기까지 모든 과정을 최적으로 운영할 수 있도록 지원할 것”이라고 밝혔다.

유응준 엔비디아 코리아 엔터프라이즈 부문 대표는 “엔비디아 DGX 시스템은 대규모 AI 이니셔티브를 가속화하여 의료, 제조, 커머스, 과학 등 여러 분야에 걸쳐 조직들이 주요 도전과제를 해결하도록 돕는다. 엔비디아 DGX-레디 소프트웨어 프로그램은 AI 클러스터 전반에서 워크플로우를 간소화하고 활용도를 최적화하는 래블업의 백엔드닷에이아이(Backend.AI)와 같은 엔터프라이즈 소프트웨어 솔루션을 검증함으로써 고객의 성공을 지원한다”고 설명했다.

래블업, “백엔드닷에이아이(Bakend.AI)”아태지역 최초    엔비디아 DGX-레디 소프트웨어 프로그램 파트너로

보도 자료

Backend.AI 및 Lablup 의 최신 헤드라인을 확인하세요.

뉴스 및 언론