뉴스투데이

검색
https://m.news2day.co.kr/article/20241227500088

롯데이노베이트, 'GPU 리소스 할당형' AI 개발 플랫폼 선봬

글자확대 글자축소
전소영 기자
입력 : 2024.12.27 10:52 ㅣ 수정 : 2024.12.27 10:52

1개 GPU 여러개 섹터로 나눌 수 있어 효율적인 운용·비용 절감 가능
AI 서비스 개발의 전 과정을 통합적으로 관리하는 MLOps 플랫폼 지향

image
롯데이노베이트가 공개한 GPU 리소스 할당형 AI 개발 플랫폼 ‘인피디아 스튜디오’ [사진 = 롯데이노베이트]

 

[뉴스투데이=전소영 기자] 롯데이노베이트가 기업이나 개발자들의  손쉬운  AI(인공지능) 개발 인프라 구축을 돕는 서비스를 운영한다. 

 

롯데이노베이트는 27일 그래픽처리장치(이하 GPU)의 자원 관리와 AI 모델 개발 환경을 제공하는 통합 AI 개발 플랫폼 ‘인피디아 스튜디오(INFIDEA Studio)’을 공개했다.

 

이는 생성형 AI 개발이 증가하면서 고성능 GPU의 활용성이 높아지고 있기 때문이다.

 

인피디아 스튜디오에서는 클라우드 기반 서비스로, AI 모델 개발에 요구되는 고성능 GPU를 유연하게 할당받아 사용 가능하다. 

 

또한 개발에 필요한 주피터랩(JupyterLab) 등 여러 가지 작업 도구를 ‘웹 브라우저(Web UI)’토대로 제공해 편의를 돕는다. 이 플랫폼은 AI 모델의 개발부터 배포, 추론까지의 전 과정을 지원하는 머신러닝운영(MLOps)을 지향한다.

 

고객사는 인피디아 스튜디오를 통해 고가의 GPU를 적정 수량만 사용할 수 있도록 운영함으로써 비용을 대폭 축소할 수 있다. 또한 다양한 AI 개발 프레임워크(Framework)와 GPU 가속기 버전을 설정할 수 있어 맞춤형 개발 환경도 구축 가능하다.

 

인피디아 스튜디오는 엔비디아(NVIDIA)의 MIG(Multi-instance GPU) 기술을 활용해, 하나의 GPU를 여러 개의 작은 단위로 나눠 사용할 수 있다.

 

이를 통해 관리자는 GPU의 사용률을 최대치로 끌어올리고 CPU와 RAM의 성능도 설정하는 등 여러 가지 컴퓨팅 리소스 프리셋을 구성할 수 있어 한정된 자원을 최적화할 수 있다. 또한 중요한 프로젝트에 필요한 자원을 우선적으로 할당할 수 있다.

 

이 밖에 스토리지 기능을 통해 대규모 데이터 처리에 적합한 GDS(GPU Direct Storage)와 연동 기능을 지원한다.

 

IBM 스토리지 스케일(Storage Scale), 웨카(Weka) 등과 같은 다양한 GDS 벤더사 지원이 가능하며, 사용자 요구사항을 반영해 NAS(Network Attached Storage)와 같은 일반적인 스토리지도 지원한다. 

 

다수의 개발자가 함께 학습 및 산출 데이터를 공유할 수 있도록 스토리지 공유 기능도 제공한다.

 

롯데이노베이트는 “향후 추론 API(Application Program Interface) 자동 배포 기능을 지원할 예정”이라며 개발자 간 협업을 위한 다양한 보조 도구도 확대해 나갈 계획이다“라고 말했다.

 

또 ”플랫폼 구축 측면에서 온프레미스(On-premise) 환경뿐만 아니라 다양한 클라우드 기반의 마켓플레이스 형태로 확장을 계획 중이다“라며 ”이를 통해 AI 개발 인프라 구축에 어려움이 있는 기업이나 개발자들이 손쉽게 개발 환경을 구축할 수 있도록 지원할 방침이다“라고 말했다. 

© 뉴스투데이 & m.news2day.co.kr 무단전재-재배포금지

댓글 (0)

- 띄어 쓰기를 포함하여 250자 이내로 써주세요.

- 건전한 토론문화를 위해, 타인에게 불쾌감을 주는 욕설/비방/허위/명예훼손/도배 등의 댓글은 표시가 제한됩니다.

0 /250

많이 본 기사

ENG 네이버 블로그 네이버 포스트 인스타그램 유튜브 페이스북 이메일
//