[인공지능 친해지기] Hugging Face - (14) HF와 Google이 만든 희소식!

 유튜브

https://youtu.be/glhfZTWfjxE

 

 기존 문제점

 

(고비용과 높은 사양의 메모리 필요) SDXL(Stable Diffusion XL)은 고품질의 사실적인 콘텐츠 생성을 가능하게 하는 제너레이티브 AI 모델임. 그러나 이 모델을 사용하려면 높은 계산 비용과 메모리 요구 사항에 대응해야 함. SDXL은 이전 버전보다 UNet 컴포넌트가 약 3배 더 크며, 이로 인해 프로덕션 환경에서의 배포가 어려웠음

 문제점 해결

- (또 하나의 변화) 2023.10.3일 Google은 Hugging Face Diffusion team의 도움을 받아 Hugging Face Spaces에 초고속 SDXL 추론앱을 출시하였음

 

- (허깅페이스와 구글 공동 작업으로 해결) 허깅 페이스 디퓨저(Hugging Face Diffusers)는 이제 클라우드 TPU와 JAX를 사용하여 SDXL을 지원함으로써 이러한 문제를 해결하였음.

- Google Cloud TPU는 대규모 AI 모델, 특히 SDXL과 같은 생성형 AI 모델의 학습과 추론에 최적화된 맞춤형 AI 가속기임. 최근에 소개된 Cloud TPU v5e는 TPU v4에 비해 절반 가량의 비용으로 높은 성능을 제공, 더 많은 조직이 AI 모델을 효율적으로 학습하고 배포할 수 있게 돕고 있다고 함

 

- (직접 체험 가능) 디퓨저의 JAX 통합은 XLA를 통해 TPU에서 SDXL을 효율적으로 실행하는 방법을 제공하며, 사용자들은 제공된 Hugging Face와 Google이 제공한 데모를 통해 이를 직접 체험할 수 있음.

 

- (시사점) 이러한 혁신은 SDXL과 같은 대형 AI 모델을 더 넓은 범위에서 활용할 수 있는 기회가 생기고 있음을 말해줌.

특히, 일반 비전문가 소비자에게는 더욱 반가운 소식일 수 있음. 

 

[참고] Transformer & Diffusers

구분	Hugging Face Transformer	Hugging Face Diffusers
목적과 사용처	자연어 처리(NLP) 작업에 주로 사용됨	제너레이티브 모델, 특히 이미지 생성 모델에 중점
주요 기능	- 다양한 사전 훈련된 NLP 모델 제공 - 텍스트 분류, 문장 생성, 번역, 요약 등 NLP 작업 지원	- 고성능의 비용 효율적인 추론 지원 - 대형 이미지 생성 모델을 프로덕션 환경에 배포 지원
호환 프레임워크	PyTorch와 TensorFlow	JAX
적용 분야	- 텍스트 분류 - 문장 생성 - 번역 - 요약 등	- 고해상도 이미지 생성 - 제너레이티브 AI 모델의 추론

 

직접 사용 체험

- (Hugging Face또 하나의 변화) 2023.10.3일 Google은 Hugging Face Diffusion team의 도움을 받아 Hugging Face Spaces에 초고속 SDXL 추론앱을 출시하였음

 

(1) Hugging Face Spaces - Stable Diffusion XL on TPU v5e

 

(2) 데모 Application (실습 가능)

 

 

https://huggingface.co/spaces/google/sdxl

Stable Diffusion XL on TPUv5e - a Hugging Face Space by google