Fireworks AI와 MongoDB가 더 빠르고, 더 효율적이고, 더 안전한 생성형 인공지능을 통한 혁신을 실현하기 위해 파트너십을 맺었음을 알려드립니다. Meta의 PyTorch 팀 출신의 업계 베테랑들이 2022년 말에 설립한 Fireworks AI는 성능 최적화, 개발자 경험 개선, 대규모 AI 앱 실행에 중점을 두고 있습니다.
Fireworks AI는 이러한 전문성을 바탕으로 업계 최고의 개방형 모델을 큐레이팅하고 최적화하여 프로덕션 AI 플랫폼에 적용하고 있습니다. 이 회사의 벤치마킹에 따르면 Fireworks AI에서 실행되는 생성형 인공지능 모델은 다른 플랫폼에 비해 최고 4배 빠른 추론 속도와 최대 8배 더 높은 처리량과 확장성을 제공합니다.
모델은 애플리케이션 스택에 포함되어 있습니다. 그러나 생성형 인공지능의 성능을 활용하려면 개발자가 해당 모델에 엔터프라이즈 데이터를 가져와야 합니다. 바로 이것이 Fireworks AI가 MongoDB와 파트너십을 맺고 AI 도입의 가장 어려운 과제 중 하나를 해결한 이유입니다. 개발자는 MongoDB Atlas를 통해 운영 데이터, 비정형 데이터, 벡터 임베딩을 안전하게 통합하여 일관되고 정확하며 차별화된 AI 애플리케이션과 경험을 안전하게 구축할 수 있습니다.
Fireworks AI와 MongoDB는 고도로 선별되고 최적화된 오픈 소스 모델을 활용하고, 이를 조직의 독점 데이터와 결합하고자 하는 개발자를 위한 솔루션을 제공하며, 이 모든 작업을 탁월한 속도와 보안으로 수행할 수 있도록 공동으로 지원합니다.
Fireworks AI의 초고속 모델: 속도, 효율성, 가치 실현
Fireworks AI는 초고속 추론 플랫폼을 통해 40개 이상의 다양한 AI 모델을 큐레이팅, 최적화 및 배포합니다. 이러한 최적화 덕에 상당한 비용 절감, 지연 시간 단축, 처리량 향상을 동시에 달성할 수 있습니다. 플랫폼이 이를 실현하는 방법은 다음과 같습니다.
-
기성 모델, 최적화된 모델 및 추가 기능: Fireworks AI는 최고 품질의 텍스트, 임베딩 및 이미지 기반 모델 컬렉션을 제공합니다. 개발자는 이러한 모델을 활용하거나 자체 모델을 미세 조정하여 배포할 수 있으며, MongoDB Atlas를 사용해 자체 독점 데이터와 페어링할 수 있습니다.
-
미세 조정 기능: Fireworks AI는 모델 정확도와 속도를 더욱 향상하기 위해 CLI를 사용하여 MongoDB Atlas와 같은 데이터베이스에서 JSON 형식의 개체를 수집하는 미세 조정 서비스도 제공합니다.
-
개발 및 제작을 위한 간단한 인터페이스와 API: 개발자는 Fireworks AI 플레이그라운드를 통해 브라우저에서 직접 모델과 상호 작용할 수 있습니다. 또는 편리한 REST API를 통해 프로그래밍 방식으로 액세스할 수도 있습니다. 이는 OpenAI API와 호환되므로 광범위한 LLM 에코시스템과 상호 운용됩니다.
-
쿡북: 간단하고 사용하기 쉬운 쿡북은 미세 조정, 생성, 평가 등 다양한 사용 사례에 바로 사용할 수 있는 포괄적인 레시피 세트를 제공합니다.
Fireworks AI 및 MongoDB: 엄선되고 최적화된 빠른 모델로 AI의 표준을 정립합니다.
Fireworks AI와 MongoDB Atlas를 사용하면 앱이 가장 엄격한 규제 표준을 충족하는 정교한 보안 제어로 보호되는 격리 환경에서 실행되므로 가동 시간과 개인정보 보호가 보장됩니다.
-
최고의 오픈소스 모델 API 제공업체 중 하나인 Fireworks AI는 하루에 660억 개의 토큰을 제공하며, 그 수는 계속 증가하고 있습니다.
-
Atlas를 사용하면 고성장 스타트업부터 엔터프라이즈 및 정부 기관에 이르기까지 수만 명의 고객에게 서비스를 제공하는 검증된 플랫폼에서 앱을 실행할 수 있습니다.
Fireworks AI와 MongoDB 공동 솔루션을 함께 사용하면 다음과 같은 이점을 얻을 수 있습니다.
-
방대한 문서 풀에서 검색 증강 생성(RAG) 또는 Q&A 수행: 대량의 문서를 수집하여 요약 및 구조화된 데이터를 생성한 다음 대화형 AI를 강화할 수 있습니다.
-
시맨틱/유사성 검색을 통한 분류: 영업 통화, 화상 회의 등에서 소개된 개념과 감정을 분류하고 분석하여 더 나은 인텔리전스와 전략을 제공할 수 있습니다. 또는 제품 이미지와 텍스트를 사용하여 제품 카탈로그를 구성하고 분류할 수 있습니다.
-
이미지에서 구조화된 데이터 추출: 이미지에서 의미를 추출하여 스톡 사진, 패션, 물체 감지, 의료 진단 등 다양한 비전 앱에서 처리 및 검색할 수 있는 구조화된 데이터를 생성합니다.
-
경고 인텔리전스: 대량의 데이터를 실시간으로 처리하여 사기, 사이버 보안 위협 등의 인스턴스를 자동으로 탐지하고 경고합니다.
Fireworks AI 및 MongoDB Atlas 시작하기
임베딩을 사용하여 영화를 색인하는 MongoDB Atlas 데이터베이스와 영화 추천 앱을 구축하는 방법을 보여주는 MongoDB Atlas 및 Fireworks AI 튜토리얼을 통해 RAG
-
최적화를 검토하여 시작해 보세요. (벡터 저장소)
-
문서 임베딩 생성을 위한 시스템입니다. Fireworks 임베딩 API를 사용하여 텍스트 데이터에서 임베딩을 생성합니다. (벡터화)
-
MongoDB Atlas Vector Search는 쿼리를 임베딩으로 변환하여 해당 동영상을 가져오는 방식으로 사용자 쿼리에 응답합니다. (검색 엔진)
-
Mixtral 모델은 Fireworks 추론 API를 사용하여 추천을 생성합니다. 원하는 경우 Llama, Gemma 및 다른 우수한 OSS 모델을 사용할 수도 있습니다. (LLM)
-
MongoDB Atlas 샘플 Mflix 데이터 세트를 로드하여 임베딩 생성(데이터 세트)
또한 조직의 요구 사항에 가장 적합한 아키텍처를 설계할 수 있도록 도와드릴 수 있습니다. 언제든지 계정 팀에 문의하거나 여기를 클릭하여 공동 작업 세션을 예약하고, Fireworks AI와 MongoDB가 AI 개발 프로세스를 어떻게 최적화할 수 있는지 알아보세요.