Retool hat gerade seinen allerersten State of AI-Bericht veröffentlicht und es lohnt sich, ihn zu lesen. Basierend auf dem äußerst beliebten Bericht „State of Internal Tools“ erfasste die „State of AI“-Umfrage den Puls von über 1.500 Technikleuten aus den Bereichen Softwareentwicklung, Führung, Produktmanager, Designer und mehr aus verschiedenen Branchen. Der Zweck der Umfrage besteht darin, zu verstehen, wie diese Technikleute künstliche Intelligenz (KI) nutzen und damit bauen.
Im Rahmen der Umfrage untersuchte Retool, welche Tools beliebt sind, einschließlich der Vektordatenbanken, die am häufigsten mit KI verwendet werden. Die Umfrage ergab, dass MongoDB Atlas Vector Search den höchsten .NET Promoter Score (NPS) erzielte und die am zweithäufigsten genutzte Vektordatenbank war – und das innerhalb von nur fünf Monaten nach ihrer Veröffentlichung. Damit liegt es vor konkurrierenden Lösungen, die es schon seit Jahren gibt.
In diesem Blog untersuchen wir den phänomenalen Aufstieg von Vektordatenbanken und wie Entwickler Lösungen wie Atlas Vector Search nutzen, um KI-gestützte Anwendungen zu erstellen. Wir werden auch andere wichtige Highlights aus dem Retool-Bericht behandeln.
Schauen Sie sich unsere KI-Ressourcenseite an, um mehr über die Erstellung KI-gestützter App mit MongoDB zu erfahren.
Einführung von Vektordatenbanken: Aus den Charts (naja, fast ...)
Von mathematischer Neugier bis zur Superkraft hinter generativer KI und LLMs haben Vektoreinbettungen und die Datenbanken, die sie managed , in sehr kurzer Zeit einen langen Weg zurückgelegt.
Schauen Sie sich die DB-Engine Trends bei Datenbankmodellen in den letzten 12 Monaten an und Sie werden sehen, dass Vektordatenbanken bei der Beliebtheitsänderung alle anderen um Längen übertreffen. Schauen Sie sich einfach die Flugbahn der rosa Linie „nach oben und rechts“ in den Charts unten an.
Aber warum sind Vektordatenbanken so beliebt geworden?
Sie sind eine Schlüsselkomponente in einem neuen Architekturmuster namens Retrieval-Augmented Generation – auch bekannt als RAG – einer leistungsstarken Mischung, die die Argumentationsfähigkeiten vorab trainierter Allzweck-LLMs kombiniert und ihnen unternehmensspezifische Echtzeitdaten zuführt. Das Ergebnis sind KI-gestützte App , die dem Unternehmen auf einzigartige Weise dienen – sei es bei der Entwicklung neuer Produkte, der Neugestaltung der Kundenerfahrung oder der Steigerung der internen Produktivität und Effizienz auf beispiellose Höhen.
Vektoreinbettungen sind eine der grundlegenden Komponenten, die erforderlich sind, um die Leistungsfähigkeit von RAG freizusetzen. Vektor-Einbettungsmodelle kodieren Unternehmensdaten, egal ob Text, Code, Video, Bilder, Audio- Stream oder Tabellen, als Vektoren. Diese Vektoren werden dann gespeichert, Index und in einer Vektordatenbank oder Engine abgefragt, wodurch die relevanten Eingabedaten als Kontext für das ausgewählte LLM bereitgestellt werden. Das Ergebnis sind KI- App , die auf Unternehmensdaten und -wissen basieren, die für das Unternehmen relevant, genau, vertrauenswürdig und aktuell sind.
Wie die Retool-Umfrage zeigt, ist die Vektordatenbanklandschaft noch weitgehend auf der grünen Wiese. Weniger als 20 % der Befragten nutzen heute Vektordatenbanken, aber mit dem wachsenden Trend zur individuellen Anpassung von Modellen und KI-Infrastruktur wird die Akzeptanz garantiert zunehmen.
Warum übernehmen Entwickler Atlas Vector Search?
Die State of AI-Umfrage von Retool enthält einige großartige Vektordatenbanken, die in den letzten Jahren eine Vorreiterrolle gespielt haben, insbesondere bei Anwendungen, die eine kontextbewusste semantische Suche erfordern. Denken Sie an Produktkataloge oder Content Discovery.
Die Herausforderung für Entwickler bei der Verwendung dieser Vektordatenbanken besteht jedoch darin, dass sie sie zusammen mit anderen Datenbanken in den Tech-Stack ihrer Anwendung integrieren müssen.
Jede zusätzliche Datenbankschicht im Anwendungstechnologie-Stack fügt eine weitere Quelle für Komplexität, Latenz und betrieblichen Overhead hinzu. Das bedeutet, dass sie über eine weitere Datenbank verfügen, die sie beschaffen, erlernen, integrieren (für Entwicklung, Tests und Produktion), sichern und zertifizieren, skalieren, überwachen und sichern müssen – und das alles, während die Daten über diese mehreren Systeme hinweg synchron bleiben.
MongoDB verfolgt einen anderen Ansatz, der diese Herausforderungen vollständig vermeidet:
-
Entwickler speichern und durchsuchen native Vektoreinbettungen in demselben System, das sie als Betriebsdatenbank verwenden.
-
Mithilfe der verteilten Architektur von MongoDB können sie diese verschiedenen Arbeitslasten isolieren und gleichzeitig die Daten vollständig synchronisieren.
-
Search Nodes bieten dedizierte Rechen- und Workload- Isolation , die für speicherintensive Vektorsuch-Workloads von entscheidender Bedeutung ist, und ermöglichen so eine verbesserte Leistung und höhere Verfügbarkeit
-
Mit dem flexiblen und dynamischen Schema von MongoDB können Entwickler Beziehungen zwischen Vektoren, Metadaten und Anwendungsdaten auf eine Weise modellieren und weiterentwickeln, die andere Datenbanken nicht können.
-
Mit einer ausdrucksstarken Abfrage-API und Treibern, die alle gängigen Programmiersprachen unterstützen, können sie Vektor- und Betriebsdaten auf jede von der Anwendung benötigte Weise verarbeiten und filtern.
-
Mithilfe der vollständig verwalteten Entwicklerdatenplattform MongoDB Atlas können Entwickler die Skalierbarkeit, Sicherheit und Leistung erreichen, die ihre Anwendungsbenutzer erwarten.
Was bedeutet dieser MEAN Ansatz für Entwickler? Schnellere Entwicklungszyklen, eine leistungsstärkere App mit geringerer Latenz und aktuelleren Daten, gepaart mit geringerem Overhead und geringeren Kosten. Ergebnisse, die sich im erstklassigen NPS-Score von MongoDB widerspiegeln.
Saravana Kumar, CEO, Kovai spricht über die Entwicklung des KI-Assistenten seines UnternehmensAtlas Vector Search ist robust, kostengünstig und unglaublich schnell!
Schauen Sie sich unsere Blog Reihe „Building AI with MongoDB“ an (gehen Sie zum Abschnitt „Erste Schritte“, um frühere Ausgaben zu sehen). Hier sehen Sie, wie Atlas Vector Search für GenAI-basierte Anwendungen verwendet wird, die Konversations-KI mit Chatbots und Voicebots, Co-Piloten, Bedrohungsinformationen und Cybersicherheit, Vertragsmanagement, Fragebeantwortung, Compliance- und Behandlungsassistenten im Gesundheitswesen, Inhaltserkennung und Monetarisierung usw. umfassen mehr.
Pierce Lamb, Senior Software Engineer im Team für Daten und maschinelles Lernen bei VISO TRUSTMongoDB speicherte bereits Metadaten zu Artefakten in unserem System. Mit der Einführung von Atlas Vector Search verfügen wir nun über eine umfassende Vektor-Metadaten-Datenbank, die sich über ein Jahrzehnt im Kampf bewährt hat und unsere Anforderungen an die Suche nach dichten Daten erfüllt. Es ist nicht erforderlich, eine neue Datenbank bereitzustellen, die wir managed und erlernen müssten. Unsere Vektoren und Artefaktmetadaten können direkt nebeneinander gespeichert werden.
Was können Sie aus dem Retool-Bericht über den Stand der KI lernen?
Die Umfrage deckt nicht nur die beliebtesten Vektordatenbanken auf, sondern befasst sich auch mit KI aus verschiedenen Perspektiven. Zunächst wird untersucht, wie die Befragten KI wahrnehmen. (Es überrascht nicht, dass die C-Suite optimistischer ist als einzelne Mitwirkende.) Anschließend werden Investitionsprioritäten, die Auswirkungen von KI auf zukünftige Berufsaussichten und die voraussichtlichen Auswirkungen auf Entwickler und die von ihnen in Zukunft benötigten Fähigkeiten untersucht.
Anschließend untersucht die Umfrage den Grad der KI-Einführung und -Reife. Über 75 % der Umfrageteilnehmer geben an, dass ihre Unternehmen Anstrengungen unternehmen, um mit KI zu beginnen. Etwa die Hälfte gab an, dass es sich hierbei noch um frühe Projekte handelte, die hauptsächlich auf interne Anwendungen ausgerichtet waren. In der Umfrage wird anschließend untersucht, um welche Anwendungen es sich handelt und welchen Nutzen die Befragten für das Unternehmen davon halten. Es stellt fest, dass fast jeder KI bei der Arbeit einsetzt, unabhängig davon, ob es ihm erlaubt ist oder nicht, und identifiziert dann die größten Schwachstellen. Es ist keine Überraschung, dass Modellgenauigkeit, Sicherheit und Halluzinationen ganz oben auf dieser Liste stehen.
Den Abschluss der Umfrage bildet die Untersuchung der im Einsatz befindlichen Top-Modelle. Auch hier ist es keine Überraschung, dass die Angebote von Open AI wegweisend sind, aber es deutet auch auf eine wachsende Absicht hin, in Zukunft Open Source Modelle zusammen mit KI-Infrastruktur und Tools für individuelle Anpassungen zu nutzen.
Sie können sich alle Einzelheiten der Umfrage ansehen, indem Sie den Bericht lesen.
Erste Schritte mit Atlas Vector Search
Möchten Sie einen Blick auf unser Vektorsuchangebot werfen? Besuchen Sie unsere Atlas Vector Search-Produktseite. Dort finden Sie Links zu Tutorials, Dokumentationen und wichtigen AI Umgebung-Integrationen, sodass Sie direkt mit der Entwicklung Ihrer eigenen GenAI-basierten App beginnen können.
Wenn Sie mehr über die umfassenden Möglichkeiten der Vektorsuche erfahren möchten, laden Sie unser Whitepaper zum Einbetten generativer KI herunter.