Der neue KI-Chatbot von NVIDIA läuft lokal auf Ihrem PC


NVIDIA hat gerade eine veröffentlicht eines Chatbots, der Das ist ziemlich praktisch, da es dem Chatbot Zugriff auf Ihre Dateien und Dokumente ermöglicht. Sie können Chat with RTX mit einer Auswahl persönlicher Daten versorgen und auf der Grundlage dieser Informationen Zusammenfassungen erstellen lassen. Sie können ihm auch Fragen stellen, genau wie bei jedem Chatbot, und er durchsucht Ihre Daten nach Antworten.

Das Unternehmen gibt an, dass es Benutzern ermöglicht, „lokale Dateien auf einem PC schnell und einfach als Datensatz mit einem großen Open-Source-Sprachmodell wie Mistral oder Llama 2 zu verbinden“. NVIDIA gibt ein Beispiel für einen Benutzer, der den Chatbot nach einem Restaurant fragt, das sein Partner während seines Aufenthalts in Las Vegas empfohlen hat. Die Software durchsucht lokale Dateien, um die Antwort zu finden. Es unterstützt eine ganze Reihe von Dateiformaten, darunter .txt, .pdf, .doc/.docx und .xml. Das Unternehmen gibt an, relevante Dateien „in Sekunden“ in seinen Datensatz zu laden.

Chat mit RTX integriert auch YouTube-Videos und Playlists. Sie können dem Datensatz eine Video-URL hinzufügen, die das im Clip enthaltene Wissen für kontextbezogene Abfragen integriert. Laut NVIDIA ist dies nützlich, wenn Sie nach Reiseempfehlungen „basierend auf Inhalten aus Lieblings-Influencer-Videos“ fragen oder nach Tutorials und Zusammenfassungen aus Bildungsressourcen suchen.

Der Rand mit dem Chatbot und waren beeindruckt und schrieben, dass sie ihn als „einen wertvollen Teil der Datenrecherche für Journalisten oder jeden, der eine Sammlung von Dokumenten analysieren muss“ sehen könnten.

Das klingt nach einem großen Schritt hin zu etwas, das einem echten digitalen Assistenten ähnelt, der im Kontextrahmen Ihrer persönlichen Daten arbeitet. Bei den meisten Chatbots werden die Daten an die Cloud gesendet, aber Chat mit RTX „ermöglicht es Benutzern, vertrauliche Daten auf einem lokalen PC zu verarbeiten, ohne sie mit Dritten teilen oder über eine Internetverbindung verfügen zu müssen.“ Es ist also sicherer Und kontextbewusster.

Es gibt einige Einschränkungen. Da es sich um ein Demoprodukt handelt, sollten Sie mit zahlreichen Fehlern rechnen. NVIDIA sollte jedoch damit beginnen, diese zu beseitigen, sobald Benutzer Fehlerberichte und Ähnliches veröffentlichen. Auch hier gibt es einige strenge Hardware-Einschränkungen. Das Chatten mit RTX funktioniert nur auf Windows-PCs mit GPUs der NVIDIA GeForce RTX 30-Serie oder höher und mindestens 8 GB VRAM.

NVIDIA hat in letzter Zeit seine KI-Fähigkeiten wirklich unter Beweis gestellt, da das Unternehmen gerade seine nächste Generation von auf den Markt gebracht hat. Dies ist vor allem auf die KI- und Rechenzentrumssegmente des Unternehmens zurückzuführen.

Dieser Artikel enthält Affiliate-Links; Wenn Sie auf einen solchen Link klicken und einen Kauf tätigen, erhalten wir möglicherweise eine Provision.

source-115

Leave a Reply