Der Hersteller von Grafik-Chips NVIDIA hat eine Demo vorgestellt, die einen KI-Chatbot auf dem eigenen Computer betreibt. Hierfür ist keine Cloud notwendig, nur eine halbwegs moderne Grafikkarte mit einem Chip des Herstellers.
„Chat with RTX“ verspricht schnelle Ergebnisse
NVIDIA nennt die Demo „Chat with RTX“ und verspricht schnelle Ergebnisse. Dies soll dadurch erreicht werden, dass der Chatbot lokal auf dem eigenen PC läuft. Ein erster Anwendungszweck ist eine Suchfunktion, die alle gängigen Arten von Dokumenten auf dem Computer durchsucht und bei entsprechenden Anfragen schnelle Antworten liefert, weil keine Internetverbindung für die Verarbeitung notwendig ist. Alles, was du dafür benötigst, ist eine relativ aktuelle Grafikkarte; unterstützt werden GeForce RTX 30 und 40, beziehungsweise RTX Ampere oder Ada, wobei mindestens 8 GB Grafikspeicher zur Verfügung stehen müssen.
Apple plant wohl Ähnliches
Momentan sind es nur Gerüchte, aber nicht zuletzt nach der jüngsten Anspielung von Tim Cook glaubhafte: Apple soll für iOS 18 und das iPhone 16 ähnliche Ambitionen haben. Siri soll demnach in eine modernere KI überführt werden und das iPhone 16 die Möglichkeit erhalten, Anfragen lokal auf dem Gerät auszuführen. Insofern könnte NVIDIA mit „Chat with RTX“ zeigen, dass ein solches Unterfangen technisch möglich ist.
Apple wäre in dem Fall wohl nicht der erste Hersteller, der eine lokale KI anbietet – aber vielleicht dennoch der Erste, der eine solche Funktion in ein Smartphone einpflanzt. Denn die NVIDIA-Lösung ist alles andere als geeignet für den Einsatz in mobilen Geräten: Allein die unterstützten Grafikkarten werden mit einem Stromverbrauch von 200 Watt oder mehr angegeben.
Diskutiere mit!
Hier kannst du den Artikel "NVIDIA zeigt ersten lokalen KI-Chatbot: Demo für Apples Vorhaben?" kommentieren. Melde dich einfach mit deinem maclife.de-Account an oder fülle die unten stehenden Felder aus.
da bin ich drauf gespannt,direkt und präzise antworten von siri!?wenn siri smart wird,dann komm ich nicht mehr klar ;-);-)