Zum Inhalt springen
News

Gemini Tool Retrieval: Werkzeuge für KI-Assistenten gezielt nachladen

Google startet Tool Retrieval als API-Vorschau. Was kleine Softwarehäuser bei Werkzeugauswahl, Parameterschemata, Zugriffsrechten und Kosten prüfen sollten.

Hemmerich Consulting Redaktion6 Min. Lesezeit
Illustration: Aus einem Werkzeugverzeichnis wird eine Funktion ausgewählt und ihr Parameterschema bei Bedarf nachgeladen.
Illustration · Hemmerich Consulting

Google hat am 19. November 2026 Tool Retrieval für die Gemini API vorgestellt. Die Vorschaufunktion in der Interactions API lädt die Parameterschemata von Werkzeugen erst dann in den Modellkontext, wenn sie gebraucht werden. Für kleine Softwarehäuser und IT-Dienstleister kann das relevant sein, wenn ein KI-Assistent viele unterschiedliche Geschäftsfunktionen ansprechen soll. Für einen einfachen Chatbot ohne solche Anbindungen ist die Neuerung dagegen kein Anlass zum Umbau.

Die folgenden Produktangaben stammen aus der offiziellen Google-Ankündigung. Wir haben die Funktion nicht selbst praktisch getestet. Der sinnvolle Prüfpunkt ist deshalb nicht ein versprochener Effizienzgewinn, sondern eine konkrete Frage: Muss Ihr Assistent wirklich bei jeder Anfrage die vollständigen Beschreibungen aller möglichen Eingabeparameter mitführen?

Was genau später geladen wird

Ein Werkzeug ist hier eine Funktion, die Ihre Anwendung einem KI-Modell anbietet. Sie kann beispielsweise einen Auftragsstatus abfragen oder einen internen Vorgang suchen. Ein Parameterschema beschreibt die erwarteten Eingaben, etwa eine Auftragsnummer und deren Datentyp. Solche Beschreibungen benötigen Platz im Kontext und werden als Eingabetokens verarbeitet.

Google beschreibt für die serverseitige Variante zwei Einstellungen: das zusätzliche Werkzeug tool_search und defer_loading: true bei den zurückgestellten Funktionen. Deren Namen und Beschreibungen bleiben für das Modell sichtbar. Nur die Parameterschemata werden zunächst zurückgehalten. Benötigt das Modell eine Funktion, fordert es diese anhand ihres Namens an. Die API lädt das Schema nach; anschließend kann das Modell einen Funktionsaufruf erzeugen.

Diese Unterscheidung ist wichtig: Tool Retrieval versteckt nicht das gesamte Werkzeugverzeichnis. Es ist auch keine neue Berechtigungsprüfung. Ebenso wenig führt ein geladenes Schema allein schon eine Geschäftshandlung aus. Beim beschriebenen normalen Function Calling führt erst Ihr Anwendungscode die Funktion aus und liefert das Ergebnis zurück. Auswahl, zulässiger Zugriff und tatsächliche Ausführung sind getrennte Aufgaben.

Wo sich eine Prüfung für Dienstleister lohnt

Interessant wird der Ansatz bei Assistenten mit einer größeren Werkzeugbibliothek. Ein IT-Dienstleister könnte für verschiedene Aufgaben getrennte Funktionen anbieten: Vorgänge suchen, einen Auftragsstatus lesen, verfügbare Termine ermitteln oder interne Hinweise abrufen. Wenn ein einzelner Auftrag nur wenige dieser Funktionen braucht, könnten viele Parameterschemata unnötig mitgeschickt werden.

Die technische Neuerung betrifft also die Bereitstellung dieser Schemata, nicht die Anbindung eines bestimmten Unternehmenssystems. Sie ersetzt weder die Einrichtung einer Schnittstelle noch die Entscheidung, welcher Nutzer welche Daten sehen darf. Auch die Qualität der Werkzeugnamen und Beschreibungen bleibt wichtig, weil das Modell auf dieser Grundlage die passende Funktion anfordern soll.

Google nennt außerdem Unterstützung für entfernte MCP-Server. Bei einem entsprechend zurückgestellten mcp_server werden dessen Werkzeuge nach Bedarf geladen. Das kann die Verwaltung umfangreicher Anbindungen vereinfachen. Ob die konkrete Verbindung, ihre Rechte und die Datenverarbeitung für Ihren Auftrag passen, müssen Sie weiterhin separat prüfen.

Ein hypothetischer Test mit einem Serviceassistenten

Angenommen, ein kleines Softwarehaus entwickelt einen internen Assistenten für einen technischen Kundendienst. Dieser soll anhand einer synthetischen Auftragsnummer zunächst nur den Bearbeitungsstand ermitteln. Daneben existieren weitere Funktionen für Terminabfragen und die Suche in internen Vorgängen. Dieses Beispiel ist eine Planungsskizze, kein durchgeführter Kundenversuch und kein Nachweis einer Einsparung.

Für einen ersten Vergleich würde das Team dieselben freigegebenen Testfragen mit und ohne verzögertes Schema-Laden bearbeiten lassen. Es würde dokumentieren, welche Funktion ausgewählt wurde, ob die Eingaben korrekt waren und ob die Antwort durch das Funktionsergebnis gedeckt ist. Zusätzlich wären Eingabetokens, Antwortzeiten und Kosten pro vollständig bearbeiteter Aufgabe zu erfassen. Ein einzelner gelungener Dialog reicht dafür nicht.

Wichtig wären auch unpassende oder mehrdeutige Fragen. Fordert der Assistent dann ein falsches Werkzeug an? Erkennt die Anwendung unzulässige Zugriffe? Bricht sie bei fehlenden Pflichtangaben kontrolliert ab? Diese Fragen prüfen den eigenen Ablauf. Sie sind keine Behauptung, dass die Vorschaufunktion bereits eine bestimmte Fehlerquote erreicht.

Für diesen Versuch sollten zunächst nur lesende Funktionen und synthetische Daten freigegeben sein. Schreibende Aktionen, etwa eine Terminänderung, würden einen gesonderten Freigabeprozess benötigen. Das Nachladen eines Schemas darf nicht automatisch zur Erlaubnis werden, eine solche Aktion auszuführen.

Kosten und Grenzen nüchtern betrachten

Laut Google hat Tool Retrieval keinen separaten Funktionsaufschlag. Die normalen Ein- und Ausgabetokenpreise des verwendeten Modells gelten jedoch weiter. tool_search fügt einen kleinen festen Eingabetokenblock hinzu. Ein nachgeladenes Schema wird für den restlichen Gesprächsverlauf wie ein von Anfang an bereitgestelltes Werkzeug als Eingabe berechnet.

Damit ist eine Ersparnis nicht garantiert. Entscheidend ist, ob die nicht geladenen Schemata den zusätzlichen Aufwand überwiegen. Google empfiehlt ausdrücklich die Messung am eigenen Datenverkehr. Ein Assistent, der fast alle Werkzeuge regelmäßig benötigt, hat eine andere Ausgangslage als einer mit vielen selten genutzten Funktionen.

Die Ankündigung nennt Unterstützung ab Gemini 3.6 in der Interactions API. Es handelt sich um eine Vorschaufunktion. Daraus folgt weder eine pauschale Zusage für jede bestehende Integration noch ein Grund, einen funktionierenden Produktivablauf ungeprüft umzustellen. Vertragsbedingungen, Datenumfang und zulässige Zugriffe bleiben eigene Prüfpunkte.

Ihr nächster Schritt

Lassen Sie zunächst Ihre tatsächlich angebotenen Werkzeuge und deren Nutzung erfassen. Wählen Sie danach einen eng begrenzten, lesenden Testfall. Vergleichen Sie korrekte Aufgabenerledigung, Fehlverhalten und Gesamtkosten, nicht nur die Länge einer Anfrage. Erst wenn dieser Vergleich einen nachvollziehbaren Vorteil zeigt, lohnt sich die Planung einer breiteren Umstellung.

Quellen

Mit KI-Unterstützung erstellt. Die Quellen sind im Beitrag verlinkt.

Blog abonnieren

Neue Blogartikel erscheinen im RSS-Feed, sobald sie veröffentlicht sind. Unser separater KI-Newsletter bündelt ausgewählte KI-Neuigkeiten und Praxiswissen für Unternehmen, ohne festen Versandrhythmus. Die freiwillige Anmeldung erfolgt mit Bestätigung und ist jederzeit widerrufbar. Sie löst keinen E-Mail-Versand jedes Blogartikels aus.

Was bedeutet das für Ihren Betrieb?

Wir besprechen Ihre Aufgabe und ordnen gemeinsam ein, welcher nächste Schritt sinnvoll ist.

Vorhaben besprechen