OGcon
Ratgeber
17. August 2026

Telefon-KI-Agenten: was sie können und wie der Einstieg gelingt

Ein Telefon-KI-Agent geht ans Telefon, wenn gerade niemand kann: Er beantwortet Standardfragen, bucht Termine, leitet weiter und schickt das Gespräch danach als Zusammenfassung und komplettes Transkript. Martin Jäger richtet so etwas in rund einer Stunde ein. Der Rest ist Nacharbeit — und die entscheidet über die Qualität.

Telefon am Empfangstresen einer Praxis – typischer Einsatzort für einen Telefon-KI-Agenten
KI-generiertes Bild

Was ein Telefon-KI-Agent tatsächlich tut

Martin Jäger baut so etwas auf der OGcon 2025 live auf, ohne Vorbereitung — er sagt selbst, dass er das schon vor 150 Unternehmern in einer Handwerkskammer in drei Minuten gemacht hat. Was danach am Telefon sitzt, ist kein Anrufbeantworter mit besserer Stimme, sondern ein System, das ein Gespräch führt und danach Arbeit abliefert.

  • Abnehmen und einordnen: Der Agent meldet sich mit Namen, fragt, worum es geht, und erkennt aus der Antwort, ob er selbst zuständig ist.
  • Aus einer Wissensdatenbank antworten: Hinterlegte Dokumente werden zur Antwortgrundlage. In Jägers Demo hängt ein über 340-seitiges Dokument dran, aus dem der Agent im laufenden Gespräch die passende Stelle heraussucht.
  • Termine buchen: Über eine Kalender-Anbindung — der Anrufer nennt die gewünschte Länge, der Termin steht danach im Kalender.
  • Weiterleiten nach Stichwort: Sagt jemand „Vertrieb", geht es zu Peter, bei „Geschäftsführung" zu Martin, bei „IT" zu jemand anderem. Klassische Telefonanlagen werden damit ein Stück weit obsolet.
  • Nachbereiten, ohne dass jemand tippt: Der Anrufer bekommt eine SMS, du eine E-Mail mit Zusammenfassung, Telefonnummer und dem gesamten Gesprächsverlauf.

Das Prinzip ist damit dasselbe wie bei jedem Agenten, der Aufgaben statt Antworten liefert — nur eben über den Kanal Sprache. Wo das in Jägers eigener Landkarte steht, zeigt der Beitrag zu den Stufen der KI: Ein Telefon-Agent ist gelebte Stufe drei. Wie die Mechanik dahinter grundsätzlich funktioniert, steht in Agentische KI erklärt.

Warum ausgerechnet Sprache so viel Abwehr auslöst

Bei kaum einer KI-Anwendung ist die Ablehnung so reflexhaft wie hier, und Jäger hat dafür eine Erklärung, die nichts mit Technik zu tun hat. Sprache ist etwas, was nur uns Menschen vorbehalten ist. Ein Affe kann nicht mit einem Vogel reden — wir Menschen können untereinander immer irgendwie, egal aus welchem Land wir kommen. Und jetzt kann das plötzlich eine Maschine, die nicht geboren wurde, kein Fleisch, keine Knochen hat. Dieser Eingriff in eine sehr intime Sache ist uns strange, sagt er. Das ist keine Sachfrage, sondern ein Gefühl — und deshalb hilft dagegen auch kein Datenblatt.

Sein Gegenargument ist die Beobachtung, dass es längst passiert. Auf seinem Android-Telefon drückt er bei einer unbekannten Nummer einen Knopf, dann geht ein KI-Agent dran und fragt, wer da ist; das Gespräch wird live mitgeschrieben, und Jäger entscheidet, ob er übernimmt. Kostenlos, ab Werk im Handy. So etwas gewöhnt man sich unbemerkt an.

„Tun, nicht analysieren, nicht ewig lamentieren." Jägers Merksatz zieht sich durch den ganzen Talk. Er nennt das Gegenteil analytische Lethargie: erst Claude oder ChatGPT oder Gemini vergleichen, dann Mistral aus der EU dazu, dann noch mal alles abwägen — und am Ende macht man nichts. Wer den Einstieg lieber gemeinsam mit anderen Unternehmern geht, findet den Rahmen dafür in der KI-Weiterbildung der OGcon.

Telefonhörer aus Glas auf einem Stapel Dokumente – Sinnbild für die Wissensdatenbank eines Telefon-KI-Agenten

Datenschutz: die zwei Punkte, an denen es wirklich hängt

Auf die Frage, ob das überhaupt legal sei, antwortet Jäger mit „ja und nein" und einem seiner trockenen Sätze: Als Unternehmer stehe man ohnehin immer mit einem halben Bein im Knast. So salopp das klingt, so konkret werden seine zwei Prüfpunkte.

Der erste ist der Serverstandort — und zwar nicht der des Anbieters, sondern der der Stimme dahinter. Viele Sprach-Agenten greifen im Hintergrund auf Sprachsynthese-Dienste zurück, die ausschließlich in den USA laufen. Man merkt den Unterschied auch beim Tempo: Die schnelleren Stimmen sind laut Jäger typischerweise die außereuropäischen, europäisch gehostete Stimmen liegen rund 700 Millisekunden dahinter. Verkraftbar, sagt er — und genau das ist der Abwägungspunkt, den man einmal bewusst trifft statt ihn zu übersehen.

Der zweite Punkt ist, was mit dem Gesagten passiert. Jäger bringt dafür den Begriff „fire and forget" ins Spiel, der ursprünglich aus dem Militärischen stammt: Die KI bekommt etwas zu verarbeiten, antwortet — und vergisst danach, was sie gefragt wurde. Warum das zählt, macht er am Beispiel einer Arztpraxis klar. Der Agent kann Termine verbuchen und bei einer medizinischen Frage eine E-Mail an den Arzt schicken. Aber wenn ein Patient am Telefon sagt, er habe Blut im Urin, kann man ihm das nicht verbieten — und dann liegt eine hochsensible Information im System. Ein Prozess, der solche Inhalte gar nicht erst dauerhaft ablegt, ist deshalb keine Kür.

Zwei Dinge, die nichts kosten und den größten Teil des Ärgers vermeiden: Auf der Website steht bei Jäger direkt unter der Telefonnummer, dass dort eine KI abnimmt — so entscheidet der Anrufer selbst, ob er anruft. Und im Gespräch sagt der Agent es noch einmal, samt Hinweis auf die Aufzeichnung. Ohne diese Ansage darf ein Anruf in Deutschland nicht mitgeschnitten werden. Jägers eigener Rat lautet zwar „beschäftigt euch nicht zu Tode mit dem Datenschutz" — die Ansage selbst ist aber genau das Gegenteil von Aufwand. Rechtsverbindlich ist das hier nicht, im Zweifel gehört der eigene Aufbau einmal geprüft.

Wo Telefon-Agenten heute schon arbeiten

Die Beispiele, die Jäger mitbringt, kommen alle aus laufenden Projekten und haben eines gemeinsam: Es geht nie um den großen Wurf, sondern um eine einzelne Tätigkeit, die vorher jemand nebenher gemacht hat.

  • Praxis und Kanzlei: Die medizinische Fachangestellte ist, wie Jäger es nennt, die teuerste Telefonistin der Welt. Termine und Standardauskünfte übernimmt der Agent, alles Medizinische geht per E-Mail an den Arzt.
  • Handwerk mit mündlichen Richtpreisen: Bei einem Maler ist der Agent so weit trainiert, dass er aus Neubau und Quadratmeterzahl eine erste Hausnummer nennen darf — ausdrücklich unverbindlich. Der Nutzen liegt nicht darin, mehr Angebote zu schreiben, sondern weniger: nämlich nur noch die, aus denen etwas werden kann.
  • Baubericht auf der Heimfahrt: Der Mitarbeiter ruft aus dem Transporter über die Freisprecheinrichtung eine Nummer an und spricht, was auf welcher Baustelle mit wem und wie lange gemacht wurde. Statt handschriftlicher Zettel mit fragwürdiger Schrift landen saubere, verwertbare Daten im System.
  • Interne Auskunft für neue Mitarbeitende: Eine Nummer für die Fragen der ersten Wochen: wo ist die Kantine, wo melde ich mich krank, mein Laptop streikt, an wen wende ich mich. Weil alles protokolliert wird, sieht man hinterher, welche Fragen der Agent nicht beantworten konnte — und ergänzt genau die.

Ein Punkt, der leicht untergeht: Mehrsprachigkeit ist hier eine Prompt-Zeile, keine Personalfrage. Man kann dem Agenten schlicht sagen, er soll die Sprache des Anrufers spiegeln — ruft jemand auf Türkisch an, antwortet er Türkisch. Stell dir mal vor, sagt Jäger, du müsstest eine Assistenz suchen, die vierzig Sprachen spricht. Gerade bei servicelastigen Dienstleistungen fällt damit die Dolmetscher-Kette weg.

Der Prompt: dem Agenten das Telefonieren beibringen

Hier liegt die eigentliche Arbeit, und Jägers Weg dorthin ist bewusst unspektakulär. Nimm dein Handy, jedes hat ein Diktiergerät, und sprich zehn Minuten lang so, wie du eine neue Assistenz einarbeiten würdest: Wir sind die Firma soundso, wir machen das und das, so gehen wir ans Telefon, diese Fragen kommen ständig. Dieses Transkript gibst du der KI mit der Bitte, daraus einen Prompt für eine Telefon-KI zu bauen. Nichts overengineeren, sagt er.

Was in einen guten Prompt gehört, zeigt er an seinem eigenen. Die Rolle und der Name der Stimme. Wie E-Mail-Adressen und Telefonnummern buchstabiert werden sollen. Lieber eine Rückfrage stellen als raten. Und ausdrücklich die Themen, auf die der Agent nicht eingeht — Rabatte etwa oder detaillierte Angebote.

Ein Detail lohnt besondere Aufmerksamkeit: die Startnachricht. Bei Jäger meldet sich die Assistentin nicht nur mit Namen, sondern schiebt einen Halbsatz hinterher — er habe sie gebeten, ans Telefon zu gehen, weil er gerade in einem anderen Termin sitzt. Ohne diesen Satz, sagt Jäger, liegt die Abbruchquote bei 90 Prozent. Es geht um die Brücke: nicht das Gefühl, dass da irgendwas abnimmt, was man gar nicht wollte. Wir Menschen wollen uns gut beraten fühlen, nicht nur gut beraten sein.

  • Sensibilität: Wie schnell darf der Agent unterbrochen werden? Auf einer lauten Baustelle stellt man sie herunter, sonst reagiert er auf jedes Geräusch.
  • Genauigkeit vor Tempo: Bei bestimmten Inhalten schaltet der Agent um: Kommt eine E-Mail-Adresse, geht es nicht mehr um eine schnelle Reaktion, sondern ums genaue Hinhören.
  • Halluzinationen abschalten: Entweder es steht in der Wissensdatenbank, im Prompt oder auf einer ausdrücklich erlaubten Quelle — sonst antwortet er nicht. Alles andere ist gesperrt.
  • Aufzeichnung und Löschung: Beides ist einstellbar. Wer aufzeichnet, sagt es an; wer Fristen setzt, muss sich später nicht darum kümmern.

Was die Einführung kostet — an Zeit

Jäger findet es fair, Dinge grob in Zeit zu beziffern, und tut das auch: für die erste Installation rund eine Stunde. Danach kommt der Teil, den die meisten unterschätzen. Zwei Wochen lang jeden Abend etwa eine halbe Stunde Nacharbeit — Gesprächsprotokolle durchgehen, sehen, wo der Agent ausgestiegen ist oder eine schlechte Antwort gegeben hat, und nachprompten. Unter dem Strich also rund fünf Stunden, danach läuft das Ding und braucht kaum noch Aufmerksamkeit.

Wie diese Nacharbeit konkret aussieht, zeigt sein liebstes Beispiel. Bei einem Dachdecker hat der Agent das Wort „Asbest" nie verstanden und konnte es nicht zuordnen. Die Lösung war kein Systemwechsel, sondern eine Prompt-Regel: Sensibilität hoch, und wenn dieses Wort fällt, prüfe selbst, ob es im Kontext passen kann, und frag sonst noch einmal nach. Danach hat der Agent nachgefragt — und viele Kunden haben bestätigt, dass es genau darum geht. Für einen Dachdecker ist es ziemlich nützlich, vor dem ersten Termin zu wissen, dass Asbest auf dem Dach liegt.

Sein Argument gegen das Zögern ist schlicht: Wer keine fünf Stunden investieren will, braucht auch keine Assistenz einzustellen — in die musst du schließlich auch ein paar Stunden stecken, bis sie eingearbeitet ist. Und dazu passt seine Beobachtung aus der eigenen Bürozeit: Er habe fünfzehnmal versucht zu schulen, wie man ans Telefon geht, und spätestens nach vier Wochen habe wieder jeder etwas anderes gesagt. Die KI sagt genau das, was man ihr sagt.

Der Nebeneffekt, der oft mehr wert ist als die gesparte Zeit

Wenn der Agent telefoniert, entsteht nebenbei etwas, das vorher schlicht nicht existierte: Daten. Nicht das übliche „Petra, du hast gerade eine halbe Stunde mit dem Kunden geredet, worum ging's denn?" — „ja, um dies und das". Sondern Wort für Wort in einer Datenbank. Wer wann angerufen hat, was gefragt wurde, wo Antworten fehlten. Was das für Primärdaten bedeutet, nennt Jäger den absoluten Hammer, und das ist keine Übertreibung: Diese Protokolle sind die Grundlage, um Angebot und Abläufe zu schärfen. Dieselbe Logik wie beim internen Wissens-Chatbot — die unbeantworteten Fragen sind die wertvollsten.

Und warum die Sache aus seiner Sicht dringlich ist, hat wenig mit Effizienz zu tun. Jäger rechnet damit, dass die Sprachbarriere als Schutzmechanismus fällt: Polen, Ungarn, Filipinos, Chinesen werden Dienstleistungen auf Deutsch anbieten, weil die Technik die Sprache übernimmt. Der Wettbewerb ist dann nicht mehr der Betrieb in der Nachbarstraße. Wo KI im eigenen Betrieb sonst noch andockt, zeigt der Themen-Guide KI-Automatisierung.

Sein Schlusswort passt zum Rest: Eine Stunde weniger am Telefon mit der Frage, wie lange geöffnet ist, ist eine Stunde, die für den Kunden produktiv wird. Wenn uns eine Stunde Produktivität keine zehn Minuten Arbeit wert ist, sagt er, dann haben wir es nicht verdient.

Handwerker spricht auf der Heimfahrt im Transporter seinen Baubericht ins Freisprechmikrofon
KI-generiertes Bild

Häufige Fragen

Was ist ein Telefon-KI-Agent?+

Ein Sprachassistent, der eingehende Anrufe selbstständig annimmt und führt. Er beantwortet Fragen aus einer hinterlegten Wissensdatenbank, bucht Termine über eine Kalender-Anbindung, leitet nach Stichwort an die richtige Person weiter und liefert nach dem Gespräch eine Zusammenfassung samt vollständigem Transkript per E-Mail.

Ist ein Telefon-KI-Agent in Deutschland erlaubt?+

Grundsätzlich ja, entscheidend sind die Umsetzung und die Transparenz. Zu prüfen sind vor allem, wo die eingesetzte Sprachverarbeitung gehostet wird, und ob sensible Inhalte dauerhaft gespeichert werden. Anrufer müssen erkennen können, dass eine KI antwortet; eine Aufzeichnung ist ohne vorherigen Hinweis nicht zulässig. Eine rechtsverbindliche Beurteilung ersetzt das nicht.

Muss ich Anrufer informieren, dass eine KI antwortet?+

Ja – und es ist zugleich der einfachste Teil. In der Praxis geschieht das doppelt: mit einem Hinweis direkt unter der Telefonnummer auf der Website, damit die Entscheidung vor dem Anruf fällt, und mit einer Ansage des Agenten zu Beginn des Gesprächs, die auch eine etwaige Aufzeichnung nennt.

Was ist „fire and forget" bei Sprach-KI?+

Ein Verarbeitungsprinzip, bei dem das System die Anfrage bearbeitet, antwortet und den Inhalt danach nicht behält. Relevant wird das überall dort, wo Anrufer von sich aus sensible Angaben machen – etwa gesundheitliche Auskünfte in einer Arztpraxis, die man nicht verbieten, aber auch nicht dauerhaft speichern sollte.

Wie lange dauert die Einrichtung eines Telefon-KI-Agenten?+

Martin Jäger veranschlagt rund eine Stunde für die erste Installation. Entscheidend ist danach die Nacharbeit: etwa zwei Wochen lang täglich eine halbe Stunde, um Gesprächsprotokolle zu prüfen und den Prompt nachzuschärfen. Zusammen sind das grob fünf Stunden, danach läuft der Agent weitgehend selbstständig.

Kann ein Telefon-KI-Agent mehrere Sprachen sprechen?+

Ja, das ist eine Frage des Prompts und nicht der Technik. Man kann festlegen, dass der Agent die Sprache des Anrufers spiegelt – wer auf Türkisch anruft, wird auf Türkisch beraten. Für Betriebe mit internationaler Kundschaft entfällt damit die Suche nach mehrsprachigem Personal oder Dolmetschern.

Wie verhindert man, dass der Agent etwas erfindet?+

Über eine ausdrückliche Grenze im Prompt: Beantwortet wird nur, was in der Wissensdatenbank, im Prompt oder auf einer eigens freigegebenen Quelle steht – alles andere ist gesperrt. Verstandene, aber unklare Begriffe sollte der Agent aktiv nachfragen statt zu raten.

Sei bei der nächsten OGcon wieder dabei.

Trag dich in die Warteliste ein und erfahre als Erste:r, sobald die nächste OGcon startet.

Mit dem Eintragen willigst du ein, dass dich die Veranstalter der OGcon — Benno Siebern (MetaWelten) und Markus Habermehl (Pundamilia Marketing OÜ) — per E-Mail über die nächste Ausgabe informieren. Abmeldung jederzeit über den Link in jeder E-Mail. Mehr dazu in der Datenschutzerklärung.

Auf die Warteliste →