Zurück zum BlogStudie · Oktober 2026

Voice-AI-Benchmark: Oktober 2026

Wähle passende Voice-AI-Modelle. Die Famulor-Studie zeigt alle Ergebnisse, fünf Charts, 18 Tabellen und Kostenklassen für deinen Praxistest.

Famulor AI Team13. Oktober 202623 Min. Lesezeit

Inhalt zusammenfassen mit:

Famulor Research · Oktober 2026 · Messungen vom 13. Oktober 2026 · Redaktion vom 14. Oktober 2026

Ein Voice Agent muss die richtige Aktion ausführen und sie verständlich bestätigen. Eine schnelle Stimme allein reicht dafür nicht. Diese Famulor-Studie vergleicht deshalb drei Ebenen: einzelne Modelle, vollständige Gesprächskonfigurationen und die hörbare Antwort beim Anrufer. Du bekommst die vollständigen Ergebnistabellen, eine Einordnung der Kosten als Low, Medium oder High und einen konkreten Plan für deine eigene Abnahme.

1. Die wichtigsten Ergebnisse

Alle neun getesteten Pipeline-Konfigurationen bestanden acht von acht Prüfungen auf passende Testbelege und gesprochene Fakten. Bei gleichem Gemma-4-Sprachmodell und gleicher Soniox-Spracherkennung lagen die beobachteten P50-Werte der Bestätigungszeit zwischen 1.167 und 1.580 ms. Gradium, Deepgram, Cartesia und ElevenLabs bilden eine schnelle erste Vorauswahl. Auch die anderen fünf Pipelines erfüllten die geprüften Aufgaben.

Gemma 4 31B IT bestand 16 von 16 kurzen strukturierten Entscheidungsprüfungen. Das erste Texttoken kam im Median nach 162 ms. Viele weitere LLMs erreichten ebenfalls 16/16. Der Unterschied beschreibt die Geschwindigkeit in diesem Testprofil; die Studie liefert keinen universellen Intelligenz- oder Qualitätsrang.

Die STT-Ergebnisse unterscheiden sich nach Sprache. Im kleinen deutschen Korpus erreichte Scribe v2 Realtime nach einem gekennzeichneten Recheck einen Wortfehler auf 161 Referenzwörter. Im englischen Korpus erreichten drei AssemblyAI-Pro-Konfigurationen und Cartesia Ink 2 jeweils drei Fehler auf 124 Wörter. Wenige Wörter können hier bereits die Reihenfolge verändern.

Für native Realtime-Modelle zählt die Fortsetzung nach dem Tool-Aufruf. GPT Realtime 2.1 bestand die acht geprüften Service-Aufgaben. Bei weiteren Konfigurationen gab es fehlende gesprochene Bestätigungen, nicht abgeschlossene Suiten oder ungeklärte Protokollprobleme. Diese Befunde betreffen die getestete Anbindung und das Testprofil.

Leseregel: Prüfe zuerst, ob eine Konfiguration die Aufgabe richtig erfüllt. Vergleiche danach die Antwortzeiten. Wähle Stimme und Kostenklasse innerhalb einer passenden Vorauswahl.

2. Studiendesign und Testumfang

Testumfang
EbeneUmfangBedeutung
LLM33 / 52816 Entscheidungsanfragen je Modell
STT23 / 30416 menschliche Clips; Sprachsupport je Route
TTS29 / 2284 Sätze je unterstützter Sprache
Native Audiomodelle9Modelle in mehreren Modi
WebRTC44 / 22Sprachzellen / Konfigurationen, DE+EN
TestwegWebRTC / EUKein kontrollierter PSTN-Vergleich
LiveKit SDK1.8.6Ein SDK-Stand im kontrollierten Lauf

Der Katalog ist eine Bestandsaufnahme. Ein aktivierter Eintrag bedeutet nicht, dass jede Sprache, jeder Tarif und jeder Anbindungsweg geprüft wurde. Die Komponenten- und Gesprächstests beantworten unterschiedliche Fragen. Ein LLM kann korrektes JSON liefern und trotzdem im vollständigen Gespräch eine unpassende Bestätigung erzeugen. Eine TTS kann schnell Audio liefern, während Satzende-Erkennung oder Tool-Fortsetzung den Anrufer warten lassen.

Die 44 WebRTC-Zellen entsprechen 22 Konfigurationen in zwei Sprachen. Es gab einen Anruf pro Sprache und Konfiguration. Vier kontrollierte positive Aufgaben bilden jeweils die Service-Suite. Bei vollständig durchlaufenen Suiten kam ein begrenzter Unterbrechungs- und Wiederaufnahme-Test hinzu. Die 47 abgeschlossenen Anrufe im Evidenzbestand enthalten zusätzlich drei Piloten; sie sind kein zusätzlicher Wiederholungssatz der 44 Vergleichszellen.

Die Tests liefen nacheinander. Es gab keine zufällige Reihenfolge und keine Wiederholungsserien. Dadurch können Aufwärmeffekte, Netzbedingungen und zeitliche Provider-Schwankungen die Reihenfolge beeinflussen. Die Daten sind eine ausführlich dokumentierte Vorauswahl für die nächste Teststufe.

3. Pipeline, Half-Cascade und Realtime verstehen

Konzeptillustration. Die Glasmodule stehen für Erkennung, Entscheidung und Sprachausgabe; sie zeigen keine Messwerte.
Konzeptillustration. Die Glasmodule stehen für Erkennung, Entscheidung und Sprachausgabe; sie zeigen keine Messwerte.
Architekturen
ModusAblaufPrüfschwerpunkt
PipelineSTT → LLM → TTSErkennung, Tool-Fakten, Stimme
Half-CascadeNatives Audio → externe TTSTool-Fortsetzung und Stimme
RealtimeNatives Audio → natives AudioGesprochene Fakten und Aktion
Full DuplexÜberlappende SpracheZuhören, Eingreifen, Ergebnis
TranslateDE→EN / EN→DESprachinhalt und wichtige Angaben

Eine Pipeline zerlegt den Weg in Spracherkennung, Entscheidung und Sprachausgabe. Du kannst jede Komponente unabhängig prüfen und austauschen. Half-Cascade verbindet natives Audio-Verständnis mit einer externen Stimme. Realtime erzeugt die Sprachantwort im nativen Audiomodell. Full Duplex prüft zusätzlich das Verhalten bei überlappender Sprache. Übersetzung ist ein eigener Gesprächszweck und bekommt eine eigene Bewertung.

Die gleiche Metrik muss in allen Modi das gleiche Ereignis beschreiben. Ein erstes Texttoken in einer Pipeline ist nicht das erste Audiotoken eines nativen Modells. Fehlende Komponentenwerte bekommen daher keinen künstlichen Nullwert. Für den Vergleich vollständiger Gespräche nutzen wir den anruferseitigen Bestätigungs-Proxy und weisen die Aufgabenprüfung daneben aus.

4. Der vollständige Pipeline-Vergleich

Bestätigungs-Proxy. Cyan: P50. Dunkel: Stichproben-P95. Acht Turns je Konfiguration.
Bestätigungs-Proxy. Cyan: P50. Dunkel: Stichproben-P95. Acht Turns je Konfiguration.
Pipeline · Gemma 4 + Soniox STT v5 · n=8
AnbieterTTS-ModellPrüfungennP50 msP95 ms
Gradiumdefault8/8811671272
Deepgramaura-28/8812011425
Cartesiasonic-3.6-2026-08-278/8812411371
ElevenLabseleven_v4_turbo8/8812501326
Rimecoda8/8812611499
Inworldinworld-tts-28/8812691392
Sonioxtts-rt-v28/8814291616
Fish Audios2.1-pro8/8815301610
xAItts-18/8815803054

Konstant bleiben Gemma 4 31B IT als LLM und Soniox STT v5 als Spracherkennung. Die Tabelle zeigt die getesteten TTS-Konfigurationen. Die Zeit startet am Ende der Anruferäußerung und endet beim ersten empfangenen nicht stillen Audioblock, nachdem der passende HTTP-Testbeleg eingetroffen ist. Sie enthält damit Netzwerk, Aktion, Fortsetzung und Audio-Auslieferung. Der Audioblock beweist für sich allein noch nicht, dass schon das erste bedeutungstragende Bestätigungswort hörbar war.

Alle neun Pipelines bestanden 8/8 Testaufgaben und 2/2 begrenzte Unterbrechungs-/Wiederaufnahme-Prüfungen. Das ist ein gutes Ergebnis für diese festen Fälle. Es ist keine Lösungsquote für echte Kundenanrufe. Das Tool gab einen kontrollierten HTTP-Echo-Beleg zurück. Eine passende Echo-Antwort ist keine tatsächlich gespeicherte Kalenderbuchung oder CRM-Änderung.

Die ersten sechs P50-Werte liegen relativ eng beieinander. Kleine Abstände sind bei acht Antworten und ohne Wiederholungen keine belastbaren Siegerabstände. Die xAI-Konfiguration zeigt in diesem Lauf einen deutlich höheren Stichproben-P95 als ihren P50. Das ist ein Anlass für Wiederholungstests und die Prüfung der Einzelereignisse.

5. Alle nativen Gesprächskonfigurationen

Native Konfigurationen · 0/0 = nicht auswertbar; WAV gesondert
KonfigurationPrüfungenSuitennP50 msP95 ms
realtime-gpt-realtime-2.18/82/2826582895
half_cascade-gpt-realtime-2.17/82/2818892711
half_cascade-gpt-realtime-27/82/2823204118
half_cascade-gpt-realtime-2.1-mini6/82/28226010300
realtime-gpt-realtime-2.1-mini6/82/28240612913
realtime-gpt-realtime-26/82/2829174975
realtime-gemini-2.5-flash-native-audio-preview-12-20251/20/22450811117
realtime-gpt-live-1WAV 6/82/2815505698
half_cascade-gpt-realtime-mini0/00/20N/AN/A
realtime-gemini-3.1-flash-live-preview0/00/20N/AN/A
realtime-gemini-3.8-live0/00/20N/AN/A
realtime-gemini-3.8-live-extended-thinking0/00/20N/AN/A
realtime-gpt-realtime-mini0/00/20N/AN/A

Bei GPT Realtime 2.1 wurden die vollständigen acht Service-Fakten geprüft. Half-Cascade mit GPT Realtime 2.1 und GPT Realtime 2 erreichte jeweils 7/8. Die jeweiligen Mini-Konfigurationen erreichten 6/8. Ihre Antwortzeiten bleiben sichtbar, auch wenn eine Aufgabe die Qualitätsprüfung nicht bestand. Ein schneller fehlgeschlagener Turn wird nicht als erfolgreicher Turn verkauft.

Gemini- und ältere Realtime-Mini-Suiten brachen nach fehlenden passenden Tool-Aufrufen oder fehlender hörbarer Fortsetzung ab. Spätere Aufgaben wurden dann nicht versucht. Deshalb bedeutet 0/0 hier: keine auswertbare Aufgabenprüfung. Es bedeutet weder perfekte Qualität noch vier belegte Fehler pro Sprache. Die nächste Untersuchung muss Anbindung, Ereignisfolge und Fortsetzungslogik prüfen.

Bei Full Duplex mit GPT Live 1 waren die Tool-Belege in beiden Sprachen korrekt. Die unabhängige Erkennung der empfangenen WAV-Dateien bestätigte sechs von acht gesprochenen Fakten: In DE fehlte die 14-Tage-Antwort, in EN die Buchungsbestätigung. Die direkten Modelltranskripte waren unvollständig. Dieser zusätzliche WAV-Check ist daher gesondert ausgewiesen und nicht mit den anderen Transcript-Prüfungen gleichgesetzt. Der Modus bleibt für diese Service-Suite weiter zu qualifizieren.

Translate wurde separat für DE→EN und EN→DE geprüft. In beiden Richtungen kam Audio an; Datum, Uhrzeit und Berlin blieben erhalten. Ein deutsches Nomen blieb in der unabhängigen Erkennung mehrdeutig. Diese zwei Richtungen begründen keine allgemeine Übersetzungsqualitätsrate. Bei gleichzeitig fließender Sprache beschreibt ein negativer Onset-Wert Überlappung, keine negative Reaktionszeit.

6. LLMs: alle 33 Modelle im Entscheidungsprofil

LLM TTFT · 256 Ausgabetokens · Baseline
ModellPrüfungenNicht leernP50 msP95 ms
google/gemma-4-31b-it16/161616162535
openai/gpt-4.116/161616339440
openai/gpt-4o16/161616389890
openai/gpt-5.4-mini16/161616411513
deepseek-ai/deepseek-v4.1-flash16/161616494821
openai/gpt-5.116/161616527633
openai/gpt-5.6-luna16/1616165611664
openai/gpt-5.216/161616575663
openai/gpt-5.416/161616591689
openai/gpt-5.6-sol16/1616166542635
google/gemini-3.5-flash-lite16/1616166981213
google/gemini-3.1-flash-lite16/1616167074930
google/gemini-3.6-flash16/1616167431362
google/gemini-3-flash-preview16/1616169281180
google/gemini-3.5-flash16/16161610173469
openai/gpt-6-luna16/16161611452434
openai/gpt-5.516/16161612352645
xai/grok-4.716/161616586014607
openai/gpt-4.1-mini15/161616316393
openai/gpt-5.6-terra15/161515576827
xai/grok-4.20-0309-reasoning15/161515786417818
openai/gpt-5.4-nano14/161515400520
google/gemini-3.7-flash13/16161624407146
xai/grok-4.20-multi-agent-030912/161414967219539
google/gemini-3.8-flash11/161616262510380
openai/gpt-4.1-nano10/161616284364
openai/gpt-4o-mini10/161616345740
xai/grok-4.20-0309-non-reasoning7/16161610706367
openai/gpt-55/166628855624
google/gemini-3.1-pro-preview3/16161636976223
openai/gpt-5-mini0/161129412941
openai/chat-latest0/1600N/AN/A
openai/gpt-5-nano0/1600N/AN/A
LLM TTFT P50 · 16/16
LLM TTFT P50 · 16/16

Pro Modell gab es 16 kurze strukturierte Entscheidungen, mit einer ursprünglichen Ausgabegrenze von 256 Tokens. Geprüft wurden feste Fakten, erwartete Aktionen und die Ablehnung nicht erlaubter oder nicht belegter Handlungen. Die Tabelle hält Entscheidungsprüfung, nicht leere Antworten und Timing-Stichprobe getrennt. P50 und P95 beziehen sich nur auf vorhandene Timing-Werte.

16/16 ist bei einer so kleinen Stichprobe eine grobe Eingangshürde. Selbst unter der vereinfachenden Annahme unabhängiger binärer Prüfungen liegt die untere Grenze eines 95%-Wilson-Intervalls bei ungefähr 80,6 %. Die festen Fälle sind zudem keine zufällige Auswahl echter Kundenaufgaben. Aus dem Intervall folgt daher keine Produktionsgarantie.

Die GPT-5-Rechecks mit 1.536 Ausgabetokens verbesserten nicht leere Antworten. Sie verwenden ein anderes Budget und ersetzen die 256-Token-Baseline nicht stillschweigend. Wenn ein Modell seine Ausgabegrenze fürs Nachdenken verbraucht, muss die Konfiguration geprüft werden. Eine leere Antwort oder ein HTTP-400-Routenfehler beweist keine allgemeine Unfähigkeit, die Kundenfrage zu beantworten.

Für eine erste Pipeline lohnt sich deshalb Gemma 4 zusammen mit weiteren 16/16-Kandidaten wie GPT-4.1, GPT-4o, GPT-5.4 Mini oder DeepSeek V4.1 Flash. Prüfe anschließend längere Kontexte, echte Tool-Argumente, Korrekturen und mehrere Gesprächsschritte. Eine gute kleine Entscheidungsprobe ersetzt diesen zweiten Schritt nicht.

7. STT: menschliche Sprache statt synthetischer Referenz

Die Genauigkeitsprüfung verwendet 16 menschlich gesprochene Aufnahmen aus Google FLEURS. Deutsch und Englisch werden getrennt bewertet. Alle Kandidaten derselben Sprache erhalten dieselben Dateien und Referenztexte. Das Korpus umfasst 82,56 Sekunden Deutsch und 54,14 Sekunden Englisch. Die offiziellen Referenzen enthalten 161 deutsche und 124 englische Wörter.

Auszug vollständiger Sprachkorpora. Die vollständigen Tabellen stehen darunter.
Auszug vollständiger Sprachkorpora. Die vollständigen Tabellen stehen darunter.
Auszug vollständiger Sprachkorpora. Die vollständigen Tabellen stehen darunter.
Auszug vollständiger Sprachkorpora. Die vollständigen Tabellen stehen darunter.

Deutsch: vollständige und gesonderte Ergebnisse

STT DE · Micro WER
ModellProfilClipsWörterFehlerWEREinordnung
elevenlabs/scribe_v2_realtimeZugang/EOF-Recheck8/816110.62%Vollständiges kurzes Korpus
google/gemini-3.5-transcribe-livebaseline8/816121.24%Vollständiges kurzes Korpus
assemblyai/u3-rt-probaseline8/816131.86%Vollständiges kurzes Korpus
assemblyai/universal-3-5-probaseline8/816131.86%Vollständiges kurzes Korpus
assemblyai/universal-3-6-probaseline8/816131.86%Vollständiges kurzes Korpus
speechmatics/linden-1baseline8/816142.48%Vollständiges kurzes Korpus
stt-rt-v5Zugang/EOF-Recheck8/816163.73%Vollständiges kurzes Korpus
xai/stt-1baseline8/816163.73%Vollständiges kurzes Korpus
xai/stt-2baseline8/816163.73%Vollständiges kurzes Korpus
deepgram/nova-3baseline8/816174.35%Vollständiges kurzes Korpus
deepgram/flux-general-multibaseline8/8161106.21%Vollständiges kurzes Korpus
deepgram/nova-2baseline8/8161127.45%Vollständiges kurzes Korpus
cartesia/ink-whisperbaseline8/8161138.07%Vollständiges kurzes Korpus
solaria-1Protokoll-Recheck5/811276.25%Partiell; ohne Rang
assemblyai/universal-streaming-multilingualbaseline8/8161176109.32%Doppelte Finals; ohne Rang

Englisch: vollständige und gesonderte Ergebnisse

STT EN · Micro WER
ModellProfilClipsWörterFehlerWEREinordnung
assemblyai/u3-rt-probaseline8/812432.42%Vollständiges kurzes Korpus
assemblyai/universal-3-5-probaseline8/812432.42%Vollständiges kurzes Korpus
assemblyai/universal-3-6-probaseline8/812432.42%Vollständiges kurzes Korpus
cartesia/ink-2baseline8/812432.42%Vollständiges kurzes Korpus
elevenlabs/scribe_v2_realtimeZugang/EOF-Recheck8/812443.23%Vollständiges kurzes Korpus
deepgram/flux-general-enbaseline8/812486.45%Vollständiges kurzes Korpus
google/gemini-3.5-transcribe-livebaseline8/812497.26%Vollständiges kurzes Korpus
stt-rt-v5Zugang/EOF-Recheck8/8124108.06%Vollständiges kurzes Korpus
speechmatics/linden-1baseline8/8124108.06%Vollständiges kurzes Korpus
deepgram/flux-general-multibaseline8/8124129.68%Vollständiges kurzes Korpus
deepgram/nova-3baseline8/81241411.29%Vollständiges kurzes Korpus
deepgram/nova-3-pharmabaseline8/81241612.90%Vollständiges kurzes Korpus
deepgram/nova-2-conversationalaibaseline8/81241713.71%Vollständiges kurzes Korpus
deepgram/nova-2-medicalbaseline8/81241814.52%Vollständiges kurzes Korpus
deepgram/nova-2-phonecallbaseline8/81241814.52%Vollständiges kurzes Korpus
deepgram/nova-3-medicalbaseline8/81241814.52%Vollständiges kurzes Korpus
deepgram/nova-2baseline8/81242016.13%Vollständiges kurzes Korpus
solaria-1Protokoll-Recheck4/85135.88%Partiell; ohne Rang
cartesia/ink-whisperbaseline6/8992929.29%Partiell; ohne Rang
xai/stt-1baseline6/8993333.33%Partiell; ohne Rang
xai/stt-2baseline6/8993333.33%Partiell; ohne Rang
assemblyai/universal-streamingbaseline8/81248467.74%Doppelte Finals; ohne Rang
assemblyai/universal-streaming-multilingualbaseline7/8114120105.26%Doppelte Finals; ohne Rang

Die Micro-WER ist die Summe aus ersetzten, ausgelassenen und zusätzlich erkannten Wörtern, geteilt durch sämtliche Referenzwörter. Sie ist kein Mittelwert von acht Clip-Prozenten. Ein zusätzlicher Fehler verändert die DE-WER um ungefähr 0,62 Prozentpunkte und die EN-WER um ungefähr 0,81 Prozentpunkte. Ein DE+EN-Pool würde Deutsch durch die höhere Wortzahl stärker gewichten.

Partielle Korpora stehen gesondert. Ihre WER beschreibt nur die erfolgreich ausgewerteten Ausschnitte. Sie darf nicht neben einem vollständigen Korpus als fairer Rang verwendet werden. Ein fehlendes Transkript ist keine fehlerfreie Erkennung. Die AssemblyAI-Universal-Streaming-Artefakte mit doppelten finalen Hypothesen bleiben ebenfalls außerhalb der vergleichbaren Reihenfolge. Eine WER über 100 % ist rechnerisch möglich, wenn sehr viele Wörter zusätzlich gezählt werden. Hier muss zuerst die Segment- und Formatter-Verarbeitung geklärt werden.

Die FLEURS-Auswahl stammt aus dem Validation-Split und enthält vorgelesene Sprache. Die acht ausgewählten deutschen Aufnahmen tragen männliche Metadaten; Englisch enthält vier männliche und vier weibliche Metadaten. Das ist keine repräsentative Stichprobe für Dialekte, spontane Sprache, Geräusche oder Telefonie. Auch unterschiedliche Sprecheridentitäten sind damit nicht belegt. Ergänze für deine Abnahme eigene Namen, Kundennummern, Uhrzeiten, Produktbegriffe und Telefon-Audio.

8. TTS: alle 29 Modelle und der erste Audioblock

Zehn vollständige Baseline-Kandidaten. Lokale PCM-TTFB, keine Bewertung der Natürlichkeit.
Zehn vollständige Baseline-Kandidaten. Lokale PCM-TTFB, keine Bewertung der Natürlichkeit.
TTS · lokale PCM-TTFB; Rechecks separat
ModellProfilAudioP50 msP95 ms
eleven_v3_conversationalbaseline8/8125702
elevenlabs/eleven_v4_turbobaseline8/8129141
elevenlabs/eleven_flash_v2_5baseline8/81381265
elevenlabs/eleven_turbo_v2_5baseline8/8179225
cartesia/sonic-latestbaseline8/8182231
cartesia/sonic-3.6-2026-08-27baseline8/8186222
cartesia/sonic-previewbaseline8/8187231
gradium/defaultbaseline8/8192264
cartesia/sonic-3.6baseline8/8197205
cartesia/sonic-3-latestbaseline8/82171274
cartesia/sonic-3.5baseline8/8219250
cartesia/sonic-3.5-2026-05-04baseline8/8236243
cartesia/sonic-3baseline8/8238325
cartesia/sonic-3-2026-01-12baseline8/8260293
inworld/inworld-tts-2-flashbaseline8/8338676
inworld/inworld-tts-1.5-minibaseline8/8357578
inworld/inworld-tts-2baseline8/8359654
inworld/inworld-tts-1.5-maxbaseline8/8415454
deepgram/aura-2baseline8/8476762
elevenlabs/eleven_v3baseline8/8487766
deepgram/flux-ttsflux_model_voice_recheck4/4538740
rime/codabaseline8/8601637
elevenlabs/eleven_v4baseline8/8638775
soniox/tts-rt-v2credential_or_eof_recheck8/8718771
elevenlabs/eleven_multilingual_v2baseline8/88681920
xai/tts-1baseline8/8876949
fishaudio/s2.1-probaseline8/811911758
fishaudio/s2-probaseline8/812371317
gpt-4o-mini-ttsbaseline3/811541550

Pro Sprache wurden vier feste kurze Sätze mit einer festen Stimme geprüft. Die lokale TTFB läuft vom Start der Factory-/Provider-Anforderung bis zum ersten PCM-Audioblock. Sie endet vor dem hörbaren Ergebnis beim Anrufer. Die Tabelle dokumentiert daher die Komponente und nicht die vollständige Gesprächszeit.

Eleven v3 Conversational, Eleven v4 Turbo, Flash, aktuelle Cartesia-Konfigurationen und Gradium waren in diesem Profil schnelle Kandidaten. Das Ranking kann sich in einer vollständigen Pipeline ändern. Deepgram Aura-2 hatte beispielsweise einen höheren lokalen Komponentenwert als mehrere andere Modelle, während die vollständige Deepgram-Pipeline im Gespräch eine der niedrigeren Bestätigungszeiten zeigte. Die Messgrenzen, Antworttexte und Streaming-Wege unterscheiden sich.

Flux TTS wurde mit seiner passenden Alexis-Stimme in vier englischen Sätzen erneut geprüft. Dieser EN-Recheck ist separat und nicht gleichwertig zu einer vollständigen zweisprachigen Baseline. Für GPT-4o Mini TTS kamen im Baseline-Profil drei von acht Samples zustande; der Timing-Wert betrifft diese drei Samples und nicht acht erfolgreich geprüfte Antworten.

Eine blinde Hörjury für Natürlichkeit, Aussprache oder Stimmpräferenz wurde nicht durchgeführt. Höre die Vorauswahl daher mit deinem Wortschatz: Personen- und Firmennamen, E-Mail-Adressen, Dezimalzahlen, Uhrzeiten, Abkürzungen und Sprachwechsel. Bewerte Verständlichkeit zuerst, Markenpassung danach. Ein schneller Audioblock gibt dir noch keine Aussage über beides.

9. Kosten als Low, Medium und High

Relative Kostenklassen
PipelineKostenklasseDatenbasis
GradiumHighBekannter LLM-/TTS-Anteil; Gesamtkosten ungeklärt
DeepgramMediumBekannter LLM-/TTS-Anteil; Gesamtkosten ungeklärt
CartesiaHighBekannter LLM-/TTS-Anteil; Gesamtkosten ungeklärt
ElevenLabsUngeklärtTTS-Tarif oder Abrechnungsmengen fehlen
RimeMediumBekannter LLM-/TTS-Anteil; Gesamtkosten ungeklärt
InworldLowBekannter LLM-/TTS-Anteil; Gesamtkosten ungeklärt
SonioxUngeklärtTTS-Tarif oder Abrechnungsmengen fehlen
Fish AudioLowBekannter LLM-/TTS-Anteil; Gesamtkosten ungeklärt
xAILowBekannter LLM-/TTS-Anteil; Gesamtkosten ungeklärt

Diese Klassen beschreiben ausschließlich den relativen bekannten LLM-/TTS-Inferenzanteil von sieben vergleichbaren Pipeline-Paaren. Grundlage sind jeweils die beiden vollständig durchlaufenen DE/EN-Anrufe, ohne Piloten, mit belegbaren LLM- und TTS-Mengen sowie zugeordneten öffentlichen Tarifreferenzen. Die sieben bekannten Teilwerte werden aufsteigend geordnet: die ersten drei erhalten Low, die nächsten zwei Medium und die letzten zwei High. Die Klassen sind relativ zu diesem Test und keine Preisstufen von Famulor.

STT-Tokenmengen, Teile der Detektor-Nutzung, Transport, Infrastruktur, Aufzeichnung, Rabatte und Rechnungskosten fehlen oder sind nicht vollständig zugeordnet. Bei Eleven v4 Turbo fehlt der exakte TTS-Tarif; bei Soniox fehlen passende Abrechnungsmengen. Beide erhalten deshalb Ungeklärt. Native Modi werden nicht in diese Pipeline-Klassen hineingemischt. Unterschiedliche Antwortlängen und die Begrüßungs-/Unterbrechungsanteile beeinflussen die bekannten Teilwerte.

Low bedeutet nicht günstigste Gesamtkosten. High bedeutet nicht hoher Famulor-Tarif. Die Einteilung hilft dir, einen vergleichbar erfassten Teil des Testverbrauchs zu verstehen. Kosten pro tatsächlich gelöstem Kundengespräch werden erst dann belastbar, wenn sämtliche Kosten und echte Geschäftsergebnisse gemeinsam zugeordnet sind. Dieser Report veröffentlicht keine internen Geldbeträge.

10. Vier Anwendungsfälle, vier Abnahmefragen

Abnahme pro Ablauf
AblaufEntscheidende PrüfungNächste Teststufe
ServiceRichtlinie und KennungUnsicherheit und bestätigte Übergabe
TermineSlot, Zeitzone, eine AktionGespeicherten Kalenderzustand prüfen
VertriebFakten und QualifizierungUnbekannte Angebote und fehlende Angaben
SupportSchritte und PasswortschutzKorrektur, Tool-Fehler, Unterbrechung

Die folgenden Tabellen zeigen die beiden Sprachbeobachtungen als Spanne. Jede Kombination enthält genau eine positive Aufgabe pro Sprache. Der kleinere Wert ist daher kein belastbarer Branchenmedian. Nur vollständig bestandene Aufgabenpaare erscheinen hier. Die Abstände erlauben keine Aussage, welcher Anbieter speziell im Kundenservice oder Vertrieb die beste Qualität hat.

Kundenservice

DE+EN · n=2 · beobachtete Spanne, kein Branchenrang
KonfigurationGeprüfte PaareMin msMax ms
pipeline-gradium27791095
pipeline-rime28741261
pipeline-inworld28811185
pipeline-soniox210011350
pipeline-cartesia210491204
pipeline-deepgram211781308
pipeline-elevenlabs212501261
pipeline-fishaudio212841530
pipeline-xai214453054
half_cascade-gpt-realtime-2.1-mini214711551
half_cascade-gpt-realtime-2.1217801994
half_cascade-gpt-realtime-2219902320
realtime-gpt-realtime-2.1-mini221572260
realtime-gpt-realtime-2224002496
realtime-gpt-realtime-2.1226772710

Prüfe freigegebene Richtlinien, Kennungen, Korrekturen und den Wunsch nach einem Menschen. Die kontrollierte Aufgabe prüfte einen bekannten Richtlinien-Fakt und den passenden Testbeleg. Ein echter Service-Abnahmesatz braucht zusätzlich unvollständige Angaben, widersprüchliche Wünsche und bestätigte Übergaben.

Terminvergabe

DE+EN · n=2 · beobachtete Spanne, kein Branchenrang
KonfigurationGeprüfte PaareMin msMax ms
pipeline-gradium211281272
pipeline-elevenlabs211681326
pipeline-deepgram211861360
pipeline-cartesia212411352
pipeline-rime212441480
pipeline-inworld212691392
pipeline-soniox214001616
pipeline-fishaudio214811610
pipeline-xai215551582
realtime-gpt-realtime-2.1226582688

Das Ziel ist der richtige angebotene Slot, mit Datum, Uhrzeit und Zeitzone. Prüfe nach einer Testbuchung den Kalenderzustand. Verlange genau eine gespeicherte Aktion und eine passende gesprochene Bestätigung. Ergänze belegte Termine, Rückfragen, Änderungen und wiederholte Tool-Zustellung, damit eine Antwort nicht versehentlich doppelt bucht.

Vertrieb

DE+EN · n=2 · beobachtete Spanne, kein Branchenrang
KonfigurationGeprüfte PaareMin msMax ms
pipeline-gradium211671250
pipeline-deepgram211741425
pipeline-rime212321469
pipeline-cartesia212391292
pipeline-elevenlabs212471257
pipeline-inworld212491359
pipeline-soniox214291509
pipeline-fishaudio215211540
pipeline-xai216641731
half_cascade-gpt-realtime-2.1218271990
half_cascade-gpt-realtime-2218782485
realtime-gpt-realtime-2.1-mini221283026
realtime-gpt-realtime-2.1225372616
realtime-gpt-realtime-2247284975

Geprüft wurden feste Produktangaben und die passende Aktion. In der nächsten Stufe gehören unsichere Anfragen, fehlende Angaben und nicht freigegebene Angebote dazu. Die genannten Preis- und Seat-Fakten waren fiktive Testdaten. Sie sind keine Famulor-Preise und werden hier nicht als Angebot veröffentlicht.

Technischer Support

DE+EN · n=2 · beobachtete Spanne, kein Branchenrang
KonfigurationGeprüfte PaareMin msMax ms
pipeline-deepgram212011268
pipeline-gradium212051209
pipeline-elevenlabs212371318
pipeline-inworld212691318
pipeline-cartesia213191371
pipeline-rime214301499
pipeline-soniox214781487
pipeline-fishaudio215391590
pipeline-xai215621580
half_cascade-gpt-realtime-2.1218892206
half_cascade-gpt-realtime-2.1-mini218992541
half_cascade-gpt-realtime-2223462444
realtime-gpt-realtime-2.1223542895
realtime-gpt-realtime-2.1-mini2240612913
realtime-gpt-realtime-2224762954

Der kontrollierte Fall nutzte einen bekannten Fehlercode, eine feste Schrittfolge und den Schutz von Passwörtern. Prüfe in der Praxis zusätzlich fehlgeschlagene Schritte, neue Informationen und eine Unterbrechung mitten in der Anleitung. Eine gute Wiederaufnahme greift den korrigierten Bedarf auf und liest nicht einfach den alten Absatz weiter.

11. Antwortzeiten ohne Messfehler lesen

Messgrenzen
MetrikStart → EndeAussage
Bestätigungs-ProxyAnruferende → Audio nach BelegHörbarer Onset, kein Wortzeitstempel
LLM TTFTAnforderung → erstes TexttokenKomponenten-Startzeit
TTS TTFBFactory → erster PCM-BlockKomponente, kein Anrufer-Audio
EOTErfasstes Ende → Turn-EntscheidungSDK-Wert, eigener Grenztest nötig
Micro WER(S + D + I) / NWortfehler pro Referenzwort
P50 / P95Nearest rankImmer n und Profil angeben

Für die Tabellen gilt das Nearest-Rank-Verfahren: Nach dem Sortieren wird der Wert an Position ceil(p × n) verwendet. Bei n=8 ist P95 damit der höchste der acht Werte. Er beschreibt den langsamsten beobachteten Turn dieser Stichprobe. Ein stabiler Produktions-P95 braucht einen deutlich größeren und passend geschichteten Datensatz.

Die Turns eines Anrufs teilen Konfiguration und Netzbedingungen. Acht Turns sind deshalb nicht acht unabhängige Kundenanrufe. Für Unsicherheitsintervalle und Wiederholungen musst du den Anruf als gemeinsame Einheit berücksichtigen. Eine reine Turn-Sammlung kann sonst mehr Sicherheit suggerieren, als der Versuch tatsächlich liefert.

Exportierte Worker-Metriken der Pipelines

SDK · n / P50 / P95 ms
PipelineLLM n/P50/P95TTS n/P50/P95EOT n/P50/P95
pipeline-cartesia12 / 149 / 17513 / 67 / 12012 / 578 / 582
pipeline-deepgram12 / 148 / 15913 / 137 / 88412 / 578 / 579
pipeline-elevenlabs12 / 148 / 17914 / 84 / 9312 / 578 / 580
pipeline-fishaudio12 / 144 / 15512 / 466 / 134412 / 578 / 579
pipeline-gradium12 / 145 / 15914 / 90 / 14912 / 578 / 580
pipeline-inworld13 / 146 / 20413 / 186 / 30912 / 578 / 580
pipeline-rime12 / 146 / 18214 / 235 / 54912 / 578 / 579
pipeline-soniox13 / 148 / 16315 / 309 / 40412 / 578 / 580
pipeline-xai12 / 145 / 15712 / 418 / 74512 / 578 / 2501

Diese SDK-Werte umfassen je nach Export auch Begrüßungen, Tool-Fortsetzungen und Unterbrechungsantworten. Deshalb unterscheiden sich die Stichprobengrößen von den acht kontrollierten Aufgaben. P50-Werte einzelner Komponenten lassen sich nicht zum gemessenen Gesprächs-P50 addieren: Die Zeitachsen überlappen und die Beobachtungsmengen unterscheiden sich.

12. Was ein vollständiges Reporting erfassen muss

Reporting-Status
KennzahlHier belegtZusätzliche Evidenz
Tool-/FaktenprüfungFiktive Belege + gesprochene FaktenEchte Aktionszustände
LösungsquoteNicht gemessenGelabelte echte Aufgaben und Nenner
HalluzinationsrateFeste Fakten-/AblehnungsprüfungenUnabhängige Prüfung sämtlicher Aussagen
WeiterleitungKeine neue TelefonabnahmeFreigegebenes Ziel und belegte Annahme
AbbruchrateBegrenzte Disconnect-BeobachtungVollständige beidseitige Ereignisse
NatürlichkeitKeine blinde HörjuryHörtests mit identischen Texten
Kosten pro LösungNicht gemessenVollständige Kosten und echte Lösung

Ein technisch abgeschlossener Anruf ist kein belegter gelöster Kundenfall. Ein angenommener Weiterleitungsbefehl beweist keinen menschlichen Gesprächspartner. Eine passende gesprochene Aussage beweist keine dauerhaft gespeicherte Aktion. Das Reporting muss diese Zustände getrennt erfassen und mit der erwarteten Aufgabe verbinden.

Speichere pro Testfall Sprache, Konfiguration, Prompt-/Tool-Version, Modellroute, Zeitpunkt, erwartete Aktion, erhaltenen Beleg und gesprochenes Ergebnis. Markiere Bestanden, Nicht bestanden, Nicht versucht und Ungeklärt getrennt. Zeige für jede Kennzahl den passenden Nenner. So bleibt eine gute Latenzprobe sichtbar, ohne ein fehlgeschlagenes Ergebnis zu verstecken.

Die historischen Produktionsdaten aus der Vorwoche waren zusätzliche Betriebsevidenz. Sie werden hier nicht in die kontrollierte Rangfolge eingerechnet: Aufgaben, Kunden, Einstellungen und Releases unterschieden sich. Diese Trennung verhindert, dass eine Beobachtung aus dem Betrieb als Ursache-Wirkung-Vergleich von Modellen erscheint.

13. Famulor-API für reproduzierbare Tests nutzen

Pfade relativ zu https://app.famulor.de/api
ZweckAPI-VertragEinsatz
KatalogGET /user/assistants/modelsVerfügbare Modell-IDs dokumentieren
StimmenGET /user/assistants/voicesStimme und Sprache festhalten
ProviderGET /user/assistants/transcriber-providersSTT-Anbindung dokumentieren
TestassistentPOST /user/assistantIsolierte Testkonfiguration
AnrufGET /user/calls/{id}Anrufdaten und Ergebnis verbinden
Post-CallWebhookTranskript, Variablen und Aufzeichnung

Die bereitgestellte OpenAPI-Datei beschreibt den Produkt-API-Vertrag. Sie liefert weder Benchmark-Messungen noch eine fertige Qualitätspunktzahl. Nutze die Katalog-Endpunkte, um die verfügbaren Modelle und Stimmen zum Testzeitpunkt zu dokumentieren. Konfiguriere einen separaten Testassistenten und ein Tool mit kontrollierten Antworten. Ein echter Testanruf wird erst mit freigegebener Zielnummer ausgeführt.

Über die Anrufabfrage und Post-Call-Webhooks kannst du die dokumentierten Anrufdaten, Transkripte, extrahierten Variablen und Aufzeichnungsreferenzen verbinden. Für millisekundengenaue Satzenden, Audiobeginn, Tool-Belege und Unterbrechungen brauchst du zusätzliche Instrumentierung des Sprachwegs. Call-Dauer und Status reichen dafür nicht. Behaupte insbesondere keine TTFT-, TTFB- oder WER-Felder, wenn dein tatsächlicher Antwortvertrag sie nicht liefert.

Authentifizierung erfolgt serverseitig mit einem Bearer-Token. Halte Zugangsdaten, Kundennummern, private Aufzeichnungen und interne Kosten außerhalb öffentlicher Reports. Für Veröffentlichung und Teamfreigabe reichen aggregierte Tabellen, klar beschriebene Fälle und redigierte Belege.

14. Von der Vorauswahl zur eigenen Freigabe

  1. Definiere je Anwendungsfall die erwartete Aktion, die hörbare Bestätigung und die erlaubte Reaktion auf Unsicherheit.
  2. Wähle mehrere vollständig geprüfte Kandidaten. Halte Prompt, Wissensstand, Tool-Antworten, Region und Anrufer-Audio konstant.
  3. Wiederhole die Fälle in zufälliger Reihenfolge. Trenne kalte und warme Starts. Erfasse Fehlversuche vollständig.
  4. Ergänze spontane Sprache, verschiedene Stimmen, Telefon-Codecs, Hintergrundgeräusche, Pausen, Korrekturen und Paketverlust.
  5. Prüfe echte Testsystem-Zustände, etwa eine Kalenderbuchung. Bewerte das empfangene Audio unabhängig vom Modelltranskript.
  6. Lege vor dem Versuch Qualitäts- und Latenzgrenzen fest. Entscheide anhand dieser Grenzen und der Unsicherheit, nicht anhand eines nachträglich gewichteten Sieger-Scores.
  7. Wiederhole die Abnahme nach Änderungen an Prompt, Tools, Modellroute oder Engine. Bewahre die Regressionsergebnisse zusammen mit den Versionsdaten auf.

Famulor-Simulationen geben dir einen Einstieg in wiederholbare Ablaufprüfungen. Ergänze gesprochene End-to-End-Tests, wenn der Kunde Audio hört und während einer Antwort eingreifen kann. Die im Forschungsprojekt verfassten Simulationsfälle sind Testvorlagen; ihre Existenz belegt keinen durchgeführten zusätzlichen Testlauf.

15. Empfehlung für deine erste Konfiguration

Für kurze Service-Aufgaben mit festen Tool-Fakten ist eine Pipeline die stärkste erste Testbasis in diesem Screening. Beginne mit Gemma 4 und einer sprachlich passenden STT. Vergleiche danach mehrere erfolgreiche Stimmen, insbesondere Gradium, Deepgram, Cartesia und ElevenLabs, und höre deine kritischen Namen und Zahlen an. Nutze die Kostenklasse als ergänzende Teilbeobachtung.

Wenn du natives Audio-Verständnis mit einer bestimmten externen Stimme verbinden willst, prüfe Half-Cascade gezielt. Wenn du native Sprachantworten brauchst, ist GPT Realtime 2.1 ein Kandidat aus dieser vollständig geprüften kleinen Suite. Für Full Duplex stehen überlappende Sprache und hörbare Ergebnisvollständigkeit im Mittelpunkt. Die Auswahl folgt deinem Ablauf und deiner Abnahme.

16. Quellen und Reproduzierbarkeit

Primäre Messgrundlage ist der versionierte Famulor-Forschungsstand vom 13. Oktober 2026. Die redaktionell übernommenen Tabellen entsprechen dem finalen Ergebnisstand; frühere Review-Notizen werden nicht als neuere Ergebnisse behandelt. Geldbeträge, private Call-IDs und Zugangsdaten sind aus dieser öffentlichen Fassung ausgeschlossen.

Die FLEURS-Auswahl verwendet de_de und en_us, Validation, Dataset-Revision 70bb2e84b976b7e960aa89f1c648e09c59f894dd. DE-Zeilen: 0, 1, 2, 3, 5, 6, 8, 201. EN-Zeilen: 0, 2, 3, 4, 5, 6, 7, 8. Audio wurde in PCM16, Mono, 16 kHz konvertiert; diese Umwandlung ist als Modifikation dokumentiert. Korpusautoren und Sprecher sind keine Unterstützer dieses Reports. Die normalisierten Referenzen und sämtliche Einzelereignisse gehören in den eigenen Reproduktionsnachweis.

Studie als PDF laden

Vergleiche die Famulor Engine-Modi, höre Stimmen in der Stimmenbibliothek und plane deine eigene Testkonfiguration. Demo anfragen.

Famulor AI Team
Famulor AI Team

Autor bei Famulor

KI-Telefonassistent

Alles inklusive, ein Tarif. Famulor testen

Voice AI, Workflows und Integrationen in einer Plattform.

Famulor AI eingehender Anruf auf einem Smartphone
Newsletter

Anrufe automatisiert. Kunden begeistert.

Abonniere unseren Newsletter, um die neuesten Nachrichten, Produktupdates und kuratierte KI-Inhalte zu erhalten.