Grundprinzipien der intelligenten Sprachsynthese

Statistische parametrische Sprachsynthesemethoden haben aufgrund ihrer Flexibilität im Bereich der Sprachsynthese große Aufmerksamkeit erregt. In den letzten Jahren hat die Anwendung tiefer neuronaler Netzwerkmodelle im Bereich der maschinellen Lernforschung erhebliche Vorteile gegenüber herkömmlichen Methoden erzielt. Die Anwendung neuronaler netzwerkbasierter Modellierungsmethoden in der statistischen parametrischen Sprachsynthese hat sich allmählich vertieft und ist zu einer der gängigen Methoden der Sprachsynthese geworden.

Backend-Akustikmodellierung für die statistische parametrische Sprachsynthese ist das Thema dieses Artikels.

Das Backend-Framework der parametrischen Sprachsynthese

Wie in der Abbildung gezeigt, wird das Backend-Framework der statistischen parametrischen Sprachsynthese beschrieben, das hauptsächlich zwei Phasen umfasst: Training und Synthese.

In der Trainingsphase werden die Sprachwellenformen und entsprechenden Textmerkmale in der Soundbibliothek als Eingabe verwendet. Sprachwellenformen werden durch einen Vocoder extrahiert und mit Textmerkmalen zur akustischen Modellierung kombiniert.

In der Synthesephase werden gemäß dem trainierten akustischen Modell die zu synthetisierenden Textmerkmale eingegeben und die entsprechenden akustischen Merkmale vorhergesagt. Die vorhergesagten akustischen Merkmale werden dann mithilfe eines Vocoders in Sprachwellenformen umgewandelt. Vocoder- und Akustikmodelle sind Schlüsselkomponenten in statistischen parametrischen Sprachsynthesesystemen.

Das Quellfiltermodell der Spracherzeugung wird verwendet, um das Kurzzeitspektrum der Sprache während des Parametrisierungsprozesses der Sprachwellenform in Grundfrequenz und Spektralhüllkurve zu unterteilen. Normalerweise erhalten wir die Anregungseigenschaften von Sprache durch Analyse von Zeitbereichswellenformen oder Frequenzbereichsharmonischen und entfernen dann die Periodizität von Zeit und Frequenz aus dem Amplitudenspektrum, das durch die Kurzzeit-Fourier-Transformation der Sprachwellenform erhalten wird, um das Spektrumpaket von zu erhalten Rede. Netzwerk. Diese Methode kann uns helfen, Sprachsignale besser zu verstehen und zu verarbeiten.

Aufgrund der höheren Dimensionalität der Spektralhülle wird die Modellierung schwieriger, sodass es oft notwendig ist, die Dimensionalität der Spektralhülle zu reduzieren. Die Rekonstruktion der Sprachwellenform ist der umgekehrte Prozess zur Wiederherstellung der ursprünglichen Sprache aus den akustischen Parametern der Sprache. Durch die Angabe der Grundfrequenz, der spektralen Hüllkurve und der Anregungseigenschaften der Sprache in Kombination mit geeigneten Phasenbeschränkungen kann das STFT-Amplitudenspektrum rekonstruiert werden.

Die Dauermodellierung ist ein weiteres Modul der statistischen parametrischen Sprachsynthese. Für die Dauermodellierung ist kein Vocoder erforderlich. Das Grundgerüst ähnelt der akustischen Modellierung. Statistische Modelle werden verwendet, um die Wahrscheinlichkeitsverteilung entsprechender Zeitlängen gegebener Textmerkmale zu modellieren.

Nach mehr als 20 Jahren Entwicklungszeit hat sich die HMM-basierte statistische Parameter-Sprachsynthesemethode zu einer ausgereiften Sprachsynthesemethode entwickelt.

In diesem Abschnitt werden das Hidden-Markov-Modell und seine theoretischen Grundlagen vorgestellt. In Kombination mit bestimmten Phasenbeschränkungen wird das STFT-Amplitudenspektrum rekonstruiert. Die Dauermodellierung ist ein weiteres Modul der statistischen parametrischen Sprachsynthese. Für die Dauermodellierung ist kein Vocoder erforderlich. Das Grundgerüst ähnelt der akustischen Modellierung. Statistische Modelle werden verwendet, um die Wahrscheinlichkeitsverteilung entsprechender Zeitlängen gegebener Textmerkmale zu modellieren. Nach mehr als 20 Jahren Entwicklungszeit hat sich die auf HMM basierende Sprachsynthesemethode mit statistischen Parametern zu einer ausgereiften Sprachsynthesemethode entwickelt.

Das Hidden-Markov-Modell ist ein probabilistisches Modell zur Modellierung von Sequenzen, das aus einer Reihe versteckter Zustandsvariablen und einer Reihe von Beobachtungsvariablen besteht. Das HMM-Modell basiert auf zwei Annahmen.

Die Zustandsvariable gehorcht der Markov-Kette erster Ordnung, das heißt, der aktuelle Zustand hängt nur mit dem vorherigen Zustand zusammen, wie in Formel (1) gezeigt.

Die Wahrscheinlichkeitsverteilung der beobachteten Variablen zu einem bestimmten Zeitpunkt bezieht sich nur auf den Zustand zum aktuellen Zeitpunkt und hat nichts mit dem Zustand oder den beobachteten Variablen zu anderen Zeitpunkten zu tun, wie in Gleichung (2) dargestellt. .

Normalerweise bildet

im HMM-Modell geschickt die Zustandsübergangsmatrix A des HMM, und die Wahrscheinlichkeitsdichte der beobachteten Variablen beträgt:

Das ist es Es ist erwähnenswert, dass die HMM-Ausgabewahrscheinlichkeit:

Das Kernprinzip der akustischen Modellierung in der HMM-basierten statistischen parametrischen Sprachsynthesemethode besteht darin, das HMM-Modell zu verwenden, um die akustische Merkmalssequenz von Sprache in einer bestimmten Situation probabilistisch zu modellieren .

Die Konfiguration des gesamten Systems umfasst die Auswahl sprachakustischer Funktionen, die Auswahl von Modellierungseinheiten und die Konfiguration von HMM-Modellen. Zu den akustischen Merkmalen in Sprachsynthesesystemen gehören Anregungsmerkmale und spektrale Merkmale.

Um die Schwierigkeit der HMM-Modellierung bei der Auswahl von Spektralmerkmalen zu verringern, werden im Allgemeinen niedrigdimensionale Spektraldarstellungen verwendet, die die Korrelation zwischen Dimensionen beseitigen, wie z. B. Mel-Cepstrum- und Linienspektrumpaarmerkmale. In Anbetracht der kurzfristigen stationären Eigenschaften von Sprachsignalen und der Modellierungsfähigkeit von HM modellieren HMMs in Sprachsynthesesystemen normalerweise Einheiten auf Phonemebene, wie beispielsweise Vokaleinheiten im Chinesischen. Aufgrund der zeitlichen Eigenschaften von Sprache ist die Topologie von HMM bei der Audiomodellierung häufig ein einseitiger Durchlaufzustand von links nach rechts.

HMM-basiertes Sprachsynthesesystem mit statistischen Parametern

Die Abbildung zeigt das Framework des HMM-basierten Sprachsynthesesystems mit statistischen Parametern. Es ist in die Ausbildungsphase und die umfassende Phase unterteilt. Die Trainingsphase umfasst die Extraktion sprachakustischer Merkmale und das HMM-Modelltraining. Da das HMM-Modell Phoneme als Modellierungseinheiten verwendet, werden normalerweise drei kontextbezogene Phoneme modelliert, um die Modellierungsgenauigkeit zu verbessern.

Im ersten Systemtrainingsprozess wird die Untergrenze der Varianz des HMM-Modells geschätzt, dann wird das Einton-HMM-Modell als Modellinitialisierungsparameter trainiert, dann wird das kontextbezogene Drei-Phonem-HMM-Modell trainiert, und schließlich wird eine Mn-Druckclusterung basierend auf dem Entscheidungsbaum durchgeführt.

In der Synthesephase wird zunächst der Text analysiert, mit der vorhergesagten Zeitlänge kombiniert, die kontextbezogene HMM-Modellsequenz basierend auf dem Entscheidungsbaum bestimmt und anschließend die kontinuierliche akustische Merkmalssequenz durch die Maximum-Likelihood-Parametergenerierung erhalten Algorithmus, und die Sprachwellenform wird vom Synthesizer synthetisiert. Auf HMM basierende statistische parametrische Sprachsynthesesysteme sind zu glatt; ein Grund dafür ist die begrenzte Modellierungsfähigkeit von HMM.

In den letzten Jahren hat sich Deep Learning als Zweig des maschinellen Lernens rasant weiterentwickelt. Unter Deep Learning versteht man die Verwendung von Netzwerkmodellen, die aus mehreren nichtlinearen Transformationen und mehreren Verarbeitungsschichten bestehen, nämlich neuronalen Netzen. Aufgrund der hervorragenden Modellierungsfähigkeiten von DNN und Zoll wird die auf DNN und RNN basierende akustische Modellierungsmethode auf die statistische parametrische Sprachsynthese angewendet, und ihre Wirkung ist besser als die auf HMM basierende akustische Modellierungsmethode.

Es ist mittlerweile die gängige Methode der statistischen parametrischen Sprachsynthese-Akustikmodellierung. Auf DNN und RNN basierende Sprachsynthesesysteme sind im Systemrahmen ähnlich.

Rahmendiagramm der auf einem neuronalen Netzwerk basierenden Sprachsynthesemethode

Wie in der Abbildung gezeigt, handelt es sich bei den Eingabemerkmalen in der Abbildung um aus dem Text extrahierte Merkmale, d. h. zur Beschreibung werden diskrete oder kontinuierliche numerische Merkmale verwendet Text.

Das Training statistischer parametrischer Sprachsynthesesysteme basierend auf DNN und RNN übernimmt normalerweise Trainingskriterien und verwendet den BP-Algorithmus und den SGD-Algorithmus, um Modellparameter so zu aktualisieren, dass die vorhergesagten akustischen Parameter den natürlichen akustischen Parametern so nahe wie möglich kommen. In der Synthesephase werden Textmerkmale aus dem synthetisierten Text extrahiert, dann werden die entsprechenden akustischen Parameter über DNN oder RNN vorhergesagt und schließlich wird die Sprachwellenform über den Vocoder synthetisiert.

Derzeit werden auf DNN und RNN basierende Modellierungsmethoden hauptsächlich auf sprachakustische Parameter angewendet, einschließlich Grundfrequenz- und Spektralparameter. Informationen zur Dauer müssen noch über andere Systeme abgerufen werden. Darüber hinaus müssen die Eingabe- und Ausgabefunktionen von DNN- und RNN-Modellen zeitlich angepasst werden.

Das obige ist der detaillierte Inhalt vonGrundprinzipien der intelligenten Sprachsynthese. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!