DissLiteratur/storage/BFET7DPS/.zotero-ft-cache

Sprachverarbeitung

Beat Pfister Tobias Kaufmann
Sprachverarbeitung
Grundlagen und Methoden der Sprachsynthese und Spracherkennung
2., aktualisierte und erweiterte Auflage

Beat Pfister ETH Zürich Zürich, Schweiz

Tobias Kaufmann ETH Zürich Zürich, Schweiz

ISBN 978-3-662-52837-2 DOI 10.1007/978-3-662-52838-9

ISBN 978-3-662-52838-9 (eBook)

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.

Springer Vieweg © Springer-Verlag GmbH Deutschland 2008, 2017 Das Werk einschließlich aller seiner Teile ist urheberrechtlich geschützt. Jede Verwertung, die nicht ausdrücklich vom Urheberrechtsgesetz zugelassen ist, bedarf der vorherigen Zustimmung des Verlags. Das gilt insbesondere für Vervielfältigungen, Bearbeitungen, Übersetzungen, Mikroverfilmungen und die Einspeicherung und Verarbeitung in elektronischen Systemen. Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche Namen im Sinne der Warenzeichenund Markenschutz-Gesetzgebung als frei zu betrachten wären und daher von jedermann benutzt werden dürften. Der Verlag, die Autoren und die Herausgeber gehen davon aus, dass die Angaben und Informationen in diesem Werk zum Zeitpunkt der Veröffentlichung vollständig und korrekt sind. Weder der Verlag noch die Autoren oder die Herausgeber übernehmen, ausdrücklich oder implizit, Gewähr für den Inhalt des Werkes, etwaige Fehler oder Äußerungen. Der Verlag bleibt im Hinblick auf geografische Zuordnungen und Gebietsbezeichnungen in veröffentlichten Karten und Institutionsadressen neutral.

Gedruckt auf säurefreiem und chlorfrei gebleichtem Papier.

Springer Vieweg ist Teil von Springer Nature Die eingetragene Gesellschaft ist Springer-Verlag GmbH Deutschland Die Anschrift der Gesellschaft ist: Heidelberger Platz 3, 14197 Berlin, Germany

Vorwort zur zweiten Auflage
Das Sprechen und das Verstehen von Sprache sind in unserem Alltag so selbstverständlich, dass wir uns kaum Gedanken darüber machen, wie anspruchsvoll diese Tätigkeiten sind. Versucht man jedoch das Sprechen oder das Verstehen von Sprache mit einem Computer zu verwirklichen, dann entpuppt sich das Vorhaben als verblüffend schwierig. Die Forschung im Bereich Sprachverarbeitung begann erst vor etwa fünfzig Jahren, als Computer verfügbar wurden, und sie gehört bis heute zu den stark wachsenden Forschungs- und Wissensbereichen. Immer komplexere Probleme lassen sich lösen, weil dank rasantem Fortschritt im IT-Bereich stets mächtigere Ansätze und Methoden und grössere Datenmengen eingesetzt werden können. So ist die Sprachverarbeitung zu einem weitläufigen, interdisziplinären Gebiet geworden, welches den Rahmen eines einzelnen Sachbuches bei weitem sprengt. Das vorliegende Buch hat jedoch nicht den Anspruch, den gesamten Sachbereich der Sprachverarbeitung abzudecken. Es beschränkt sich auf die Themen der zweisemestrigen Vorlesung Sprachverarbeitung an der ETH Zürich. Am Aufbau und an der Durchführung dieser Vorlesung und der zugehörigen, computerbasierten Übungen wirkten etliche frühere Mitarbeiter der Gruppe für Sprachverarbeitung mit, insbesondere Hans-Peter Hutter, Christof Traber, René Beutler und Schamai Safra. Ebenfalls an den Übungen und zusätzlich an der Bereinigung der ersten Ausgabe des Buches Sprachverarbeitung haben sich Thomas Ewender, Michael Gerber, Sarah Hoffmann und Harald Romsdorfer beteiligt. In der zweiten Ausgabe ist hauptsächlich das Kapitel über die polyglotte Sprachsynthese neu dazugekommen. Zudem wird gezeigt, wo in der Sprachverarbeitung neuerdings komplexe neuronale Netze eingesetzt werden. Zusätzlich sind im Buch viele Stellen für ein besseres Verständnis ergänzt oder umformuliert worden. Schliesslich sind die Fehler korrigiert worden, die nachträglich in der ersten Ausgabe bemerkt worden sind. Da eBooks zunehmend an Bedeutung gewinnen, sind in der eBook-Version alle buchinternen Verweise neu als Hyperlinks ausgebildet, was das Navigieren in diesem Buch mit seinen unterschiedlichen Fachbereichen stark erleichtert.

Zürich, Februar 2017

Beat Pfister und Tobias Kaufmann

Vorwort zur ersten Auflage
Das vorliegende Buch ist aus den Skripten zur zweisemestrigen Vorlesung Sprachverarbeitung an der ETH Zürich entstanden. Am Aufbau dieser Vorlesung haben etliche frühere Mitarbeiter der Gruppe für Sprachverarbeitung mitgewirkt, insbesondere Hans-Peter Hutter, Christof Traber und René Beutler. Der Aufbau der Skripte war konsequent auf den zeitlichen Ablauf der Vorlesung ausgerichtet. Die Vorlesung ist so konzipiert, dass Studierende, die nur ein Semester lang die Vorlesung belegen, trotzdem von fast allen wichtigen Aspekten der Sprachsynthese und der Spracherkennung mindestens einen groben Überblick erhalten. Das führte zwangsläufig dazu, dass mehrere Gebiete im Band I des Vorlesungsskripts nur eingeführt und erst im Band II eingehend behandelt oder vertieft wurden. Inhaltlich deckt das Buch den Vorlesungsstoff ab, aber es ist neu gegliedert worden, sodass nun Grundlagen, Sprachsynthese und Spracherkennung je einen Block bilden. Wir möchten an dieser Stelle allen, die zu diesem Buch beigetragen haben, bestens danken. Es sind dies zur Hauptsache die Mitglieder der Gruppe für Sprachverarbeitung, nämlich Thomas Ewender, Michael Gerber, Sarah Hoffmann und Harald Romsdorfer. Insbesondere Sarah und Thomas haben sich als kritische Leser intensiv mit dem Inhalt und der Form des Buches auseinandergesetzt und zu vielen fruchtbaren Diskussionen beigetragen.

Zürich, Januar 2008

Beat Pfister und Tobias Kaufmann

Inhaltsverzeichnis

Einführung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1

1

Grundsätzliches zur Sprache . . . . . . . . . . . . . . . . . . . . . . . . 3

1.1 Sprache als Kommunikationsmittel .......................... 5

1.1.1 Lautsprachliche Kommunikation.............................. 5

1.1.2 Geschriebene vs. gesprochene Sprache ...................... 6

1.2 Die Beschreibung von Sprache................................ 8

1.2.1 Die linguistischen Ebenen ...................................... 8

1.2.2 Die phonetische Schrift......................................... 10

1.2.3 Die akustisch-phonetische Ebene ............................. 11

1.2.4 Die Prosodie der Sprache ...................................... 11

1.3 Die menschliche Sprachproduktion........................... 12

1.3.1 Übersicht über den Sprechapparat ........................... 12

1.3.2 Die Funktion des Sprechapparates ........................... 12

1.3.3 Die Artikulation der Sprachlaute ............................. 14

1.4 Das menschliche Gehör ......................................... 15

1.4.1 Wahrnehmung der Schallintensität........................... 16

1.4.2 Periodizität und Tonhöhe ...................................... 17

1.4.3 Die Phasenwahrnehmung ...................................... 18

1.4.4 Der Verdeckungseffekt.......................................... 18

1.4.5 Wahrnehmung der Sprachlaute ............................... 19

1.5 Verarbeitung natürlicher Sprache............................. 21

2

Übersicht über die Sprachverarbeitung . . . . . . . . . . . . . . 23

2.1 Was in einem Sprachsignal steckt ............................ 25

2.2 Teilgebiete der Sprachverarbeitung........................... 26

2.3 Sprachsynthese ................................................... 27

2.4 Spracherkennung................................................. 28

2.5 Sprecheridentifikation ........................................... 29

2.6 Sprachidentifikation ............................................. 29

2.7 Sprechertransformation......................................... 30

2.8 Sprachsignalcodierung .......................................... 30

2.8.1 Signalformcodierung ............................................ 32

2.8.2 Modellierung von Sprachsignalen............................. 35

3

Darstellung und Eigenschaften des Sprachsignals . . . . 37

3.1 Digitalisieren von Sprachsignalen ............................. 39

3.1.1 Bandbegrenzungsfilter .......................................... 39

3.1.2 Zeit- und Amplitudendiskretisierung ......................... 41

3.1.3 Rekonstruktionsfilter ............................................ 41

VIII

Inhaltsverzeichnis

3.2 Darstellung digitaler Sprachsignale im Zeitbereich........ 43 3.3 Darstellung im Frequenzbereich .............................. 45 3.4 Kombinierte Zeit-Frequenz-Bereichs-Darstellungen ....... 48 3.5 Darstellung der Phase eines Sprachsignals.................. 50 3.6 Sprachmerkmale und ihre Darstellung ....................... 52 3.6.1 Grundfrequenz.................................................... 52 3.6.2 Formanten ........................................................ 53 3.6.3 Dauer der Laute ................................................. 54 3.6.4 Intensität der Laute ............................................. 55

4 4.1 4.2 4.2.1 4.2.2 4.2.3 4.2.4 4.2.5 4.3 4.4 4.4.1 4.4.2 4.4.3 4.5 4.5.1 4.5.2 4.5.3 4.6 4.6.1 4.6.2 4.6.3 4.6.4 4.6.5 4.6.6 4.6.7 4.6.8 4.7 4.7.1 4.7.2

Analyse des Sprachsignals . . . . . . . . . . . . . . . . . . . . . . . . . . . 57 Kurzzeitanalyse .................................................. 59 Schätzung des Kurzzeitspektrums............................ 60 Diskrete Fouriertransformation................................ 60 Eigenschaften der DFT ......................................... 64 Fensterfunktionen................................................ 64 Die Frequenzauflösung der DFT .............................. 66 Zeitabhängige Fouriertransformation ........................ 69 Schätzung des Leistungsdichtespektrums ................... 71 Autokorrelation................................................... 73 Definition der Autokorrelationsfunktion ..................... 73 Eigenschaften der Autokorrelationsfunktion ................ 73 Kurzzeit-Autokorrelation ....................................... 74 Lineare Prädiktion ............................................... 77 Herleitung der LPC-Analyse ................................... 77 Sprachmodellierung mittels linearer Prädiktion ............ 80 Interpretation der linearen Prädiktion ....................... 86 Homomorphe Analyse........................................... 89 Das verallgemeinerte Superpositionsprinzip ................ 89 Homomorphe Systeme .......................................... 89 Das DFT-Cepstrum ............................................. 90 Cepstrale Glättung .............................................. 92 Das Mel-Cepstrum .............................................. 94 Das Delta-Cepstrum ............................................ 96 Mittelwertfreie Cepstren........................................ 97 Cepstrale Distanz ................................................ 99 Vektorquantisierung ............................................. 100 Realisation der Vektorquantisierung ......................... 101 Generieren eines Codebuches.................................. 103

5

Hidden-Markov-Modelle . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107

5.1 Struktur und Parameter eines HMM ........................ 109

Inhaltsverzeichnis

IX

5.1.1 5.1.2 5.2 5.3 5.4 5.4.1 5.4.2 5.4.3 5.4.4 5.4.5 5.4.6 5.4.7 5.4.8 5.4.9 5.5 5.5.1 5.5.2 5.5.3 5.5.4 5.5.5 5.5.6 5.5.7 5.6 5.7

Zustandsübergangswahrscheinlichkeiten..................... 110 Beobachtungswahrscheinlichkeiten ........................... 112 Die grundlegenden HMM-Probleme ......................... 114 Trellis-Diagramm ................................................ 115 Grundlegende Algorithmen für DDHMM ................... 117 Evaluationsproblem.............................................. 117 Forward-Algorithmus für DDHMM........................... 118 Decodierungsproblem ........................................... 120 Viterbi-Algorithmus für DDHMM ............................ 120 Schätzproblem.................................................... 122 Backward-Algorithmus für DDHMM ........................ 122 Baum-Welch-Algorithmus für DDHMM..................... 123 Viterbi-Training für DDHMM ................................. 126 Initial-DDHMM .................................................. 128 Grundlegende Algorithmen für CDHMM.................... 129 Forward-Algorithmus für CDHMM ........................... 129 Viterbi-Algorithmus für CDHMM ............................ 129 Backward-Algorithmus für CDHMM......................... 129 Baum-Welch-Algorithmus für CDHMM ..................... 130 Viterbi-Training für CDHMM ................................. 131 Initial-CDHMM .................................................. 132 Mixture Splitting................................................. 133 Training mit mehreren Beobachtungssequenzen........... 134 Underflow bei HMM ............................................ 135

6 6.1 6.2 6.2.1 6.2.2 6.2.3 6.2.4 6.2.5 6.3 6.3.1 6.3.2 6.3.3 6.4 6.5 6.5.1 6.5.2

Darstellung und Anwendung linguistischen Wissens. . 137 Formale Sprachen und Grammatiken ........................ 139 Die Sprachhierarchie nach Chomsky ......................... 140 Reguläre Sprachen (Typ 3) .................................... 143 Kontextfreie Sprachen (Typ 2)................................ 145 Kontextsensitive Sprachen (Typ 1)........................... 146 Allgemeine Sprachen (Typ 0) ................................. 150 Das Wortproblem ................................................ 150 Die Wortanalyse ................................................. 152 Wortanalyse für Typ-3-Grammatiken ........................ 152 Wortanalyse für Typ-2-Grammatiken ........................ 160 Wortanalyse für Typ-1- und Typ-0-Grammatiken ......... 167 Formalisierung natürlicher Sprachen ......................... 167 Der DCG-Formalismus.......................................... 172 Definition und Eigenschaften von DCG ..................... 172 Unifikation ........................................................ 175

X

Inhaltsverzeichnis

6.5.3 6.5.4 6.5.5 6.6 6.6.1 6.6.2 6.6.3

DCG-Ableitungen ................................................ 175 DCG-Ableitungsbaum........................................... 177 DCG und Chart-Parsing ........................................ 178 Two-Level-Regeln und Transduktoren ....................... 178 Einführung ........................................................ 178 Two-Level-Regeln ................................................ 179 Transduktoren .................................................... 182

7 7.1 7.2 7.3 7.4 7.4.1 7.4.2 7.5 7.5.1 7.5.2

Einführung in die Sprachsynthese . . . . . . . . . . . . . . . . . . . 191 Überblick über die Geschichte der Sprachsynthese........ 193 Aufgabe der Sprachsynthese................................... 194 Zusammenhang zwischen Lautsprache und Schrift ....... 195 Teile der Sprachsynthese ....................................... 196 Die Transkription ................................................ 197 Die phonoakustische Stufe..................................... 199 Lautinventar für die Sprachsynthese ......................... 200 Linguistische Grundlagen....................................... 200 Festlegen der Lautdifferenzierung ............................ 201

8 8.1 8.1.1 8.1.2 8.2 8.2.1 8.2.2 8.3 8.3.1 8.3.2 8.3.3 8.4 8.4.1 8.4.2 8.4.3 8.4.4 8.4.5 8.4.6 8.4.7 8.4.8 8.4.9

Sprachsynthese: Transkription . . . . . . . . . . . . . . . . . . . . . . 203 Linguistische Grundlagen für die Transkription ............ 205 Ermitteln der Lautfolge......................................... 206 Ermitteln der Prosodie ......................................... 211 Automatische Transkription ................................... 214 Der “direkte” Ansatz der Transkription ..................... 214 Der linguistische Ansatz der Transkription ................. 214 Automatische morphosyntaktische Analyse................. 216 Morphologische Analyse mit DCG............................ 217 Generierung der phonetischen Umschrift in einer DCG .. 218 Hauptprobleme der morphosyntaktischen Analyse ........ 219 Realisation einer Transkriptionsstufe......................... 223 DCG in SVOX .................................................... 224 Morphologische Analyse in SVOX ............................ 225 Syntaxanalyse in SVOX ........................................ 225 Analyse unbekannter Wortstämme........................... 227 Phonetische Umschrift ganzer Wörter ....................... 228 Akzentuierung .................................................... 230 Phrasierung ....................................................... 233 Generierung der phonologischen Darstellung ............... 234 Weiterverarbeitung der phonologischen Darstellung ...... 235

Inhaltsverzeichnis

XI

9 9.1 9.1.1 9.1.2 9.1.3 9.2 9.2.1 9.2.2 9.2.3 9.2.4 9.2.5 9.2.6 9.3 9.3.1 9.3.2 9.3.3 9.3.4 9.3.5

Sprachsynthese: Phonoakustische Stufe . . . . . . . . . . . . . 237 Verfahren für die Sprachsignalproduktion................... 239 Der artikulatorische Ansatz .................................... 240 Der Signalmodellierungsansatz................................ 241 Der Verkettungsansatz ......................................... 245 Sprachsynthese nach dem Verkettungsansatz.............. 247 Wahl der Grundelemente....................................... 248 Ausschneiden von Grundelementen .......................... 249 Veränderung der prosodischen Grössen...................... 252 Signalveränderung mittels LPC-Analyse-Synthese ........ 253 Signalveränderung mittels Fourier-Analyse-Synthese ..... 254 Signalveränderung mittels PSOLA ........................... 260 Steuerung der Prosodie......................................... 262 Dauersteuerung .................................................. 264 Grundfrequenzsteuerung........................................ 273 Intensitätssteuerung............................................. 284 Umsetzung der prosodischen Grössen auf die Laute ...... 286 Prosodische Veränderung der Grundelemente.............. 286

10 Polyglotte Sprachsynthese . . . . . . . . . . . . . . . . . . . . . . . . . . 289 10.1 Motivation und Einführung .................................... 291 10.1.1 Aufgabe der polyglotten Sprachsynthese.................... 291 10.1.2 Gemischtsprachige Texte ....................................... 292 10.2 Konzept der polyglotten Sprachsynthese.................... 294 10.3 Transkription gemischtsprachiger Texte ..................... 297 10.3.1 Morphologische Analyse gemischtsprachiger Wörter...... 297 10.3.2 Syntaktische Analyse gemischtsprachiger Sätze ........... 303 10.3.3 Probleme der polyglotten morphosyntaktischen Analyse 307 10.3.4 Phonologische Transformationen ............................. 309 10.3.5 Akzentuierung und Phrasierung .............................. 314 10.3.6 Rekapitulation der polyglotten Transkription .............. 316 10.4 Polyglotte phonoakustische Stufe ............................ 317 10.4.1 Polyglotte Prosodiesteuerung ................................. 318 10.4.2 Polyglotte Sprachsignalproduktion ........................... 321

11 Einführung in die Spracherkennung . . . . . . . . . . . . . . . . . 323 11.1 Zur Geschichte der Spracherkennung ........................ 325 11.2 Ansätze zur Spracherkennung................................. 327 11.3 Probleme der Spracherkennung ............................... 328 11.4 Anwendungen .................................................... 331 11.5 Einteilung der Spracherkennungssysteme ................... 332 11.6 Evaluation der Erkennungsleistung........................... 334

XII

Inhaltsverzeichnis

11.6.1 Wortfehlerrate .................................................... 335 11.6.2 Algorithmus zur Bestimmung der Wortfehlerrate ......... 335 11.7 Merkmalsextraktion ............................................. 336 11.7.1 Mel Frequency Cepstral Coefficients (MFCC) ............. 338 11.7.2 Geglättete Mel-Spektren von Vokalen und Frikativen .... 339 11.7.3 Plosivlaute im geglätteten Mel-Spektrogramm ............ 340 11.7.4 Spektrale Variabilität ........................................... 342 11.7.5 Rekonstruktion des Signals .................................... 342 11.8 Aufnehmen einer Äusserung ................................... 344 11.8.1 Anwendungsszenarien........................................... 344 11.8.2 Anfangs- und Endpunktdetektion ............................ 346
12 Spracherkennung mit Mustervergleich . . . . . . . . . . . . . . . 351 12.1 Das Prinzip des Sprachmustervergleichs .................... 353 12.2 Zeitliche Anpassung zweier Sprachmuster .................. 356 12.3 Randbedingungen für die Warping-Kurve................... 357 12.4 Der DTW-Algorithmus ......................................... 360 12.5 Spracherkennung mittels DTW ............................... 363 12.5.1 Generieren von Referenzmustern ............................. 363 12.5.2 Einsatzmöglichkeiten und Grenzen ........................... 365
13 Statistische Spracherkennung . . . . . . . . . . . . . . . . . . . . . . . 367 13.1 Informationstheoretische Sicht ................................ 369 13.2 Spracherkennung gemäss MAP-Regel ....................... 369 13.3 Modellierung von Merkmalssequenzen ...................... 371 13.3.1 Variabilität von Merkmalssequenzen ......................... 371 13.3.2 Statistische Beschreibung von Sprachmerkmalen ......... 371 13.3.3 Statistische Beschreibung von Merkmalssequenzen....... 372 13.3.4 Lösung der grundlegenden HMM-Probleme ................ 374 13.4 Akustische Modelle für Wörter ............................... 375 13.4.1 Sprachmerkmale für die Spracherkennung .................. 376 13.4.2 HMM als Wortmodell........................................... 378 13.4.3 Erzeugen von Wortmodellen................................... 379 13.5 Spracherkennung mit Wort-HMM ............................ 383 13.5.1 Einzelworterkennung ............................................ 383 13.5.2 Worterkenner mit Erkennungsnetzwerk ..................... 385 13.5.3 Schlüsselworterkennung ........................................ 387 13.5.4 Verbundworterkennung ......................................... 387 13.5.5 Erkennung mit dem N-best-Viterbi-Algorithmus .......... 389 13.5.6 Erkennung kontinuierlicher Sprache.......................... 390 13.6 Akustische Modelle für Wortteile............................. 391 13.6.1 Wahl der Grundelemente....................................... 391

Inhaltsverzeichnis

XIII

13.6.2 Erzeugen von Grundelementmodellen ....................... 397 13.7 Modelle für verschiedene akustische Ereignisse ............ 403 13.7.1 Modelle für Pausen.............................................. 403 13.7.2 Modelle für Geräusche .......................................... 404 13.7.3 Modell für beliebige Sprachsignale ........................... 404 13.8 Spracherkennung mit Laut-HMM ............................ 405 13.8.1 Erkennung einzeln gesprochener Wörter .................... 405 13.8.2 Erkennung kontinuierlicher Sprache.......................... 405 13.8.3 Reduktion des Rechenaufwands (Pruning) ................. 406 13.9 Stärken und Schwächen von HMM .......................... 407

14 Sprachmodellierung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 409 14.1 Zum Begriff der Sprachmodellierung ........................ 411 14.2 Statistische Sprachmodellierung .............................. 412 14.2.1 Sprachmodellierung bei der Einzelworterkennung ......... 413 14.2.2 Sprachmodellierung für Wortfolgen .......................... 415 14.2.3 Das allgemeine statistische Sprachmodell................... 415 14.2.4 N-Gram-Sprachmodelle......................................... 417 14.2.5 Schätzen der Parameter von N-Gram-Sprachmodellen... 420 14.2.6 Kategorielle N-Gram-Sprachmodelle ......................... 423 14.2.7 Anwendung von N-Gram-Sprachmodellen .................. 424 14.2.8 Bewertung von Sprachmodellen .............................. 425 14.2.9 Stärken und Schwächen der statistischen Modellierung.. 428 14.3 Wissensbasierte Sprachmodellierung ......................... 431 14.3.1 Linguistisches Wissen in der Spracherkennung............. 431 14.3.2 Formale Grammatiken als Sprachmodelle................... 434 14.4 Neue Ansätze im Bereich der Spracherkennung ........... 440 14.4.1 Merkmalsextraktion mit einem neuronalen Netz .......... 441 14.4.2 Sprachmodellierung mit einem neuronalen Netz........... 441

A

Linguistische Grundlagen . . . . . . . . . . . . . . . . . . . . . . . . . . . 443

A.1 Phonetische Schrift in ASCII-Darstellung ................... 445

A.1.1 IPA-Symbole für Deutsch mit ASCII-Darstellung ......... 446

A.1.2 IPA-Symbole für Englisch mit ASCII-Darstellung ......... 448

A.1.3 IPA-Symbole für Französisch mit ASCII-Darstellung ..... 450

A.2 Phonemsystem des Deutschen ................................ 452

A.3 Erläuterungen zu den Grammatiken ......................... 453

A.3.1 Über den Zweck natürlichsprachlicher Grammatiken ..... 453

A.3.2 In den Grammatiken dieses Buches verwendete Symbole 454

B

Verschiedene Grundlagen . . . . . . . . . . . . . . . . . . . . . . . . . . . 457

B.1 Wahrscheinlichkeitstheorie ..................................... 459

XIV

Inhaltsverzeichnis

B.1.1 Regeln der Wahrscheinlichkeitsrechnung.................... 459 B.1.2 Wahrscheinlichkeitsverteilungen .............................. 461 B.2 z-Transformation................................................. 467 B.3 Neuronale Netze: Mehrschicht-Perzeptron ................. 469 B.3.1 Das Neuronenmodell ............................................ 469 B.3.2 Das Mehrschicht-Perzeptron .................................. 470 B.3.3 Anwendungen von Mehrschicht-Perzeptronen ............. 471 B.3.4 Training eines Mehrschicht-Perzeptrons..................... 472 B.3.5 Hinweise zum Einsatz von neuronalen Netzen ............. 474 B.3.6 Komplexe neuronale Netze .................................... 476
Notationen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 479
Glossar . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 483
Literaturverzeichnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 497
Index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 501