Thorsten-Voice/docs/audio_compare.md

226 lines
6.2 KiB
Markdown
Raw Normal View History

# Vocoder Vergleich auf Basis des "thorsten" Tacotron 2 Modells
Hier sind Hörproben mit unterschiedlichen Vocodern. Alle gesprochenen Texte (*Sample 1 - 4*) basieren auf Aufnahmen im Dataset, jedoch nicht auf dem Spektogramm von "ground truth", sondern auf Basis des trainierten Tacotron 2 Modells. Sample 5 ist der Beginn des Märchens "Der Froschkönig" und wurde nicht für das Dataset aufgezeichnet.
## Sätze
* **Sample #01**: Eure Schoko-Bonbons sind sagenhaft lecker!
* **Sample #02**: Eure Tröte nervt.
* **Sample #03**: Europa und Asien zusammengenommen wird auch als Eurasien bezeichnet.
* **Sample #04**: Euer Plan hat ja toll geklappt.
2020-11-17 21:53:08 +01:00
* *Sample #05: "In den alten Zeiten, wo das Wünschen noch geholfen hat, lebte ein König, dessen Töchter waren alle schön." (Anfang vom "Froschkönig")*
# Ground truth
Originalaufnahmen aus dem "thorsten" Dataset.
<dl>
<table>
<thead>
<tr>
<th>Sample</th>
<th>Text</th>
<th>Audio</th>
</tr>
</thead>
<tbody>
<tr>
<td>01</td>
<td>Eure Schoko-Bonbons sind sagenhaft lecker</td>
<td><audio controls="" preload="none"><source src="samples/sample01-gt.wav"></audio></td>
</tr>
<tr>
<td>02</td>
<td>Eure Tröte nervt</td>
<td><audio controls="" preload="none"><source src="samples/sample02-gt.wav"></audio></td>
</tr>
<tr>
<td>03</td>
<td>Europa und Asien zusammengenommen wird auch als Eurasien bezeichnet</td>
<td><audio controls="" preload="none"><source src="samples/sample03-gt.wav"></audio></td>
</tr>
<tr>
<td>04</td>
<td>Euer Plan hat ja toll geklappt.</td>
<td><audio controls="" preload="none"><source src="samples/sample04-gt.wav"></audio></td>
</tr>
</tbody>
</table>
</dl>
# Griffin Lim
> Details zum Model: (todo: link)
> Tacotron2 + DDC: 460k Schritte trainiert
2020-11-21 10:08:08 +01:00
<dl>
<table>
<thead>
<tr>
<th>Sample</th>
<th>Text</th>
<th>Audio</th>
</tr>
</thead>
<tbody>
<tr>
<td>01</td>
<td>Eure Schoko-Bonbons sind sagenhaft lecker</td>
<td><audio controls="" preload="none"><source src="samples/sample01-griffin-lim.wav"></audio></td>
</tr>
<tr>
<td>02</td>
<td>Eure Tröte nervt</td>
<td><audio controls="" preload="none"><source src="samples/sample02-griffin-lim.wav"></audio></td>
</tr>
<tr>
<td>03</td>
<td>Europa und Asien zusammengenommen wird auch als Eurasien bezeichnet</td>
<td><audio controls="" preload="none"><source src="samples/sample03-griffin-lim.wav"></audio></td>
</tr>
<tr>
<td>04</td>
<td>Euer Plan hat ja toll geklappt.</td>
<td><audio controls="" preload="none"><source src="samples/sample04-griffin-lim.wav"></audio></td>
</tr>
</tbody>
</table>
</dl>
# ParallelWaveGAN
> Tacotron2 + DDC: 360k Schritte trainiert, PWGAN Vocoder: 925k Schritte trainiert
> Details: [Notebook von Olaf](https://colab.research.google.com/drive/15kJHTDTVxyIjxiZgqD1G_s5gUeVNLkfy?usp=sharing)
<dl>
<table>
<thead>
<tr>
<th>Sample</th>
<th>Text</th>
<th>Audio</th>
</tr>
</thead>
<tbody>
<tr>
<td>01</td>
<td>Eure Schoko-Bonbons sind sagenhaft lecker</td>
<td><audio controls="" preload="none"><source src="samples/sample01-pwgan.wav"></audio></td>
</tr>
<tr>
<td>02</td>
<td>Eure Tröte nervt</td>
<td><audio controls="" preload="none"><source src="samples/sample02-pwgan.wav"></audio></td>
</tr>
<tr>
<td>03</td>
<td>Europa und Asien zusammengenommen wird auch als Eurasien bezeichnet</td>
<td><audio controls="" preload="none"><source src="samples/sample03-pwgan.wav"></audio></td>
</tr>
<tr>
<td>04</td>
<td>Euer Plan hat ja toll geklappt.</td>
<td><audio controls="" preload="none"><source src="samples/sample04-pwgan.wav"></audio></td>
</tr>
<tr>
<td>05</td>
2020-11-17 21:53:08 +01:00
<td>In den alten Zeiten, wo das Wünschen noch geholfen hat, lebte ein König, dessen Töchter waren alle schön.</td>
<td><audio controls="" preload="none"><source src="samples/sample05-pwgan.wav"></audio></td>
</tr>
</tbody>
</table>
</dl>
# WaveGrad
> todo
# HifiGAN
> todo
# VocGAN
> **Diese Beispiele basieren auf "ground truth" und nicht auf dem Tacotron 2 Modell**
> 200 Epochen / 284k Trainingsschritte
<dl>
<table>
<thead>
<tr>
<th>Sample</th>
<th>Text</th>
<th>Audio</th>
</tr>
</thead>
<tbody>
<tr>
<td>01</td>
<td>Eure Schoko-Bonbons sind sagenhaft lecker</td>
<td><audio controls="" preload="none"><source src="samples/sample01-vocgan.wav"></audio></td>
</tr>
<tr>
<td>02</td>
<td>Eure Tröte nervt</td>
<td><audio controls="" preload="none"><source src="samples/sample02-vocgan.wav"></audio></td>
</tr>
<tr>
<td>03</td>
<td>Europa und Asien zusammengenommen wird auch als Eurasien bezeichnet</td>
<td><audio controls="" preload="none"><source src="samples/sample03-vocgan.wav"></audio></td>
</tr>
<tr>
<td>04</td>
<td>Euer Plan hat ja toll geklappt.</td>
<td><audio controls="" preload="none"><source src="samples/sample04-vocgan.wav"></audio></td>
</tr>
</tbody>
</table>
</dl>
# GlowTTS / Waveglow
> Details: [Github von Synesthesiam](https://github.com/rhasspy/de_larynx-thorsten)
> GlowTTS trainiert für 380k und Vocoder für 500k Schritte.
<dl>
<table>
<thead>
<tr>
<th>Sample</th>
<th>Text</th>
<th>Audio</th>
</tr>
</thead>
<tbody>
<tr>
<td>01</td>
<td>Eure Schoko-Bonbons sind sagenhaft lecker</td>
<td><audio controls="" preload="none"><source src="samples/sample01-waveglow.wav"></audio></td>
</tr>
<tr>
<td>02</td>
<td>Eure Tröte nervt</td>
<td><audio controls="" preload="none"><source src="samples/sample02-waveglow.wav"></audio></td>
</tr>
<tr>
<td>03</td>
<td>Europa und Asien zusammengenommen wird auch als Eurasien bezeichnet</td>
<td><audio controls="" preload="none"><source src="samples/sample03-waveglow.wav"></audio></td>
</tr>
<tr>
<td>04</td>
<td>Euer Plan hat ja toll geklappt.</td>
<td><audio controls="" preload="none"><source src="samples/sample04-waveglow.wav"></audio></td>
</tr>
2020-11-17 21:53:08 +01:00
<tr>
<td>05</td>
<td>In den alten Zeiten, wo das Wünschen noch geholfen hat, lebte ein König, dessen Töchter waren alle schön.</td>
<td><audio controls="" preload="none"><source src="samples/sample05-waveglow.wav"></audio></td>
</tr>
</tbody>
</table>
</dl>