Folgende Punkte sind für die Anwendung von synthetisch erzeugten Stimmen wichtige Grundlage.
- Respekt gegenüber Verstorbenen: Die Nachahmung der Stimmen Verstorbener könnte als respektlos gegenüber den Toten angesehen werden, da ihre Identität ohne Zustimmung rekonstruiert und verwendet wird.
- Einwilligung und Privatsphäre: Verstorbene konnten zu Lebzeiten nicht zustimmen oder ablehnen, dass ihre Stimme in solchen KI-Anwendungen verwendet wird. Die Verwendung ihrer Stimmen könnte gegen ihre Privatsphäre und ihren Willen verstoßen.
- Manipulation und Missbrauch: Die Manipulation von Stimmen Verstorbener könnte potenziell für betrügerische oder manipulative Zwecke missbraucht werden, beispielsweise um gefälschte Nachrichten oder Audioaufnahmen zu erstellen.
- Auswirkungen auf Hinterbliebene: Die Verwendung von Stimmen Verstorbener in KI-Anwendungen könnte bei den Hinterbliebenen Emotionen wie Trauer, Verwirrung oder sogar Unbehagen hervorrufen. Es könnte sie belasten, wenn Stimmen ihrer verstorbenen Liebsten auf unerwartete Weise wiederauftauchen.
- Kulturelle und religiöse Überlegungen: In einigen Kulturen oder Religionen könnte die Nutzung von Stimmen Verstorbener als heikel oder unangemessen angesehen werden, da sie den Glauben oder die Überzeugungen bestimmter Gemeinschaften verletzen könnte.
- Ethik der Technologie: Die Entwicklung und Verwendung solcher KI-Technologien wirft allgemein Fragen zur Ethik der Technologie auf, einschließlich der Verantwortung der Entwickler und der ethischen Grenzen bei der Schaffung solcher Anwendungen.
Es ist daher wichtig, dass bei der Entwicklung und Nutzung solcher Technologien ethische Überlegungen und moralische Grundsätze berücksichtigt werden. Wir haben dazu Richtlinien für den ethischen Einsatz solcher KI-Technologien implementiert. Jeder Kunde muss diese bei Anwendung der STS oder TTS Technologie durchlesen und unterschreiben. Dazu gehört auch die Transparenz bei der Verwendung von generierten Stimmen und die länderspezifische Einbeziehung von Gesetzen und Vorschriften, die den Missbrauch solcher Technologien verhindern sollen. Je nach Land sind die ethischen Richtlinien unterschiedlich.