TikTok entwickelt ein Tool, mit dem Benutzer ihre Stimme klonen können, allerdings mit einer Einschränkung

Tick ​​Tack Funktioniert wie neu Voice-Clone-Funktion Angetrieben durch künstliche Intelligenz liefert es Ergebnisse innerhalb von Sekunden. Daten, die von einem als AssembleDebug identifizierten Leaker im sozialen Netzwerk X veröffentlicht wurden, eröffnen eine Debatte über die unethische Verwendung des Tools.

Der Leaker identifizierte Spuren der Funktion in der Betaversion der chinesischen Social-Networking-App für Android-Geräte und erklärte, dass es sich derzeit um einen unbenannten Test handele.

Bei der Analyse des Codes fand der Leaker einen neuen Hinweis „TikTok-Sprachbibliothek“ Jetzt die Option „Generieren Sie Ihre Stimme mit künstlicher Intelligenz“. Es gelingt auch, eine grafische Oberfläche zu laden, über die Benutzer sehen können, ob diese Funktion bereits verfügbar ist.

Der Begrüßungsbildschirm zeigt dies an TikTok braucht nur 10 Sekunden, um Ihre Stimme zu klonen. Sobald dieser Schritt abgeschlossen ist, haben Benutzer die Möglichkeit, den Text für die Geschichte mit einer synthetischen Version ihrer Stimmen in den von ihnen veröffentlichten Videos zu schreiben.

Obwohl das soziale Netzwerk es bereits ermöglicht, Audiokommentare zu Videos hinzuzufügen, ist es mit diesem neuen Tool nicht nötig, diese aufzuzeichnen, da die App die aus dem Text geklonte Stimme nachahmt. Nach dem Akzeptieren der Nutzungsbedingungen müssen Benutzer einen Teil des Textes aufzeichnen, der auf dem Verarbeitungsbildschirm des Computers erscheint.

Kostenloser Zugriff auf eine Bibliothek geklonter Stimmen

Genauere Angaben zur Funktionsweise des Tools machten die Verantwortlichen des sozialen Netzwerks nicht und stellten klar, dass es auf Wunsch des Nutzers aus der Sprachbibliothek entfernt werden könne. Allerdings gibt es einige Fragen dazu, wie diese neue Funktion implementiert werden soll.

Die Nutzungsbedingungen der von AssembleDebug erfassten Funktion weisen darauf hin, dass geklonte Stimmen nicht nur für die Benutzer verfügbar sind, die sie erstellt haben. Jeder auf TikTok kann über die Bibliothek darauf zugreifen.

„Sie erkennen weiterhin an und stimmen zu, dass wir zwar Anstrengungen unternehmen werden, um das Risiko zu minimieren, dass Ihre Stimme missbraucht und/oder missbraucht wird (einschließlich durch Endbenutzer der Sprachbibliothek auf der Plattform), wir das Ausmaß jedoch nicht genau vorhersagen können welche Benutzer der Voice Library Ihre Stimme verwenden dürfen, wenn sie diese Voice Library-Bedingungen akzeptieren. „Zustimmen oder kontrollieren. Imitieren Sie sich selbst, sagen Sie Dinge, mit denen Sie nicht einverstanden sind und die Sie als anstößig empfinden“, heißt es in einem der Punkte im Text.