„Alexa, klon Omas Stimme“ – The Post

„Alexa, klon Omas Stimme“ – The Post

Amazon arbeitet an einer neuen Funktion, die es Alexa, seinem Sprachassistenten, ermöglicht, zu sprechen, indem er die Stimme geliebter Menschen nachahmt, selbst wenn sie tot sind. Das System wurde diese Woche während der MARS, der jährlichen Konferenz, mit der das Unternehmen seine Innovationen präsentiert, vorgestellt und wird derzeit getestet. Die Möglichkeit, Tote mit einem Sprachsynthesizer zum Sprechen zu bringen, hat zu einiger Kritik und Verwirrung geführt, obwohl es nicht das erste Mal ist, dass digitale Systeme dafür entwickelt wurden.

Während der Präsentation zeigte einer der Manager für künstliche Intelligenz hinter einigen Alexa-Funktionen, Roith Prasad, ein Video von einem Kind, das den Sprachassistenten bat, ihm eine Geschichte mit der Stimme seiner Großmutter vorzulesen. Prasad sagte, das Hinzufügen „menschlicher Merkmale“ zu künstlichen Intelligenzsystemen werde immer wichtiger, und insbesondere „in diesen Zeiten mit einer anhaltenden Pandemie, in der viele von uns einen lieben Menschen verloren haben“.

Prasad fügte hinzu: „Künstliche Intelligenzen können zwar den Schmerz eines Verlustes nicht beseitigen, aber sie können sicherlich ihre Erinnerung dauerhaft machen.“ Amazon hat keine Informationen darüber bereitgestellt, wann und unter welchen Umständen das System für diejenigen verfügbar sein wird, die Alexa auf ihren Smartphones oder über eines der verschiedenen Heimgeräte der Echo-Serie verwenden.

Alexa muss sich nur weniger als eine Minute einer Aufnahme anhören, die die Stimme enthält, die Sie klonen möchten. Das Endergebnis ist laut Demonstration durchaus realistisch, viele Aspekte der neuen Funktionalität müssen aber noch geklärt werden. Prasad erklärte nicht, ob es besondere Einschränkungen geben wird, um beispielsweise das Klonen von Stimmen von Personen zu verhindern, die ihre Zustimmung nicht gegeben haben und die bestenfalls für einen Scherz oder schlimmstenfalls für Betrug ausgenutzt werden könnten.

Das System, an dem Amazon arbeitet, ist sicherlich nicht das erste, das die Möglichkeit bietet, synthetische Stimmen zu erzeugen, die die anderer Menschen nachahmen. Fortschritte in der Entwicklung von Algorithmen und künstlichen Intelligenzen haben in den letzten Jahren das Klonen von Sprache sowie die Produktion von Videos ermöglicht, in denen das Gesicht einer Person digital mit dem einer anderen überlagert werden kann (Deepfake).

Deepfake-Audio wird zunehmend in Fernseh- und Filmproduktionen, der Videospiel- und Podcast-Industrie verwendet. Im Falle von Podcasts ermöglicht es Ihnen einige Software, die von der Person, die sie aufgenommen hat, gesprochenen Sätze zu ändern, zum Beispiel für den Fall, dass sie ein Wort falsch ausgesprochen oder einen anderen Fehler gemacht hat. Die Eingriffe betreffen in der Regel wenige Sekunden Sprache, während es im Fall von Alexa eine viel umfangreichere und aufwendigere Sprachsynthese wäre.

Die Möglichkeit, Stimmen zu klonen, steht seit einigen Jahren im Mittelpunkt einer breiten Debatte, insbesondere über die ethischen Implikationen, die sich aus der Verwendung dieser Technologien ergeben. Im vergangenen Jahr wurde viel darüber gesprochen, nachdem beschlossen wurde, die Stimme des 2016 verstorbenen Küchenchefs und kulinarischen Popularisierers Anthony Bourdain für einen Dokumentarfilm nachzubilden.

In jüngerer Zeit wurde anlässlich des Filmstarts über die Chancen und Risiken der Sprachsynthese gesprochen Top-Gun: Maverick, in der auch Val Kilmer zu sehen ist, der amerikanische Schauspieler, der nach einer Operation im Jahr 2015 aufgrund von Kehlkopfkrebs nicht mehr wie zuvor sprechen kann. Seine Stimme war auf Wunsch des Schauspielers vom englischen Startup Sonantic digital rekonstruiert worden, was viele Fragen zur Angemessenheit dieser Technik auch außerhalb von Filmproduktionen aufwirft.

In Kilmers Fall hatte Sonantic Audiospuren mit seiner Stimme aus verschiedenen Filmen extrahiert und sie dann zum Trainieren des Sprachsynthesizers verwendet. Dank dieser Arbeit waren 40 Varianten der Stimme entstanden, von denen Kilmer diejenige ausgewählt hatte, die ihn am meisten überzeugte. Das Verfahren war daher aufwändig und nicht vergleichbar mit dem viel schnelleren und mit wenigen Sekunden Originalstimme zu verwendenden Sample, das von Amazon entwickelt wurde.

Gerade bei der Sprachsynthese sind diese Systeme beim Laien noch wenig verbreitet: Die meisten genaueren Lösungen erfordern ein Mindestmaß an Programmierkenntnissen und sind für weniger Geübte nicht ohne Weiteres zugänglich. Die Alexa-Funktion könnte die Dinge erheblich verändern und Millionen von Menschen ein ziemlich einfaches und unmittelbares Werkzeug zum Klonen der Stimme einer anderen Person an die Hand geben.

Bei einer berühmten Person kann sich das Klonen der Stimme als sinnvoll und insgesamt ungefährlich erweisen, wenn es beispielsweise im Zusammenhang mit einem eindeutig fiktiven Produkt erfolgt. Letztes Jahr für eine Folge von Simpson Beispielsweise wurde die Stimme von Marcia Wallace – der Synchronsprecherin von Edna Krabappel (Mrs. Caprapall in der italienischen Version) – geklont, die 2013 starb. In einem anderen Fall wurde die Stimme von US-Präsident Richard Nixon zu Aufklärungszwecken nachgebaut, um ihm die berühmte Rede „Im Falle einer Mondkatastrophe“ vorlesen zu lassen, die er im Falle eines Unfalls während der Apollo-11-Mission hätte halten sollen , der erste, der Menschen zum Mond brachte.

Das Klonen der Stimmen nicht berühmter Personen bringt verschiedene zusätzliche Implikationen mit sich. Um die Stimme eines Verstorbenen in einem für die Öffentlichkeit bestimmten Produkt wie einem Film oder einer Fernsehserie zu verwenden, wird normalerweise die Zustimmung der Familie des Verstorbenen eingeholt, ein Verfahren, das ein Minimum an Garantien für die Art der Beschäftigung zulässt dass es gemacht wird. Bei der privaten Nutzung ist es viel schwieriger, die Grenzen auszuloten und vor allem zu vermeiden, dass eine Sprachaufnahme zur Grundlage wird, um eine tote oder lebendige Person mit einem Audio-Deepfake zu Wort kommen zu lassen.

Wie verschiedene Beobachter betonten, hatte die Präsentation von Amazon einige Elemente, die für viele Ankündigungen von Technologieunternehmen typisch sind: eine große Betonung des erreichbaren Ergebnisses und sehr wenig Bewertung der praktischen und ethischen Implikationen der vorgeschlagenen Innovation. Wie hat es geschrieben der ehemalige Direktor der Tech-Site Gizmodo UKJames O’Malley: „Ich bin total erstaunt, dass diese Idee bei Amazon durch die Hände von so vielen Leuten gegangen ist – Führungskräfte, Entwickler, PR – und dass sich niemand gefragt hat, ob es wirklich eine gute Idee war.“

Rachel Tobac, Leiterin eines Sicherheits- und Cybersicherheitsunternehmens in San Francisco, äußerte zahlreiche Zweifel an der neuen Alexa-Funktionalität: „Ob ein Cyberkrimineller die Stimme einer anderen Person einfach und glaubwürdig mit einer kleinen Sprachprobe nachbilden kann, kann er mit dieser geklonten Stimme vortäuschen jemand anderes zu sein. Auf diese Weise könnte er diejenigen, die ihm zuhören, glauben machen, dass er diese Person ist, was zu Betrug, Datendiebstahl, Online-Konten und vielem mehr führen könnte ».

Was jedoch am meisten Aufmerksamkeit erregt hat, ist die Möglichkeit, dass synthetische Gerüchte leicht ohne die direkte Zustimmung der betroffenen Personen produziert werden. Es ist ein Problem, das sowohl Tote betrifft, die wahrscheinlich nicht geplant haben, Bestimmungen über die Verwendung dieser Praktiken zu erlassen, als auch diejenigen, die noch am Leben sind und möglicherweise entdecken, dass sie einen Freund haben, der ihre Stimme geklont hat, um einen Witz zu machen , senden Sie eine Sprachnachricht in seinem Namen an gemeinsame Kontakte oder für andere störende Zwecke.

Nach der großen Aufmerksamkeit, die die Präsentation erregt hat, hat Amazon klargestellt, dass das System jedoch nicht ausdrücklich für Tote entwickelt wurde. Prasad selbst, der Manager des Unternehmens, der die neue Funktionalität vorstellte, versuchte, die Ziele der Initiative besser einschätzen zu können: «Es geht nicht um die Menschen, die nicht mehr bei Ihnen sind. Aber es betrifft zum Beispiel Ihren Sohn, wenn er gerne die Stimme seiner Großmutter hören möchte, es aber nicht kann, weil er abwesend ist. Ich persönlich würde das gerne können».


#Alexa #klon #Omas #Stimme #Post

Hinterlasse einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.

de_DEGerman