Lauschangriff im Schlafzimmer

… und andere dunkle Seiten der Digitalisierung

Tilmann P. Gangloff im Gespräch mit Christoph Drösser

Der langjährige „Zeit“-Journalist Christoph Drösser erklärt in seinem Buch Wenn die Dinge mit uns reden, warum sich viele Menschen nach anfänglicher Befangenheit mit digitalen Sprachassistenten unterhalten; wenn auch nicht in der Öffentlichkeit. Im Interview spricht der frühere Chefredakteur des „Zeit“-Magazins „Wissen“ über das Unwesen sogenannter Social Bots und ihren möglichen Einfluss auf Wahlen, über „Roboterjournalismus“ und Avatare von Verstorbenen.

Online seit 03.02.2021: https://tvdiskurs.de/beitrag/lauschangriff-im-schlafzimmer/

 

 

 

Herr Drösser, Sie sind 62 Jahre alt und somit alles andere als ein Eingeborener des digitalen Zeitalters. Trotzdem bekennen Sie in Ihrem Buch, dass Sie mit Siri reden, der Spracherkennungssoftware von Apple. Kamen Sie sich dabei anfangs nicht komisch vor?

Ich bin zwar kein Digital Native, aber unsere Generation gehört zu den Pionieren, die das Netz von den Anfangstagen an miterlebt haben. Ich war 1994 am Massachusetts Institute of Technology in den USA, als die explosive Entwicklung des World Wide Web begann, und kann irgendwann meinen Enkeln erzählen, dass es mal ein Internet ohne Google und Facebook gab. Zur Frage nach Siri: Ich glaube, jeder findet es zunächst seltsam, mit einem Gerät zu sprechen. Ich mache das auch nicht, wenn ich unter Leuten bin.

Verwenden Sie einen Smart Speaker, der dauerhaft mit dem Internet verbunden ist? Jeder totalitäre Staat träumt doch von einer derartigen Überwachungstechnologie, die sich die Menschen ganz freiwillig anschaffen.

Aus genau diesem Grund habe ich keinen Smart Speaker: weil ich vermeiden will, von Amazon oder Google belauscht zu werden. Aber zunächst mal zur Beruhigung: Im normalen Betrieb sind die Geräte zwar lokal auf Empfang, aber sie beginnen erst die Daten übers Netz zu übertragen, wenn man das „Weckwort” gesagt hat, also zum Beispiel „Alexa”. Dann jedoch hören tatsächlich am anderen Ende oft nicht nur Computer, sondern auch Menschen mit, weil die Firmen die Spracherkennung immer weiter verbessern wollen. Natürlich ist es schon vorgekommen, dass die Maschine fälschlicherweise das Weckwort verstanden und dann ein Gespräch im Schlafzimmer übertragen hat.
 


Ich […] kann irgendwann meinen Enkeln erzählen, dass es mal ein Internet ohne Google und Facebook gab.“



Die Zahl der Nutzer, die mit Siri, Alexa und Co. kommunizieren, bewegt sich derzeit noch im niedrigen Prozentbereich. Glauben Sie, dass die Mehrheit irgendwann die Organisation ihres Alltags elektronischen Assistenten überlässt?

Es ist letztlich eine Frage der Nützlichkeit: Bringt mir das Sprach-Interface mehr, als wenn ich die Befehle manuell eingebe? Ich frage zum Beispiel „Wie wird das Wetter heute?” oder „Wie steht der Dollar?” und habe sofort die Antwort auf dem Schirm, das geht schneller als per Hand. Ich muss aber nicht auch noch die Heizung oder das Licht im Schlafzimmer per Stimme steuern.

Das „Internet der Dinge“ hat sicher Vorteile, weil der Kühlschrank zum Beispiel mitteilt „Es ist keine Milch mehr da.“ Eine umfassende Vernetzung könnte aber auch zur Folge haben, dass er anfügt: „Du solltest nicht so viel Milch trinken, das treibt deinen Cholesterinwert in die Höhe“; womöglich verbunden mit einem Vermerk in der Gesundheitsakte.

Der „intelligente Kühlschrank” wird schon seit den Neunzigerjahren als die Krönung der vernetzten Haushaltstechnik propagiert, aber die Nützlichkeit hat sich mir nie erschlossen. Die Erfassung von körperlichen Daten durch Fitness-Armbänder, vernetzte Blutdruckmesser etcetera finde ich dagegen ganz nützlich. Ich habe in der Coronazeit wieder angefangen zu joggen und habe mir ein Armband zugelegt, um die Herzfrequenz im Blick zu haben. Das wird nun dauernd gespeichert, zusammen mit anderen Daten, die ich meinem Hausarzt per E-Mail schicken kann. Solange das nicht permanent auch an die Krankenversicherung übermittelt wird, habe ich damit kein Problem.

Viele Menschen neigen dazu, Geräte des Alltags wie etwa ihren Computer oder ihr Auto zu personalisieren. Erleichtert das den Siegeszug von Sprachassistenten?

Wenn wir einen Dialog per gesprochener Sprache führen, dann unterstellen wir ganz automatisch, dass unser Gegenüber eine Person ist; in der bisherigen Menschheitsgeschichte war das ja praktisch immer der Fall. Das machen wir intuitiv auch bei den sprechenden Maschinen, wir können gar nicht anders. Die Hersteller unterstützen das natürlich, indem sie ihnen menschliche Namen geben und die Stimme immer menschenähnlicher machen.
 


Wenn wir einen Dialog per gesprochener Sprache führen, dann unterstellen wir ganz automatisch, dass unser Gegenüber eine Person ist.“



Sogenannte Social Bots treiben schon jetzt ein erhebliches Unwesen in digitalen Netzwerken; allein bei Twitter, schreiben Sie, seien zehn Prozent der vermeintlichen Nutzer in Wirklichkeit Computerprogramme. Welche Funktion haben die?

Solche Bots lassen sich für mehrere Zwecke einsetzen: Man kann sich selber Follower verschaffen und so sein Standing etwa auf Twitter aufwerten; man kann massenhaft gezielte Werbung verbreiten; man kann andere mit einer Schmutzkampagne diffamieren oder einfach nur Chaos in politischen Diskussionen stiften und die Spaltung der Gesellschaft verstärken.

Lauern da nicht enorme Gefahren, weil solche Bots möglicherweise erheblichen Einfluss auf zukünftige Wahlen haben, wie die Erfahrungen mit dem Brexit-Referendum und dem US-Wahlkampf 2016 gezeigt haben?

Bei diesen Wahlen waren ja auch viele Menschen aktiv, die für politische Propaganda angeheuert und bezahlt wurden. Bots fungierten hauptsächlich als Multiplikatoren. Das Problem ist, dass sie nie eindeutig zu identifizieren sind, es gibt nur Indizien, etwa wenn sie 24 Stunden am Tag Nachrichten verbreiten.

Welche Rolle spielen Bots bei Verschwörungstheorien, gerade jetzt während der Corona-Pandemie?

Auch hier würde ich sagen: Im Moment sind es noch die Menschen, die solche Theorien verbreiten, manchmal mit Bot-Hilfe. In Zukunft ist es aber durchaus vorstellbar, dass „intelligente” Bots Nachrichten zu einem beliebigen Thema mit einer beliebigen Tendenz frei erfinden. Die Technik dazu existiert bereits. Da stellt sich eher die Frage: Will ich eine bestimmte Botschaft möglichst gezielt viral verbreiten oder möchte ich ein allgemeines Klima schaffen, in dem man keiner Nachricht mehr trauen kann?

Tun Betreiber wie Facebook und Twitter genug gegen diese Gefahr? Und haben sie überhaupt eine Chance?

Sie haben definitiv in der Vergangenheit zu wenig getan und sich immer hinter dem amerikanischen Paragrafen verschanzt, nach dem solche Plattformen nicht für die Inhalte verantwortlich sind, die auf ihren Seiten gepostet werden. Im Präsidentschaftswahlkampf in den USA haben sie versucht, zumindest bei wichtigen Themen wie der Pandemie oder der Kampagne gegen den Sohn von Joe Biden fragwürdige Inhalte mit Warnungen zu versehen oder ganz zu sperren. Sie wandeln dabei auf einem schmalen Grat zwischen Laisser-faire und Zensur; zu beneiden sind sie da nicht. Inzwischen rufen in den USA Vertreterinnen und Vertreter beider Parteien nach einer schärferen Regulierung der sozialen Plattformen.
 


In Zukunft ist es […] durchaus vorstellbar, dass ‚intelligente‘ Bots Nachrichten zu einem beliebigen Thema mit einer beliebigen Tendenz frei erfinden.“



Die Website Über Medien hat voriges Jahr über einen Sportartikel berichtet, den ein Computerprogramm verfasst hat. Der Text war völlig falsch, weil die Basisdaten nicht korrekt waren. Wie viele solcher künstlich erstellten Berichte gibt es wohl? Und sollten sie nicht gekennzeichnet werden?

Diesen „Roboterjournalismus” gibt es bei der Sportberichterstattung aus den unteren Ligen, beim Wetterbericht und bei Bilanzpressekonferenzen – überall da, wo es darum geht, trockene Zahlen in standardisierte Prosa umzusetzen. Das Beispiel, das Sie zitieren, stammt aus der „Welt”, da hatte man dem Computer nicht gesagt, dass ein Spiel in der elften Minute abgebrochen wurde, und er reimte sich eine lange torlose Begegnung zusammen. Ich bin sehr dafür, dass die Medien solche computergenerierten Inhalte kennzeichnen. In den USA ist das bereits üblich.

Wird diese Entwicklung Folgen für die Zukunft des Journalismus haben? Sie verweisen auf die „Washington Post“, deren Redaktion die Erstellung von rein faktenbasierten Texten offenbar schon jetzt dem Computer überlässt.

Ich frage mich ohnehin, warum ich einen ganzseitigen Text lesen soll, der doch nur die knappen Fakten eines Fußballspiels zusammenfasst und dann – aufgrund der Historie der beiden Mannschaften – schreibt, dass Team A „überraschend” Team B besiegt hat; aber offenbar werden solche Artikel von vielen Menschen gelesen. Wir müssen hier keine Krokodilstränen darüber vergießen, dass uns die Algorithmen die Arbeitsplätze wegnehmen. Die Kolleginnen und Kollegen bei der „Washington Post“ jedenfalls sind ganz froh, dass der Computer ihnen solche Routineartikel abnimmt und sie dafür die interessanteren Geschichten recherchieren können.

Smartphones schlagen bei Textnachrichten vor, wie’s weitergeht: Ich schreibe „Herzlichen“, das Telefon bietet „Glückwunsch“ an. Wann ist es so weit, dass das Smartphone die Geburtstagswünsche von allein verschickt, wann werden Studierende ihre Seminararbeiten von einem Programm schreiben lassen?

Diese Textergänzungen, die auf Statistik beruhen, sind relativ primitiv und schreiben nicht von selbst kohärente Texte. Aber der Google-Service Gmail bietet es schon an, auf eine E‑Mail, die er „versteht”, eine Antwort zu generieren. Da geht’s zum Beispiel um Terminvereinbarungen: Warum soll ich selbst tausend Zeichen tippen, wenn die Aussage eigentlich nur „Okay” ist? Was die Seminararbeit angeht: Je weniger originell die Texte sind, umso mehr können sie aus dem Material zusammengesetzt werden, das es schon im Netz gibt, von Menschen oder von Maschinen. Einen klugen Gedanken zum ersten Mal zu haben: Das ist zurzeit noch die Domäne des Menschen.


Warum soll ich selbst tausend Zeichen tippen, wenn die Aussage eigentlich nur ‚Okay‘ ist?“



Wann wird sich aus den digitalen Spuren, die ein Mensch im Internet hinterlässt, ein Avatar erstellen lassen, mit dem ich auch nach dem Tod dieses Menschen noch kommunizieren kann?

Wenn man die Elemente zusammensetzt, über die ich in meinem Buch schreibe, dann ist das heute schon in Ansätzen machbar: Aus Sprachaufnahmen eines Verstorbenen kann ich eine synthetische Stimme erzeugen, der ich alles Mögliche in den Mund legen kann. Mit der „Deep-Fake”-Technik kann man Menschen in einem Video die entsprechenden Lippenbewegungen verpassen. Sogenannte Sprachmodelle sind in der Lage, im Stil des Verstorbenen längere Dialoge zu führen. Es gibt bereits ein paar Prototypen solcher Avatare. Die Frage ist: Tröstet das die Hinterbliebenen oder verstört es sie eher? Und nimmt der Gedanke an diese Form des ewigen Lebens uns selbst die Angst vor dem Tod?

1982 hieß ein Lied der deutschen Band Spliff Computer sind doof. Sie zitieren einen Computerwissenschaftler, der 1991 über Computer gesagt hat: „Beschreibe ihnen ein altes Auto, und sie werden diagnostizieren, dass es die Masern hat.“ Wie klug sind Computer heute?

Klüger als damals auf jeden Fall. Sie „wissen” heute, dass ein Auto andere Krankheiten hat als ein Mensch, und können Texte zu beliebigen Themen ausspucken. Aber das ist alles nur Manipulation von Zeichen, ihnen fehlt jegliche sinnliche Erfahrung. Sie haben keine Vorstellung, welche Realität den Wörtern entspricht. Und dafür möchte ich ihnen immer noch nicht das Prädikat „intelligent” verleihen.

Werden die Maschinen, wie die Kinoreihe Terminator prognostiziert, irgendwann die Herrschaft übernehmen?

Ach, das ist Science-Fiction und wird noch eine Weile Science-Fiction bleiben. Ich sehe noch keine gerade Linie, die vom heutigen Stand der Technik zu einer Hyperintelligenz führt, die den Menschen versklavt. Stattdessen sollten wir uns Gedanken darüber machen, was wir Menschen mit der Künstlichen Intelligenz anstellen: Wollen wir überall Überwachungskameras, die unsere Gesichter identifizieren? Sollen Algorithmen entscheiden, ob wir einen Kredit bekommen oder nicht? Wollen wir ihnen vielleicht sogar wichtige Entscheidungen in Wirtschaft und Politik überlassen? Da gibt es eine Menge Diskussionsbedarf.
 

 

In seinem Buch Wenn die Dinge mit uns reden (Dudenverlag), schreibt Christoph Drösserr über Chancen und Gefahren der intelligenten Sprachsysteme.

Christoph Drösser ist Journalist und Autor von Sachbüchern. Er war viele Jahre Redakteur der „Zeit” im Ressort „Wissen“.

Tilmann P. Gangloff ist freiberuflicher Medienfachjournalist.