Google Duplex: im Spannungsfeld von Ethik und Wirtschaft

Mit Google Duplex wurde auf der jüngsten Entwicklerkonferenz von Google erstmals ein KI-basierter Sprachassistent vorgestellt, der auf Anhieb nicht von einem menschlichen Sprecher zu unterscheiden ist. Ohne Zweifel stellt dies einen gewaltigen Sprung nach vorne in Sachen künstlicher Sprachintelligenz dar und eröffnet eine Vielzahl bisher ungeahnter Möglichkeiten. Doch viele Wissenschaftler und Fachexperten warnen: Mit Google Duplex könnte sich eine Büchse der Pandora geöffnet haben – mit unabsehbaren Folgen.

Weshalb hat Google Duplex bereits Minuten nach Ende der offiziellen Präsentation auf Googles Entwicklerkonferenz für so viel Erstaunen, zugleich aber auch Entsetzen gesorgt? Einerseits hat dies – und damit verbleibe ich vorerst im Lager der „Duplex-Optimisten“ – mit den herausragenden Business Opportunities zu tun, die Google Duplex ermöglicht. Man stelle sich vor, in nicht allzu ferner Zukunft ein hochintelligentes digitales Helferlein zu haben, das Anrufe beim Friseur, Arzt oder dem Hausmeister ganz problemlos selbst erledigen kann. Entscheidend dabei: die Angerufenen werden das Gefühl haben, mit einem Menschen zu telefonieren und sich dadurch entsprechend verhalten. Schließlich wird die Kommunikation ganz entscheidend durch unsere Annahme darüber beeinflusst, mit wem wir es zu tun haben. Achten Sie einmal bewusst darauf: Ihr Kommunikationsverhalten (Stimmlage, Satzbau, Betonung, Höflichkeit, etc. …) im Telefonat mit einer Servicehotline wird sich, je nachdem ob Sie mit einer Computerhotline oder einem „echten“ Call-Center-Agent sprechen, fundamental unterscheiden.

Ähnlich deutlich unterscheidet sich unsere Kommunikation, wenn wir beispielsweise ein Baby oder Kleinkind als Gesprächspartner bzw. Empfänger unserer Kommunikation haben. Wir machen uns automatisch und beinahe unbewusst genaue Vorstellungen von unserem Gegenüber. Beispielsweise treffen wir Annahmen darüber, ob unser Gegenüber eher intelligent oder weniger intelligent ist, ob es ein bestimmtes Sprachniveau beherrscht oder nicht – oder ob wir es überhaupt mit einem Menschen zu tun haben. Entsprechend passen wir unsere Kommunikation und mithin unsere Strategie zur Gesprächsführung an. Ein Kleinkind zur „Hilfe“ beim Tischabräumen zu bewegen, ist mit positiver Bestätigung erfahrungsgemäß deutlich einfacher zu bewerkstelligen, als einen Teenager zum gleichen Verhalten zu bringen.

Wir sehen: für unsere Gesprächsstrategie ist es von ganz entscheidender Bedeutung, eine möglichst gute und zutreffende Vorstellung von unserem Gegenüber zu haben, um das gewünschte Ziel (Hilfe beim Tischabräumen) zu erreichen. Stellen wir uns nun vor, dass wir ein Telefonat mir einem Kleinkind führen. Es könnte sich zum Beispiel um meinen Neffen handeln, den ich an der Stimme sowie der angezeigten Rufnummer seiner Eltern schnell identifizieren würde. Entsprechend würde ich in diesem Telefonat ohne zu Zögern Informationen preisgeben, so zum Beispiel zu den kommenden gemeinsamen Urlauben und dem nächsten Wiedersehen. Stelle ich mir nun vor, an seiner statt mit einer künstlichen Intelligenz zu sprechen, die meinen Neffen perfekt imitieren kann und zudem ein unglaubliches Vorwissen über mich selbst besitzt (Google…), so wäre ich davon wohl deutlich weniger begeistert. Im besten Fall würde ich anschließend Werbung für Sicherheitssysteme in meiner Wohnung während des Urlaubs bekommen – im schlimmsten Fall würde bei mir eingebrochen.

Gehen wir einen Schritt weiter: der Call-Center-Agent, den ich eben noch freundlich darauf hingewiesen habe, dass ich die Kündigung meines Handyvertrages auch zu besseren Konditionen nicht zurücknehmen möchte, wird durch Google Duplex ersetzt. Während ich mich bisher darauf verlassen konnte, auch geschickte Fangfragen (die von allen Call-Center-Agents dieses Planeten immer in der selben Form gestellt werden) als solche zu erkennen und parieren zu können, so sehe ich mich nun einer hochintelligenten Instanz gegenüber, die weit mehr über mich weiß, als ich mir nur vorstellen kann. Diese Instanz verfügt außerdem innerhalb von Sekundenbruchteilen über Erfahrungswerte aus Milliarden anderer Calls, die immer das gleiche Ziel verfolgen (Handyvertrag nicht kündigen). Mehr noch: die Instanz kann aus diesem Erfahrungsschatz die beste Argumentationsstrategie abhängig vom Profil des Anzurufenden ermitteln. Bei all dem habe ich dennoch noch immer das Gefühl, mit einem Menschen zu telefonieren und verhalte mich entsprechend. Definitiv keine schöne Vorstellung… denn vermutlich wird die Instanz recht schnell einen „wunden Punkt“ finden und mich dazu bringen, doch nicht zu kündigen. Wahrscheinlich würde ich dem „Agent“ in der nachfolgenden Abfrage der Servicequalität auch noch 5 Sterne geben.

Die Frage, der wir uns als Gesellschaft nun umso dringlicher stellen müssen, lautet also: wie möchten wir in Zukunft kommunizieren und wer ist im juristischen Sinne für die digitale Kommunikation verantwortlich? Wer haftet, wenn Google Duplex auf Grund eines technischen Defekts oder eine Manipulation kostenpflichtige Hotlines anruft oder, schlimmer noch, ein Verbrechen begeht? Was passiert, wenn Google Duplex dazu meine persönliche Stimme und Identität adaptiert? Die digitale Transformation habe ich an anderer Stelle einmal als einen fortlaufenden und autark inkrementellen Prozess der Veränderung und mithin der Disruption von Wertschöpfung durch die Implementierung intelligenter, digitaler Kommunikationsprozesse definiert. Google Duplex zeigt einmal mehr, wie passend diese Annäherung an den so inflationär gebrauchten Begriff ist. Die Definition selbst erschöpft sich in der Beschreibung. Aufgabe von Politik und Gesellschaft aber auch der Unternehmen selbst muss es sein, ethische Standards zum Umgang mit künstlicher Intelligenz nicht nur zu formulieren, sondern auch in der Praxis zu leben.