Allein im Jahr 2022 haben IT-Ausfälle in Deutschland einen Schaden von 206 Milliarden Euro verursacht, dennoch sind wir uns der Verletzbarkeit unserer digitalen Infrastruktur nicht bewusst, warnt im Zeit Online-Gespräch der Informatik-Professor Jochen Schiller: "Das Risiko steckt weniger im Internet selbst, nicht im Maschinenraum der digitalen Kommunikation. Dessen Struktur ist sehr robust. Sie ist bewusst so angelegt, dass es viele Akteure gibt und dass auch mal Teilkomponenten ausfallen können. Wenn ein Netz wegbricht, findet man andere Wege. Das Problem sind die kommerziellen Dienste: Fast nur noch Konzerne wie Google, Apple, Meta und Microsoft können Software konkurrenzfähig anbieten. Und diese Anbieter geben sich ja Mühe, aber wenn überall die gleiche Software drin ist und diese einen Fehler hat, dann fällt eben gleich alles aus. Und Abertausende hängen dran."

Was nützt der Gesellschaft die schnelle Entwicklung von KI, wenn sie nur für schlechte Musikvideos und "intelligente" Waffensysteme zum Einsatz kommt, fragt sich die Künstlerin Hito Steyerl in einem an der Münchner Akademie der Bildenden Künste gehaltenen Vortrag, den die SZ bringt: "Big-Data-Analysen und KI-basierte Mustererkennung könnten zu Durchbrüchen in Wissenschaft und Technik führen, etwa zur Entwicklung neuer Medikamente oder beim Klimaschutz. Aber keines dieser sehr sinnvollen Ziele wird derzeit mit Nachdruck verfolgt. Es fehlen die finanziellen Anreize. Stattdessen wird die Rechenleistung energieverschlingender Datenzentren für triviale Aufgaben genutzt, zum Beispiel - wie Apple kürzlich ankündigte - um Terminüberschneidungen zwischen Teams-Konferenzen und den Geburtstagsfeiern der eigenen Kinder zu vermeiden, also um eine Viertel-Sekretär:innenstelle einzusparen. Rechtfertigt das den ungeheuren Aufwand? Oder ist es nur ein Anzeichen dafür, dass niemand weiß, wo es hingehen soll und welchem Zweck die KI dienen könnte?"

Die EU hat jetzt Regeln für künstliche Intelligenz beschlossen. Was genau das für die Verbraucher bedeutet, erklärt im taz-Interview der Experte Miika Blinn: "Die ersten Vorschriften treten schon in einem halben Jahr in Kraft. Damit werden KI-Systeme mit nicht tolerierbarem Risiko verboten, zum Beispiel das Anlegen von Gesichtsdatenbanken mit Bildern aus dem Internet. Richtig etwas merken wird man spätestens in zwei Jahren. Dann müssen zum Beispiel mit KI erzeugte Bilder, Videos oder Texte gekennzeichnet werden. Und: Firmen müssen dann auch kennzeichnen, wenn sie zum Beispiel in einem Service-Chat oder bei einer Telefon-Hotline KI einsetzen. Das kann zum Beispiel mit einem Siegel geschehen, mit einem Button, einem Wasserzeichen oder, bei der Hotline, einer kurzen Erklärung am Anfang des Anrufs." In Haftungsfragen gibt es eine Lücke, gibt Blinn zu, aber insgesamt bringe der AI Act "schon deutliche Verbesserungen für Verbraucher. Zum Beispiel ist vorgeschrieben, dass Verbraucher sich beschweren können müssen. Also eine Behörde, an die sich Betroffene wenden können, wenn sie zum Beispiel glauben, dass ein KI-System gegen die Regeln verstößt."

Buch in der Debatte

Kenza Ait Si Abbou möchte mit ihrem Buch "Menschenversteher. Wie Emotionale Künstliche Intelligenz unseren Alltag erobert" gern die Ängste vor KI bekämpfen und die positiven Aspekte ihrer Nutzung hervorheben. Im Interview mit der FR klappt das allerdings nicht so gut. Da preist sie die neue "emotionale künstliche Intelligenz", die die Emotionen von Menschen ausliest und analysiert: "Wenn die Maschine in derselben Stimmungslage antwortet und so auf den Nutzer oder die Nutzerin eingehen kann, führt das dazu, dass sich die Menschen besser verstanden fühlen. Und das führt wiederum dazu, dass sie die KI mehr nutzen. ... Im Alltag begegnen wir bisher nur dieser Sentiment-Analyse, die anderen Möglichkeiten - Gesichtserkennung, Analyse von Mimik und Puls - gibt es bei uns im öffentlichen Leben bisher wenig. Wobei wir natürlich schon dabei sind, unseren Wearables viele Daten über uns zu übermitteln. ... Diese Art der Datenerhebung zu Marktforschungszwecken ist eine neue Entwicklung, und Emotionale KI wird sicher in der Zukunft eine noch wichtigere Rolle spielen."

Cory Doctorow, Blogger der ersten Stunde und Sonderberater der Electronic Frontier Foundation, warnt in einem sehr langen Text, den Zeit online von der Financial Times übernommen hat, vor einer "enshittification" (Verschlimmscheißerung) des Internets. Aber er sieht auch Licht am Horizont: Das Kartellrecht werde fast überall auf der Welt wieder ernster genommen und selbst in den USA könnte es bald ein Datenschutzgesetz (das letzte ist von 1988!) geben. Und Nutzer wie Werbekunden fangen an sich zu wehren. "Genau wie bei den Datenschutzgesetzen in den USA ist die potenzielle Koalition gegen die Verschlimmscheißerung riesig. Und unaufhaltsam. Die Zyniker unter Ihnen könnten skeptisch sein, ob sie viel erreichen wird. Ist Verschlimmscheißerung nicht letztlich einfach dasselbe wie 'Kapitalismus'? Also, nein. Ich werde jetzt kein Plädoyer für den Kapitalismus halten. Ich glaube nicht wirklich daran, dass Märkte die effizientesten Verteiler von Ressourcen und Schiedsrichter der Politik sind. Aber der Kapitalismus von vor 20 Jahren schuf Raum für ein wildes und verworrenes Internet, einen Raum, in dem Menschen mit missliebigen Ansichten zueinanderfinden, sich gegenseitig helfen und organisieren konnten. Der Kapitalismus von heute hat ein globales, digitales Geistereinkaufszentrum hervorgebracht, gefüllt mit Bot-Mist, minderwertigen Geräten von Unternehmen mit konsonantenlastigen Markennamen und Kryptowährungsbetrug. Das Internet ist nicht wichtiger als der Klimanotstand, Geschlechtergerechtigkeit, Gerechtigkeit für rassistisch diskriminierte Menschen, Völkermorde oder Ungleichheit. Doch ist das Internet das Feld, auf dem wir diese Kämpfe austragen können. Ohne ein freies, faires und offenes Internet sind sie verloren, bevor wir uns überhaupt ins Kampfgetümmel geworfen haben."

Bei netzpolitik bedauert Constanze Kurz den Abgang des Bundesdatenschutzbeauftragten Ulrich Kelber, den die SPD kurz vor Ende seiner regulären ersten Amtszeit abserviert hat: "Der außerhalb der Ampel angesehene Bundesdatenschutzbeauftragte redete oft gegen eine Wand: Auf datenschutzpolitische Debatten reagierte die Bundesregierung - und Olaf Scholz sowieso - mit viel Schweigen, ansonsten häufig mit sich widersprechenden Positionen: Justizminister Marco Buschmann (FDP) ist gegen die Vorratsdatenspeicherung, Innenministerin Nancy Faeser (SPD) möchte sie mindestens teilweise wieder einführen. Das Bild der Ampel-Regierung, die sich in nichts einig ist, war auch beim Datenschutz stimmig. Nur bei der Ökonomisierung der Gesundheitsdaten und beim E-Rezept war man sich in der Ampel weitgehend einig, dass Datenschutzfragen und IT-Risiken gemeinschaftlich kleingeredet oder ignoriert gehören."

Influencer könnten sich bald gewerkschaftlich organisieren, berichtet Michael Moorstedt in der SZ. Dadurch könnten sie besser gegen Firmen vorgehen, die Influencer für ihre Dienste nicht ausreichend entlohnen: "Ob irgendwann auch die Influencer die Arbeit niederlegen? Kommt dann das Netz zum Stillstand? Wohl eher nicht." Außerdem arbeiteten Firmen an Lösungen, um auf echte Influencer zu verzichten. "Was hierzulande eher neoliberaler Wunschtraum ist, ist für die Influencer bereits reale Gefahr. Längst arbeiten Agenturen an virtuellen Markenmaskottchen aus dem Baukastensystem, die echte Menschen schon bald verdrängen könnten."

Von der digitalen Patientenakte wird nur ein Bereich profitieren: die wissenschaftliche und industrielle Forschung, die Zugriff auf die anonymisierten Patientendaten bekommen soll, ist in der taz Svenja Bergt überzeugt. Patienten werde die Akte eher weniger nützen: "Denn bei einer Anhörung im Gesundheitsausschuss wurde kürzlich ein entscheidendes Detail deutlich: Ob die Behandler dazu verpflichtet werden, die Daten aus der elektronischen Patientenakte zur Kenntnis zu nehmen und zu berücksichtigen, ist längst nicht ausgemacht. Realistisch betrachtet ist es extrem unwahrscheinlich, dass eine solche Pflicht kommen wird. Denn die Ärzteschaft wird sich mit allen Mitteln dagegen wehren. Das ist nachvollziehbar: Schließlich haben die wenigsten von ihnen Extrazeit, um sorgfältig lange Datenreihen durchzugehen oder zurückliegende Diagnosen zu durchforsten. Ganz abgesehen von dem Haftungsrisiko, falls jemand etwas übersieht."

In der FAZ denkt Dietmar Dath über die Möglichkeiten künstlicher Intelligenz nach, deren Auslotung durch Dichter - und somit erfahren in der "Welterschaffung" - er am vielversprechendsten findet.