Im Welt-Interview mit Jakob Schirrmacher spricht der amerikanische Informatiker Jaron Lanier über Virtual Reality und die Vorzüge und Gefahren von KI. Die Angst vor einer bewussten KI, die den Menschen kontrolliert, findet er paranoid. Regulierungen in diesem Bereich hält er aber trotzdem für wichtig und plädiert für einen neuen Ansatz: "Einen, bei dem wir die Quellen und Einzelpersonen im Auge behalten, die Texte, Bilder oder andere Dinge bereitgestellt haben, die letztendlich einen Einfluss auf eine bestimmte Ausgabe eines KI-Programms hatten. Denn das ist etwas Konkretes. Ich glaube, dass Personen, die Daten hinzufügen, die zu beliebten Ergebnissen führen, in Zukunft anerkannt und sogar bezahlt werden könnten. Und ich denke, dass die Rückverfolgung derjenigen, die zu einem bestimmten Ergebnis beigetragen haben, ein Weg sein könnte, um letztendlich die Qualität zu kontrollieren, sowie auch wirtschaftlichen Schaden für die Gesellschaft zu vermeiden."

"KI weiß viel, ist aber nicht bewusst", erklärt im Tagesspiegel-Gespräch der Neurowissenschaftler Anil Seth, dessen Buch "Being You. A New Science of Consciousness" vom Economist als Buch des Jahres ausgezeichnet wurde. Dennoch hält es nicht für ausgeschlossen, dass KI irgendwann Bewusstsein entwickelt: "Ich glaube erst mal nicht, dass es bewusste KI geben kann, weil sie dafür lebendig sein müsste. Aber ich könnte auch falschliegen. KI kann jedoch, und das tut sie schon, bewusst wirken. Der deutsche Philosoph Thomas Metzinger warnt auch vor einer ethischen Katastrophe: Wir könnten eine potenzielle neue Form des Leidens erschaffen, die gesellschaftsschädigend sein könnte. (…) Ich merke das an mir: Wenn ich mit ChatGPT schreibe, dann sage ich nicht 'bitte' und 'danke', ich bin sogar herrisch. So was hat einen brutalisierenden Effekt auf unsere Psyche. Die Alternative ist, dass wir nett sind, Rücksicht nehmen und der KI sogar Rechte einräumen. Wenn ich den Anschein habe, dass ein System Bewusstsein hat, verhalte ich mich anders. Das wäre schon ein seltsames Terrain, wenn wir Chatbots Rechte einräumen würden, nicht aber einem Fisch, der viel wahrscheinlicher Schmerz empfindet. So werden unsere ethischen und moralischen Bedenken verzerrt."

Künstliche Intelligenz kann nicht denken, darum ist sie auch nicht intelligent, meint der emeritierte Germanistikprofessor Lutz Götze in der NZZ. Intelligent sind aber die Produzenten von KI und da wird ihm ungemütlich: "Die große Gefahr der Moderne besteht nun darin, dass Individuen in ihrem Größenwahn allen Ernstes glauben oder zumindest hoffen, mit der weiteren Entwicklung der 'generellen künstlichen Intelligenz' das menschliche Gehirn einzuholen oder gar zu übertreffen. Sie ahnen, gelegentlich, bei immer neuen Rückschlägen, dass sie das nie werden schaffen können. Also versuchen sie, den Menschen der Maschine anzupassen, genauer: mit der Maschine den Menschen zu dominieren. Nicht umgekehrt, wie bislang gemeinhin üblich. Die Maschine soll das Leben des Menschen bestimmen, ihn steuern. Dabei geben die Protagonisten vor, dass auf diese Weise das Alltagsleben erleichtert werde, mithin der Mensch von, in der Tat, lästigen Pflichten befreit werde: Saubermachen, Pflegedienst, Kommunikationsverbindungen. Das Reich der Notwendigkeit sei vorüber, jenes der Freiheit beginne. In Wahrheit wird der Mensch auf diese Weise abhängig gemacht, genauer: entmündigt."

Sehr viel weniger pessimistisch sind einige Wirtschaftswissenschaftler, berichten Houssam Hamade und Christoph Sorg in einem sehr ausführlichen Artikel in der Zeit. Ihre Hoffnung: KI könnte helfen, endlich eine Alternative für den Kapitalismus zu schaffen. Das nennt sich dann "smarte Planwirtschaft". Zu den Anhängern dieser Theorie gehören etwa Paul Adler, Professor für Management and Organization an der University of Southern California und die kanadischen Autoren Leigh Phillips und Michal Rozworski, die in ihrem Buch "People's Republic of Walmart" erklären, warum gerade hyperkapitalistische Riesenkonzerne wie Amazon und Walmart auf geplantes Wirtschaften setzen. "Der frühkapitalistische Wettbewerb zwischen kleinen Familienunternehmen, den der Begründer der Nationalökonomie Adam Smith einst beschrieb, ist mittlerweile einer Dominanz global agierender Konzerne gewichen. Diese nutzen modernste Technologien, um Arbeitsprozesse, transnationale Lieferketten und Ressourcenverbrauch präzise zu steuern. Nicht Angebot und Nachfrage, sondern die Planung des Managements herrschen innerhalb dieser riesigen Institutionen. Der Ökonom und Wirtschaftsnobelpreisträger Herbert Simon formulierte es einmal sinngemäß so: Stellen wir uns vor, ein Wesen vom Mars hätte ein Teleskop, das soziale Strukturen offenbart, und würde damit auf die Erde schauen. Stellen wir uns weiter vor, dass dieses Wesen Unternehmen als große grüne Flächen und Märkte als rote Striche zwischen den konkurrierenden Unternehmen sehen würde. Dieses Wesen, so Simon, wäre sicherlich überrascht, dass wir dieses mehrheitlich grüne, von dünnen roten Linien verbundene System Marktwirtschaft und nicht Organisationswirtschaft nennen."

Weiteres: Ebenfalls in der Zeit ist Jakob von Lindern wenig beeindruckt von den Warnungen führender KI-Hersteller wie OpenAIs Sam Altman: Am Ende dient selbst das nur dem Lobbying, meint er. Und in der SZ prophezeit Michael Moorstedt das "Ende des Endes" mit dem Einzug der KI in die Kunst, wenn jeder Film, jedes Buch, jedes Kunstwerk mit KI immer weiter geschrieben werden kann: "Nach beinahe zwanzig Jahren kontinuierlichen Medienkonsums wirkt ein Abbrechen des Content-Streams in den Nutzerhirnen wie der ultimative Affront. Bewegt man sich in dieser Deutungswelt, stellt ein Bilderrahmen oder ein abgeschlossenes Narrativ nicht mehr als den Egoismus des Schöpfers dar. Ein abgeschlossenes Werk wird in dieser Wahrnehmung zu einer willkürlichen Zugangsverweigerung für das Publikum. Dass Kunstwerke selbstauferlegten Grenzen unterliegen, dass Geschichten ein Finale haben müssen, um überhaupt von Belang zu sein, lässt diese Menschen fassungslos zurück."

In der Welt wägt Jakob Schirrmacher Vor- und Nachteile des vom EU-Parlament im Mai vorgestellten Kompromissentwurfes zur bereits 2021 veröffentlichten "Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz", auch bekannt als "AI-Act" ab: "Der 'AI-Act' spricht sich für Verbote besonders gefährlicher 'Hochrisiko'-KI-Systeme aus und definiert einen Regulationsentwurf für solche, die es werden könnten. Verboten werden sollen unter anderem KI-gesteuerte 'Social-Scoring'-Systeme, die Fehlverhalten von Bürgern analysieren und diese bewerten könnten." Aber: "In einem offenen Brief an das EU-Parlament kritisierten führende Wissenschaftler, Forscher und Wirtschaftsvertreter den 'AI-Act'. Die Initiatoren und Unterzeichner warnten unter anderem vor 'Überregulation' und befürchteten, dass europäische KI-Unternehmen dadurch kaum mit dem chinesischen oder US-amerikanischen Markt würden mithalten können. Dort setzt man auf weitaus weniger Regulation, als es der 'AI-Act' vorsieht."

Die Rufe nach Entwicklungsstopps von KI-Systemen kommen einer Einschränkung der Wissenschaftsfreiheit gleich, meint Adrian Lobe, der - ebenfalls in der Welt - hinter dem Geraune auch eine PR-Strategie vermutet: "Das Sprechen über KI als Vernichtungswaffe macht eine Technik womöglich mächtiger, als sie tatsächlich ist. Der Technologiewissenschaftler Lee Vinsel hat das mal treffend als 'critihype' bezeichnet: Man baut einfach eine monströse Drohkulisse auf, um dann mit vermeintlichen technologischen 'Lösungen' Kasse zu machen."

Außerdem: In der NZZ warnt der amerikanische Ethiker Braden Allenby vor den Folgen, die der Einsatz von KI auf das menschliche Bewusstsein haben kann: "Generative KI kann heute tatsächlich jede Form von Desinformation produzieren - Texte, Memes, Bilder, Sprachaufnahmen, Deepfake-Videos oder sogar Kunst. Mittels riesiger Datenmengen wird eine Modellierung der Massenpsychologie möglich, und Social Media erlaubt maßgeschneiderte Irreführung auf individueller Ebene."

Künstliche Intelligenz, wohin man blickt. Zumindest beim Regulieren ist die EU ganz vorne, freut sich Svenja Bergt in der taz: "Am Mittwoch soll das Parlament über den Artificial Intelligence (AI)-Act abstimmen. Es ist die weltweit bislang umfassendste Regulierung zu künstlicher Intelligenz. Die Abstimmung ist ein wichtiger Zwischenschritt, denn die Zeit drängt: Bis zum Jahresende sollen sich Parlament, Rat und EU-Kommission in den Trilog genannten Kompromissverhandlungen geeinigt haben."

Vor zwei Jahren veröffentlichte ein Reporterteam verschiedener Medien, darunter die SZ, die Facebook Files der Whistleblowerin Francis Haugen (Unser Resümee). Nun erscheint ihr Buch "Die Wahrheit über Facebook" auf Deutsch. Im SZ-Gespräch mit Andrian Kreye lobt sie die europäischen Digital Services Act: "Weil er die Machtverhältnisse zwischen diesen Firmen und der Öffentlichkeit ausgleicht. Die Firmen müssen ihre Risiken offenlegen und dann zeigen, wie sie sie ausräumen. Und sie müssen ausreichend Daten zur Verfügung stellen, damit das nachvollziehbar ist. In seiner Erklärung warnt der Surgeon General zum Beispiel davor, dass 30 bis 35 Prozent aller Kinder nach Mitternacht noch auf sozialen Medien unterwegs sind. Das ist ein echtes Problem. Schlafmangel ist ein gewaltiger Risikofaktor für Depressionen, Angstzustände, Bipolarität, Schizophrenie, für Drogenmissbrauch. Außerdem steigt die Sterberate, weil Schlafmangel die Unfallstatistiken ansteigen lässt. Nicht nur Autounfälle, Kinder, die von der Leiter fallen und so einen Blödsinn. In so einem Fall verpflichtet der DSA eine Firma wie Facebook, nachzuweisen, was für Kontrollmechanismen sie einbauen, um diese Risiken zu senken."

In der NZZ möchte die Juristin Monika Pfaffinger Künstliche Intelligenz gern mit rechtlichen Mitteln bändigen: "KI ist ein Werkzeug und sollte auch eines bleiben. Sie darf den Menschen nicht ersetzen - sie hat ihn zu unterstützen und seine Handlungsoptionen zu erweitern. Die entscheidende Frage wird also lauten, welche Anwendungen gesellschaftsdienlich und welche problematisch oder gar gefährlich sind. Die Antworten darauf werden offenkundig Konsequenzen für das künftige Recht haben. Und dem Recht kommt im Umgang mit neuen Technologien seinerseits eine entscheidende Rolle zu. Denn es sind nicht Ethik und Technologie, sondern es ist das Recht, das die Nutzung von KI effektiv in ethisch vorgegebene und demokratisch legitimierte Bahnen lenken kann und muss."

Im Observer gehen Kenan Malik die Fantasieängste vor KI zunehmend auf die Nerven. Wem nützen diese apokalyptischen Visionen eigentlich, fragt er, wo es doch ganz reale Gefahren gibt, wie das Beispiel von Randal Quran Reid zeigt, einem Afroamerikaner, der wegen fehlerhafter Gesichtserkennung als Krimineller inhaftiert wurde. Aber nicht KI ist dafür verantwortlich, sondern Menschen: "Die Menschen, die die Software entwickelt und trainiert haben. Die Menschen, die sie einsetzten. Die Menschen, die den Gesichtserkennungsabgleich unhinterfragt akzeptierten. Die Menschen, die einen Haftbefehl erwirkten, indem sie behaupteten, Reid sei von einer 'glaubwürdigen Quelle' identifiziert worden. Die Menschen, die sich weigerten, die Identifizierung in Frage zu stellen, selbst nach Reids Beteuerungen. Und so weiter. Wenn wir über das 'Problem' der KI sprechen, lassen wir allzu oft den Menschen aus dem Spiel. Wir praktizieren eine Form dessen, was der Sozialwissenschaftler und Technologieentwickler Rumman Chowdhury 'moralisches Outsourcing' nennt: Wir geben Maschinen die Schuld für menschliche Entscheidungen."

KI kann optimierte Prozesse hervorragend automatisieren, erklärt die Oxforder Forscherin Sandra Wachter im taz-Interview mit Svenja Bergt, aber sie kann die Dinge nicht verbessern. Eine Gefahr für die Demokratie muss sie nicht unbedingt sein: "Das Verbreiten von Falschinformation, um den politischen Diskurs zu beeinflussen, hat ja nicht erst gestern angefangen, das gibt es seit Jahrhunderten. Was sich nun verändert, sind Qualität, Quantität und Verbreitungswege von Falschinformation... Wir müssen also an beiden Seiten ansetzen: Zum einen müssen wir herausfinden, warum heute so viel Unzufriedenheit in der Gesellschaft ist, die Falschinformation auf fruchtbaren Boden fallen lässt, und wie wir das ändern können. Zum anderen müssen wir uns um die Technik kümmern, sie sicherer machen. Dazu gehören Bias-Tests und Transparenz, aber zum Beispiel auch verpflichtende Wasserzeichen für KI-generierte Inhalte."

Weiteres: Klaus Kornwachs und Nico Stehr in der FAZ einen grundsätzlichen Forschungsantrag: "Ob der Ernüchterung eine unauffällige Nutzung folgt oder ob wir weitere Überraschungen erleben, sollten wir nicht allein der Dynamik der Geschäftsmodelle überlassen."

Einigermaßen amüsiert liest FAZ-Autor Christopher Lauer, ehemals eine der prominenteren Figuren der Piratenpartei, den offenen Brief, in dem ausgerechnet Elon Musk und mit ihm George Dyson, Steve Wozniak und Yuval Noah Harari eine Aussetzung der Entwicklung Künstlicher Intelligenz fordern. Im Brief stellen die Autoren einige Fragen. Und "bei der letzten Frage drängt sich der Verdacht auf, dass einige der Unterzeichner, die ja teilweise tatsächlich sehr klug sind, den unterzeichneten offenen Brief gar nicht gelesen haben. Die Frage lautet, ob wir das Risiko eingehen sollen, die Kontrolle über unsere Zivilisation zu verlieren. Die Frage wäre allerdings, wann wir jemals die Kontrolle darüber hatten. Hätten wir sie, würden wir doch in einem Utopia ohne Leid und Elend wohnen."

Auch Adrian Lobe ist in der Welt eher skeptisch, vor allem, weil die Zukunftsangst ausgerechnet von Protagonisten des Silicon Valley betrieben wird. "Das Geraune über KI steht daher im Verdacht, eine PR-Strategie zu sein: Das Sprechen über KI als Vernichtungswaffe macht eine Technik womöglich mächtiger als sie tatsächlich ist. Der Technologiewissenschaftler Lee Vinsel hat das mal treffend als 'criti-hype' bezeichnet: Man baut einfach eine monströse Drohkulisse auf, um dann mit vermeintlichen technologischen 'Lösungen' Kasse zu machen."

"Einige der klügsten Positionen im Diskurs über künstliche Intelligenz werden … von Frauen vertreten, und sie sind weit weniger angstgetrieben oder apokalyptisch als die der meisten Männer", schreibt Georg Dietz auf ZeitOnline: "Kate Crawford etwa, die das AI-Now-Institut mitgründete und deren Buch Atlas of AI eine Recherche zu den weltweiten Produktionsbedingungen von künstlicher Intelligenz ist, also von den Lithium-Minen handelt, von Ausbeutung und Arbeitsbedingungen, Umweltzerstörung. Dabei wird klar: Technologie ist nicht abstrakt, sie ist konkret. Crawfords Fazit: Wir müssen nicht über KI und Ethik sprechen, sondern über KI und Macht, also über die ökonomischen Bedingungen etwa, die dazu führen, dass digitale Technologien vor allem als Produkt gesehen werden, nicht als öffentliche Infrastruktur. Das gegenwärtige KI-Wettrennen wird eben auch von einem Oligopol geführt, darunter Microsoft und Google, was die Tendenzen des gegenwärtigen Kapitalismus zur Machtkonzentration spiegelt."

Unter allen Krisen, die der amerikanische Politologe Ian Bremmer im ZeitOnline-Interview apokalyptisch ausmalt - unter anderem glaubt er, dass sich das Leben in Europa durch die Bedrohung durch Russland bald anfühlen wird wie in Südkorea - hält er KI doch für die größte geopolitische Bedrohung. Künstliche Intelligenz sei ein Mittel, um die Demokratie durch Desinformation zu zerstören, meint er. Und: "Es gibt zwei weitere große Gefahren. Die eine ist, dass viel mehr Akteure in der Lage sein werden, Waffen zu bauen. Es gibt derzeit vielleicht hundert Menschen auf der Welt, die ein Pockenvirus herstellen können. Diese Zahl wird exponentiell steigen. Mit KI können Schurkenstaaten, kriminelle Organisationen und Personen Computerviren und Biowaffen herstellen. Die zweite Gefahr ist, dass demnächst viele Menschen ihre Jobs durch KI verlieren werden. Anders als bei der Globalisierung werden viele dieser Leute aus der Mittelschicht und gut gebildet sein, und anders als bei früheren Strukturbrüchen wird es diesmal sehr viel schneller passieren. Das wird Länder sehr krisenanfällig machen."

Der EuGH hat das Recht auf Vergessenwerden eingeschränkt, berichtet Christian Rath in der taz. Oder besser: konkretisiert. "Die eigentliche Grundsatzentscheidung hat der EuGH bereits im Dezember 2022 getroffen. Danach hat bei unrichtigen Informationen das Persönlichkeitsrecht der Betroffenen immer Vorrang und die Meinungs- und Informationsfreiheit muss zurückstehen. Dies gelte auch, wenn nur ein Teil der Informationen falsch ist, diese Informationen aber für den Gesamtartikel 'nicht unwesentlich' sind. Bei Fake News muss Google also immer den Link aus seiner Trefferliste zur betroffenen Person entfernen. Die Beweislast für die Unrichtigkeit der Informationen haben allerdings die Betroffenen ... Ist die Unrichtigkeit offensichtlich, muss Google den entsprechenden Text auslisten, so der EuGH. Wenn die Beweise aber nicht offensichtlich sind, muss Google nicht selbst recherchieren. Dann müssen die Betroffenen doch eine gerichtliche Klärung versuchen."