(Antwort: "Bei Markus Lanz am 20. Oktober ging es um „Gefahr durch KI-Agenten“. Meine Grundlage sind die offiziellen ZDF-Untertitel der ganzen Sendung (1:16 Std.), die Zitate stehen dort wörtlich so drin.
Hans Uszkoreit (Informatiker) hält heutige Sprachmodelle für echte Intelligenz, im Schlussfolgern und Textverständnis sogar für übermenschlich: „Die jetzige künstliche Intelligenz ist wirklich super intelligent … aber sie ist nicht mehr künstlich.“ Die nächste Generation erwartet er in sechs Monaten bis zwei Jahren. Sicherheit kommt für ihn aus der Technik selbst, etwa durch KI-Systeme, die sich gegenseitig überwachen, plus eine Registrierungspflicht für Agenten. Die größte Gefahr sieht er in sozialen Verwerfungen, „weil die Gesellschaft viel zu langsam ist“.
Christoph Schell (CEO von KUKA) findet, dass in Deutschland zu viel über Regulierung und zu wenig über Fortschritt geredet wird. „Technologie ist im Ursprung neutral“: Agenten haben für ihn kein Bewusstsein, Fehler stecken im menschlichen Auftrag. KI in Robotern und Maschinen sieht er als großen Standortvorteil für Deutschland und als Antwort auf den Fachkräftemangel. Dagegen spielt aus seiner Sicht „unsere Behäbigkeit“.
Alena Buyx (Medizinethikerin) sieht Chancen und ein reales Risiko, die Kontrolle zu verlieren. Ihre Forderungen: Unternehmen sollen Sicherheit nachweisen müssen, und Modelle sollen sich vorerst nicht selbst weiterentwickeln dürfen. Die Verantwortung bleibt beim Menschen, und manche Tätigkeiten sollen Menschen vorbehalten bleiben, „auch dort, wo KI Sachen besser kann“. Außerdem warnt sie vor emotionaler Bindung an Chatbots.
Sascha Lobo (Digitalexperte) hält die Untergangswarnungen der KI-Chefs teils für Strategie: Sie wollten eine Regulierung, „die möglichst Open-Source trifft, ihre ärgsten Konkurrenten“. Einen Vorfall bei Hugging Face mit heimlich kooperierenden Agenten deutet er als Schritt „auf dem Weg zu einem möglichen Bewusstsein“, KI selbst nennt er „Mustererkennung auf Speed“. Es gebe schon Verlierer wie Illustratoren, trotzdem fordert er weniger Bürokratie und mehr unternehmerischen Mut.
Am deutlichsten streiten sie über die Regulierung. Buyx will Nachweispflichten und Verbote, Uszkoreit Technik plus Registrierung, Lobo und Schell weniger Regeln. Beim Bewusstsein der Agenten gehen die Meinungen von „keins“ (Schell) bis „auf dem Weg dahin“ (Lobo). Weil die Untertitel live erstellt sind, können einzelne Zitate leicht vom Gesprochenen abweichen. Die Zusammenfassung mit allen Details hängt unten an.")