Wenn die Entwickler selbst anfangen zu warnen
Besonders nachdenklich macht mich dabei, dass die Warnungen längst nicht mehr nur von Menschen kommen, die KI grundsätzlich kritisch gegenüberstehen. Dario Amodei, Chef von Anthropic, Sam Altman von OpenAI und andere führende Köpfe der Branche sprechen inzwischen selbst öffentlich darüber, dass bei immer leistungsfähigeren Systemen Sicherheitsmechanismen, internationale Abstimmung und gesellschaftliche Regeln mit der technischen Entwicklung Schritt halten müssen. OpenAI fordert inzwischen sogar verbindliche nationale Sicherheitsanforderungen für besonders leistungsfähige KI-Systeme. Das bedeutet nicht, dass morgen eine künstliche Intelligenz die Kontrolle über die Welt übernimmt. Eine solche Gewissheit gibt es nicht. Es bedeutet für mich aber schon etwas, wenn ausgerechnet diejenigen, die diese Systeme entwickeln und ihre Fähigkeiten wahrscheinlich besser kennen als die meisten von uns, öffentlich darüber diskutieren, ob wir bestimmte Entwicklungen ausreichend unter Kontrolle haben.
Der Wettlauf lässt sich nicht einfach anhalten
Genau an dieser Stelle beginnt allerdings das eigentliche Dilemma. Selbst wenn sich ein amerikanisches Unternehmen dazu entschließen würde, die Entwicklung vorsichtiger anzugehen, verschwindet der internationale Wettbewerb dadurch natürlich nicht. China hat in den vergangenen zwei Jahren eindrucksvoll gezeigt, wie schnell sich technologische Abstände verkleinern können. DeepSeek war dabei vielleicht das bekannteste Beispiel, ist aber längst nicht das einzige. Unternehmen wie Alibaba, Z.ai oder Moonshot AI entwickeln ebenfalls leistungsfähige Modelle. DeepSeek hat erst im September 2026 mit V4.1 Flash eine neue Modellgeneration veröffentlicht, die schneller, günstiger und leistungsfähiger werden soll und inzwischen auch Bilder verarbeiten kann. Besonders interessant finde ich dabei, dass chinesische Entwickler teilweise einen anderen Weg als die großen amerikanischen Anbieter gehen: viel Effizienz, vergleichsweise niedrige Nutzungskosten und häufig offenere Modelle, die heruntergeladen und angepasst werden können. Selbst unter den bestehenden Beschränkungen beim Zugang zu modernsten Chips ist es China gelungen, technologisch erstaunlich nah an die amerikanische Spitze heranzurücken.
Deshalb halte ich es auch für zu einfach, diese Diskussion als „der Westen entwickelt verantwortungsvoll und China entwickelt ohne Rücksicht“ darzustellen. So ist es nicht. China reguliert künstliche Intelligenz ebenfalls, unter anderem bei Algorithmen, künstlich erzeugten Inhalten und Sicherheitsfragen, verfolgt gleichzeitig aber sehr konsequent das Ziel, KI wirtschaftlich und technologisch möglichst schnell nutzbar zu machen. Die chinesische Regierung betrachtet KI als strategisch wichtige Technologie für Wirtschaft, Industrie und staatliche Handlungsfähigkeit. Gleichzeitig gibt es dort wenig Bereitschaft, sich von den USA erklären zu lassen, in welchem Tempo diese Entwicklung stattfinden sollte. Genau daraus entsteht ein Problem, das sich technisch kaum lösen lässt: Wenn eine Seite auf die Bremse tritt, besteht immer die Sorge, dass eine andere Seite weiterfährt.
Und wo steht eigentlich Europa?
Und Europa? Wir befinden uns aus meiner Sicht in einer ziemlich schwierigen Position. Wir diskutieren intensiv über Datenschutz, Regulierung und den europäischen AI Act, während ein erheblicher Teil der technologischen Infrastruktur und der leistungsfähigsten Modelle aus den USA kommt und China gleichzeitig massiv aufholt. Interessant finde ich deshalb die Position von Mistral AI aus Frankreich. Dessen Chef Arthur Mensch warnt zwar ebenfalls vor Risiken künstlicher Intelligenz, setzt die Schwerpunkte aber teilweise anders als einige seiner amerikanischen Kollegen. Er sieht beispielsweise eine Gefahr darin, wenn sich immer mehr technologische Macht bei wenigen Unternehmen konzentriert und Europa dadurch dauerhaft abhängig wird. Gleichzeitig betrachtet er manche sehr weitreichenden Katastrophenszenarien rund um KI deutlich skeptischer. Für Europa geht es deshalb nicht nur um Sicherheit, sondern auch um technologische Souveränität – also darum, überhaupt noch selbst bestimmen zu können, welche Systeme wir einsetzen und nach welchen Regeln sie funktionieren.
Unsere alten Daten bekommen plötzlich einen neuen Wert
Vielleicht liegt die größere Gefahr ohnehin nicht ausschließlich in einer zukünftigen Super-KI, sondern in etwas viel Banalerem: in den Daten, die wir bereits heute überall hinterlassen. Wir haben uns über Jahre daran gewöhnt, Fotos, Videos, Bewegungsinformationen und andere persönliche Informationen ins Internet zu stellen, ohne wirklich darüber nachzudenken, was mit diesen Daten zehn oder zwanzig Jahre später technisch möglich sein könnte. Ein gutes Beispiel dafür sind hochauflösende Fotos von Händen. Unter geeigneten Bedingungen können darauf Strukturen der Fingerkuppen sichtbar sein, aus denen sich biometrische Merkmale rekonstruieren lassen. Das bedeutet ausdrücklich nicht, dass aus jedem Urlaubsfoto plötzlich ein verwendbarer Fingerabdruck erzeugt werden kann. Man möge sich aber zwischendurch Gedanken darüber machen, was diverse Trends, die zur Nachahmung auffordern, für einen Zweck verfolgen könnten. Das Zeigen eines simplen (V)ictory-Zeichens mit den Fingerkuppen könnte ein Indix für die vorgenannte Vermutung sein. Bildauflösung, Bilderkennung und künstliche Intelligenz entwickeln sich weiter – und damit können Informationen aus alten Bildern gewonnen werden, an die beim Hochladen wahrscheinlich niemand gedacht hat.
Ein anderes Beispiel finde ich fast noch spannender. Vor einigen Jahren gab es ein sehr erfolgreiches Smartphone-Spiel, bei dem Millionen Menschen durch Städte und Landschaften gelaufen sind, bestimmte virtuelle Gegenstände, Figuren oder Spielorte gesucht und dabei teilweise ihre Umgebung mit dem Smartphone erfasst haben. Für die Spieler war das ein Spiel. Aus heutiger Sicht besitzen solche räumlichen Informationen aber einen ganz anderen Wert. Aus sehr vielen einzelnen Aufnahmen lassen sich dreidimensionale Modelle realer Orte erstellen, anhand derer Maschinen ihre genaue Position bestimmen und ihre Umgebung verstehen können. Technologien, die ursprünglich für Spiele und sogenannte Augmented Reality – also die Erweiterung der realen Umgebung durch digitale Inhalte – entwickelt wurden, können später beispielsweise auch für Robotik oder autonome Systeme interessant werden. Genau das finde ich so bemerkenswert: Daten bekommen mit neuen technischen Möglichkeiten plötzlich einen Wert und einen Verwendungszweck, den man zum Zeitpunkt ihrer Erhebung möglicherweise noch gar nicht vorhersehen konnte.
Wo ich für mich und W27 eine Grenze ziehe
Und damit komme ich zu einem Punkt, der für mich persönlich immer wichtiger wird. Ich möchte mit meiner Agentur W27 künstliche Intelligenz einsetzen und Unternehmen dabei unterstützen, diese Möglichkeiten sinnvoll zu nutzen. Ich möchte aber nicht jede technische Möglichkeit umsetzen, nur weil sie machbar ist. Für mich gehört inzwischen zu einem guten KI-Projekt genauso die Frage, welche Daten dafür wirklich notwendig sind, wo diese verarbeitet werden, wer darauf zugreifen kann und ob ein Mensch nachvollziehen kann, was das System eigentlich macht. Datenschutz und Sicherheit möchte ich deshalb nicht als lästige Zusatzaufgabe betrachten, die man irgendwann am Ende noch abhakt, sondern möglichst von Anfang an mitdenken.
Das bedeutet für mich auch, bestimmte Grenzen zu ziehen. Lösungen, deren eigentlicher Zweck darin besteht, Menschen heimlich zu überwachen, sie ohne ihr Wissen zu profilieren, Sicherheitsmechanismen zu umgehen oder sie gezielt zu manipulieren, möchte ich bei W27 nicht entwickeln oder implementieren. Ganz zu schweigen dafür, dass der EU-AI-Act und die deutschen Datenschutzgesetze hier schon eine frühe Grenze ziehen. Gleichzeitig möchte ich bei dieser Haltung realistisch bleiben, denn nahezu jede leistungsfähige Technologie kann auch anders eingesetzt werden, als ihr Entwickler ursprünglich vorgesehen hat. Entscheidend ist für mich deshalb nicht das Versprechen, jedes theoretisch denkbare Risiko ausschließen zu können. Das wäre unseriös. Entscheidend ist vielmehr, Risiken frühzeitig zu erkennen, Daten möglichst sparsam zu verarbeiten und bei jedem Projekt auch einmal die unbequeme Frage zu stellen: Nur weil wir etwas technisch können – sollten wir es deshalb automatisch auch tun?
Bei allen Risiken dürfen wir die Chancen nicht vergessen
Denn trotz all dieser Bedenken sehe ich künstliche Intelligenz keineswegs als Bedrohung, die wir stoppen sollten. Im Gegenteil. Sie kann Medizin und Forschung beschleunigen, Menschen mit Einschränkungen unterstützen, kleine Unternehmen produktiver machen, Verwaltungsarbeit vereinfachen, Wissen zugänglicher machen und uns von monotonen Tätigkeiten entlasten. Wahrscheinlich stehen wir bei vielen dieser Anwendungen sogar erst ganz am Anfang.
Was mich derzeit beschäftigt, ist deshalb weniger die Frage, ob KI gut oder schlecht ist. Diese Einteilung ist mir viel zu einfach. Mich beschäftigt vielmehr, wer diese Technologie kontrolliert, welche wirtschaftlichen und geopolitischen Interessen dahinterstehen, welche Daten dafür benötigt werden und ob unsere gesellschaftlichen Regeln mit einer Entwicklung Schritt halten können, die inzwischen nicht mehr nur zwischen einzelnen Unternehmen stattfindet, sondern zwischen ganzen Wirtschaftsräumen.
Nicht Angst sollte uns leiten, sondern Aufmerksamkeit
USA, China und Europa verfolgen dabei unterschiedliche Interessen und teilweise unterschiedliche Vorstellungen davon, wie viel Freiheit, Kontrolle und Regulierung notwendig sind. Gleichzeitig wird keiner dieser Akteure einfach aus dem Wettbewerb aussteigen können. Genau deshalb halte ich die aktuelle Diskussion für wichtig. Nicht, weil ich Angst vor künstlicher Intelligenz verbreiten möchte, sondern weil ich sie für eine der spannendsten und wahrscheinlich folgenreichsten Technologien unserer Zeit halte.
Vielleicht besteht verantwortungsvoller Umgang mit KI am Ende auch gar nicht darin, auf jede Frage schon heute eine perfekte Antwort zu haben. Vielleicht beginnt er viel einfacher: damit, die richtigen Fragen überhaupt zu stellen – und sich auch dann noch mit ihren Antworten zu beschäftigen, wenn die Technik längst wieder einen Schritt weiter ist.