KI verändert rasant, wie Software geschrieben, bereitgestellt und genutzt wird. Trends deuten auf eine Zukunft hin, in der KIs schnell und einfach benutzerdefinierte Software schreiben können: „Sofort-Software“. Im Extremfall könnte es für einen Benutzer einfacher sein, eine KI eine Anwendung nach Bedarf schreiben zu lassen – zum Beispiel eine Tabellenkalkulation – und sie danach zu löschen, als sie kommerziell zu erwerben. Zukünftige Systeme könnten eine Mischung beinhalten: sowohl traditionelle Langzeit-Software als auch kurzlebige Sofort-Software, die ständig geschrieben, bereitgestellt, modifiziert und gelöscht wird. KI verändert auch die Cybersicherheit. Insbesondere werden KI-Systeme immer besser darin, Schwachstellen im Code zu finden und zu beheben. Dies hat Auswirkungen sowohl für Angreifer als auch für Verteidiger, je nachdem, wie sich diese und verwandte Technologien verbessern. In diesem Essay möchte ich eine optimistische Sicht auf den Fortschritt der KI werfen und spekulieren, wie eine von KI dominierte Cybersicherheit im Zeitalter der Sofort-Software aussehen könnte. Es gibt eine Reihe von Unbekannten, die beeinflussen werden, wie das Wettrüsten zwischen Angreifer und Verteidiger ablaufen könnte. ## Wie die Schwachstellensuche funktionieren könnte Auf Seiten der Angreifer hat die Fähigkeit von KIs, Schwachstellen automatisch zu finden und auszunutzen, in den letzten Monaten dramatisch zugenommen. Wir sehen bereits, wie staatliche und kriminelle Hacker KI zur Systemangriffen einsetzen. Der Ausnutzungsteil ist hier entscheidend, da er einem unsophistizierten Angreifer Fähigkeiten weit über sein Verständnis hinaus verleiht. Mit zunehmender Leistungsfähigkeit von KIs ist zu erwarten, dass mehr Angreifer ihre Angriffe mithilfe von KI automatisieren werden. Und da Einzelpersonen und Organisationen zunehmend leistungsfähige KI-Modelle lokal ausführen können, werden KI-Unternehmen, die bösartige KI-Nutzung überwachen und unterbinden, zunehmend irrelevant. Es ist zu erwarten, dass Open-Source-Software, einschließlich Open-Source-Bibliotheken, die in proprietärer Software enthalten sind, am stärksten ins Visier genommen wird, da Schwachstellen im Quellcode leichter zu finden sind. Unbekannt Nr. 1 ist, wie gut KI-Schwachstellenerkennungstools gegen Closed-Source-Softwarepakete funktionieren werden. Ich glaube, sie werden bald gut genug sein, um Schwachstellen allein durch die Analyse einer Kopie eines ausgelieferten Produkts zu finden, ohne Zugriff auf den Quellcode zu haben. Wenn das stimmt, wird auch kommerzielle Software anfällig sein. Besonders anfällig wird Software in IoT-Geräten sein: Dinge wie internetfähige Autos, Kühlschränke und Sicherheitskameras. Ebenso industrielle IoT-Software in unserem internetfähigen Stromnetz, Ölraffinerien und Pipelines, Chemieanlagen usw. IoT-Software ist tendenziell von deutlich geringerer Qualität, und industrielle IoT-Software ist oft Legacy. Sofort-Software ist anders anfällig. Sie ist kein Massenmarkt. Sie wird für eine bestimmte Person, Organisation oder ein Netzwerk erstellt. Der Angreifer wird im Allgemeinen keinen Zugriff auf Code zur Analyse haben, was eine Ausnutzung durch externe Angreifer unwahrscheinlicher macht. Wenn sie kurzlebig ist, haben Schwachstellen eine kurze Lebensdauer. Aber viel Sofort-Software wird lange Zeit in Netzwerken verbleiben. Und wenn sie in gemeinsame Tool-Bibliotheken hochgeladen wird, können Angreifer diesen Code herunterladen und analysieren. All dies deutet auf eine Zukunft hin, in der KIs zu leistungsstarken Werkzeugen für Cyberangriffe werden, die in der Lage sind, Schwachstellen in Systemen weltweit automatisch zu finden und auszunutzen. ## Automatisierte Erstellung von Patches Aber das ist nur die halbe Seite des Wettrüstens. Verteidiger können auch KI nutzen. Dieselben KI-Schwachstellenerkennungstechnologien sind für die Verteidigung noch wertvoller. Wenn die Verteidigung eine ausnutzbare Schwachstelle findet, kann sie den Code patchen und sie für immer für Angreifer unzugänglich machen. Wie dies in der Praxis funktioniert, hängt von einer weiteren verwandten Fähigkeit ab: der Fähigkeit von KIs, anfällige Software zu patchen, was eng mit ihrer Fähigkeit zusammenhängt, überhaupt sicheren Code zu schreiben. KIs sind heute noch nicht sehr gut darin; die von KIs erstellte Sofort-Software ist im Allgemeinen voller Schwachstellen, sowohl weil KIs unsicheren Code schreiben als auch weil die Leute, die programmieren, Sicherheit nicht verstehen. **OpenClaw** ist ein gutes Beispiel dafür. Unbekannt Nr. 2 ist, wie viel besser KIs beim Schreiben von sicherem Code werden. Die Tatsache, dass sie auf riesigen Korpora schlecht geschriebenen und unsicheren Codes trainiert werden, ist ein Handicap, aber sie werden besser. Wenn sie zuverlässig fehlerfreien Code schreiben können, wäre das ein enormer Vorteil für den Verteidiger. Und KI-basierte Schwachstellenerkennung erleichtert es einer KI, das Schreiben von sicherem Code zu trainieren. Wir können uns eine Zukunft vorstellen, in der KI-Tools, die Schwachstellen finden und beheben, Teil des typischen Softwareentwicklungsprozesses sind. Wir können nicht sagen, dass der Code fehlerfrei wäre – das ist ein unmögliches Ziel –, aber er könnte frei von leicht auffindbaren Schwachstellen sein. Wenn die Technologie wirklich gut wird, könnte der Code im Wesentlichen fehlerfrei werden. ## Verzögerungen bei Patches und Legacy-Software Für neue Software – sowohl kommerzielle als auch sofortige – begünstigt diese Zukunft den Verteidiger. Für kommerzielle und konventionelle Open-Source-Software ist die Sache nicht so einfach. Derzeit ist die Welt voller Legacy-Software. Vieles davon – wie die Software von IoT-Geräten – hat kein dediziertes Sicherheitsteam, das sie aktualisiert. Manchmal ist sie nicht patschbar. So wie es für KIs schwieriger ist, Schwachstellen zu finden, wenn sie keinen Zugriff auf den Quellcode haben, ist es für KIs schwieriger, Software zu patchen, wenn sie nicht in den Entwicklungsprozess integriert sind. Ich bin nicht so zuversichtlich, dass KI-Systeme Schwachstellen so leicht patchen können, wie sie sie finden, da das Patchen oft ein ganzheitlicheres Testen und Verstehen erfordert. Das ist Unbekannt Nr. 3: wie schnell KIs zuverlässige Software-Updates für die von ihnen gefundenen Schwachstellen erstellen können und wie schnell Kunden ihre Systeme aktualisieren können. Heute gibt es eine Zeitverzögerung zwischen der Ausgabe eines Patches durch einen Anbieter und der Installation dieses Updates durch die Kunden. Diese Zeitverzögerung ist bei großer Unternehmenssoftware noch länger; das Risiko, dass ein Update das zugrunde liegende Softwaresystem beschädigt, ist für Organisationen zu groß, um Updates auszurollen, ohne sie vorher zu testen. Aber wenn KI helfen kann, diesen Prozess zu beschleunigen, indem sie Patches schneller und zuverlässiger schreibt und sie in einer KI-generierten Zwillingsumgebung testet, geht der Vorteil an den Verteidiger. Wenn nicht, hat der Angreifer immer noch ein Zeitfenster, um Systeme anzugreifen, bis eine Schwachstelle behoben ist. ## Auf dem Weg zur Selbstheilung In einer wirklich optimistischen Zukunft können wir uns ein selbstheilendes Netzwerk vorstellen. KI-Agenten scannen kontinuierlich den sich ständig weiterentwickelnden Korpus kommerzieller und kundenspezifischer, KI-generierter Software auf Schwachstellen und beheben diese automatisch bei Entdeckung. Damit dies funktioniert, müssen Softwarelizenzvereinbarungen geändert werden. Derzeit kontrollieren Softwareanbieter die Taktung von Sicherheitspatches. Die Gewährung dieser Fähigkeit an Softwarekäufer hat Auswirkungen auf Kompatibilität, das Recht auf Reparatur und Haftung. Alle Lösungen hier sind eher politischer als technischer Natur. Wenn die Verteidigung Fehler in Legacy-Software finden, aber nicht zuverlässig beheben kann, werden Angreifer dort ihre Bemühungen konzentrieren. In diesem Fall können wir uns eine sich ständig weiterentwickelnde, KI-gestützte Intrusion Detection vorstellen, die Eingaben kontinuierlich scannt und bösartige Angriffe blockiert, bevor sie die anfällige Software erreichen. Nicht so transformativ wie das automatische Patchen von Schwachstellen im laufenden Code, aber dennoch wertvoll. Die Leistungsfähigkeit dieser defensiven KI-Systeme steigt, wenn sie miteinander koordiniert werden und Schwachstellen und Updates austauschen können. Eine Entdeckung durch eine KI kann sich schnell auf alle Benutzer der betroffenen Software ausbreiten. Wieder: Vorteil Verteidiger. Es gibt weitere Variablen zu berücksichtigen. Der relative Erfolg von Angreifern und Verteidigern hängt auch davon ab, wie zahlreich Schwachstellen sind, wie leicht sie zu finden sind, ob KIs die subtileren und obskureren Schwachstellen finden können und wie stark die Koordination zwischen verschiedenen Angreifern ist. All dies umfasst Unbekannt Nr. 4. ## Ökonomie der Schwachstellen Vermutlich werden KIs zuerst die offensichtlichen Dinge bereinigen, was bedeutet, dass verbleibende Schwachstellen subtil sein werden. Ihre Suche wird KI-Rechenressourcen erfordern. Im optimistischen Szenario bündeln Verteidiger Ressourcen durch Informationsaustausch und amortisieren so effektiv die Kosten der Verteidigung. Wenn der Informationsaustausch aus irgendeinem Grund nicht funktioniert, wird die Verteidigung viel teurer, da einzelne Verteidiger ihre eigene Forschung betreiben müssen. Aber Sofort-Software bedeutet eine viel größere Vielfalt an Code: ein Vorteil für den Verteidiger. Dies muss mit den relativen Kosten für Angreifer bei der Suche nach Schwachstellen in Einklang gebracht werden. Angreifer haben bereits eine inhärente Möglichkeit, die Kosten für die Entdeckung einer neuen Schwachstelle zu amortisieren und ein neues Exploit zu erstellen. Sie können plattform-, hersteller- und systemübergreifend nach Schwachstellen suchen und das Gefundene nutzen, um mehrere Ziele gleichzeitig anzugreifen. Die Behebung einer gemeinsamen Schwachstelle erfordert oft die Zusammenarbeit aller relevanten Plattformen, Anbieter und Systeme. Auch hier ist Sofort-Software ein Vorteil für den Verteidiger. Aber diese schwer zu findenden Schwachstellen werden wertvoller. Angreifer werden versuchen, das zu tun, was die großen Geheimdienste heute tun.