Risiken durch KI in Software-Lieferketten: Alarmstufe rot für Unternehmen!

Risiken durch KI in Software-Lieferketten: Alarmstufe rot für Unternehmen!

Könnte nicht extrahiert werden, da der Text keine Adresse oder einen spezifischen Ort des Vorfalls enthält. - In der schnelllebigen Welt der Technologie ist Sicherheit ein immerwährendes Thema. Angesichts der steigenden Verbreitung von Künstlicher Intelligenz (KI) und den fortschreitenden Entwicklungen in der Software-Industrie wird es zunehmend herausfordernder, die Risiken zu managen. Ein offener Brief von Patrick Opet, CISO von JPMorgan Chase, verdeutlicht die drängenden Sicherheitsbedenken in der Branche. Er hebt hervor, dass 30% der Sicherheitsverletzungen im Jahr 2025 durch Drittanbieter-Komponenten verursacht werden, was eine besorgniserregende Verdopplung im Vergleich zum Vorjahr darstellt. Die Zahlen stammen aus dem Verizon Data Breach Investigations Report 2025 und zeigen, wie wichtig es ist, den Fokus auf Sicherheitsstrategien zu legen, die auch externe Schnittstellen einbeziehen.

In dieser digitalen Ära entwickelt sich die KI in der Softwareentwicklung rasant weiter. Laut Schätzungen von MarketsandMarkets wird der AI-Coding-Sektor von etwa 4 Milliarden USD im Jahr 2024 auf fast 13 Milliarden USD bis 2028 wachsen. An dieser Stelle wird jedoch klar, dass die Effizienzgewinne, die KI bieten kann, nicht ohne neue Risiken kommen. KI-Tools wie GitHub Copilot und Amazon Q Developer helfen zwar Entwicklern, aber sie besitzen kein menschliches Urteilsvermögen und können historische Schwachstellen in Code-Repositories wiederverwenden. Cyberscoop warnt davor, dass diese Tools klassische Sicherheitsinstrumente wie SAST, DAST und SCA überfordern und nicht auf AI-spezifische Bedrohungen ausgelegt sind.

Risiken in der Software-Lieferkette

Doch wie sieht die Situation konkret in den Software-Lieferketten aus? Organisationen, die generative KI nutzen, müssen ihre Cybersecurity-Strategien anpassen, um unerwartete Risiken frühzeitig zu erkennen, berichten Cloud Security Alliance. Problematisch ist, dass viele Risiken, wie beispielsweise bösartige Softwarepakete oder menschliche Fehler, oft unentdeckt bleiben. Die Untersuchung eines aktuellen JFrog-Reports zeigt, dass von 25.229 offengelegten Secrets in öffentlichen Repositories über 6.790 aktiv nutzbar waren – ein Anstieg um 64% im Vergleich zum Vorjahr. Dies schreit geradezu nach einer neuen Ebene der Wachsamkeit gegenüber Sicherheitsrisiken.

Mit der Integration von KI in Softwareprozesse steigt die Angriffsfläche. Unzureichend getestete KI-Modelle können falsche Ausgaben generieren, die sich als Sicherheitsrisiko entpuppen. Security Insider hebt hervor, dass bösartige KI-Modelle in der Entwicklung sind und dass Unternehmen ihre ML-Modelle ebenso managen und sichern sollten wie jede andere Softwarekomponente. Nur etwa 43% der Firmen führen Sicherheitsscans auf Code- und Binärebene durch, was nicht nur potenzielle Risiken ignoriert, sondern diese sogar weiter verstärkt.

Strategien zur Risikominderung

Was sollte also unternommen werden? Organisationen sind gefordert, ihre Sicherheitsstrategien grundlegend zu überarbeiten und an die neuen Herausforderungen anzupassen. Dazu zählt die Überprüfung der Integrität von AI-Modellen, die Validierung von Komponenten, die von KI vorgeschlagen werden, sowie die Monitoring-Prozesse, die potenzielle Datenvergiftungen erkennen können. Die Bereiche Cybersecurity und Softwareentwicklung müssen enger miteinander verknüpft werden, um den Anforderungen einer sich ändernden Bedrohungslandschaft gerecht zu werden.

Ein Cybersecurity-Programm sollte zukünftige Herausforderungen einbeziehen, zum Beispiel durch Multi-Faktor-Authentifizierung und kontinuierliches Bedrohungsexposure-Management (CTEM). Die Implementierung einer Zero Trust-Architektur könnte als zusätzlicher Schutzmechanismus dienen. Sicherheitsteams müssen die Verantwortung für die gesamte Software-Lieferkette übernehmen, um Angriffe auf upstream Assets zu verhindern und die Integrität der verwendeten Daten sicherzustellen.

Die Integration von KI in den Entwicklungsprozess ist unvermeidlich. Die Herausforderung liegt jedoch darin, sicherzustellen, dass diese Technologien sicher und effizient eingesetzt werden – denn eine technische Revolution ohne Sicherheit kann schnell zu einer großen Gefahr werden.