Microsoft setzt KI für die Fehleranalyse ein

Microsoft stellt seinen Entwicklern fortan Künstliche Intelligenz (KI) zur Seite, um gemeldete Schwachstellen besser zu verifizieren, zu klassifizieren und entsprechend auch zu priorisieren.

Es ist in den monatlichen Security-Patches der Redmonder deutlich zu sehen, dass es eine grosse Fülle von Schwachstellen gibt, die behoben werden müssen. Je nach Art der Lücke sind diese jedoch unterschiedlich gefährlich und damit dringlich.

Die KI soll nun dabei helfen, die Schwere eines Lecks (oder ob es sich gar um einen Fehlalarm handelt) herauszufinden. Damit können besonders kritische Schwachstellen höher priorisiert, moderate hingegen zeitweise vernachlässigt werden.

Wie Microsoft auf seinem Blog schreibt, gehen monatlich rund 30'000 Fehlermeldungen bei den Redmondern ein. Diese werden zunächst in über 100 AzureDevOps- und GitHub-Repositorys gespeichert. Fehler in dieser Grössenordnung von menschlichen Mitarbeitern analysieren zu lassen, sei schlicht nicht möglich.

Seit 2001 wurden die Fehler und andere Softwareelemente bei Microsoft gespeichert, heisst es im Blogeintrag weiter. Die Datenmenge sei also derart gross, dass diese sich gut dafür eignet, KI-Modelle damit zu trainieren.

Die Technologie kann den Angaben zufolge in 99 Prozent der Fälle korrekt zwischen Sicherheits- und Nicht-Sicherheitsfehlern unterscheiden. Ausserdem ist die KI dazu in der Lage, die Security-Lecks in 97 Prozent der Fälle in kritische Schwachstellen mit entsprechend hoher Priorität und Fehlern mit weniger hohem Risiko einzustufen.

Menschliche Sicherheitsexperten sollen dadurch jedoch nicht ersetzt werden. Um zu gewährleisten, dass das System richtig arbeitet, werden die Ergebnisse der KI kontinuierlich stichprobenartig analysiert und bewertet.

Microsoft plant, die angewandte Methodik bald schon unter Open-Source-Lizenzen auf GitHub zu veröffentlichen.