BSI warnt vor KI, die Sicherheitslücken findet – die man zuvor mit KI hineinprogrammiert hatte

BONN (ewb) —

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat am Montag vor einem KI-Modell des US-Unternehmens Anthropic gewarnt, das Sicherheitslücken in Software aufspürt. In einem gesonderten Hinweis empfiehlt die Behörde zudem Vorsicht bei KI-Modellen, die Software schreiben.

Eine interne Auswertung habe ergeben, dass ein Großteil der vom Suchmodell identifizierten Lücken in Codezeilen lag, die zuvor von KI-Modellen generiert worden seien. Das BSI empfahl Unternehmen, „weniger KI, vor allem am Anfang“, einzusetzen.

Aus der Wirtschaft kam Kritik. Die Empfehlung sei „zeitlich schwierig“, da man bereits begonnen habe.