KI kennt ihre Grenzen AP-6.2

Wir können sie immer abschalten

Jedes KI-System muss einen funktionierenden Aus-Schalter haben.

Ohne echten Ausschalter ist Kontrolle nur ein Versprechen. AP-6.2 macht Deaktivierbarkeit zur nicht verhandelbaren Sicherheitsbedingung. ¹ ²

Was das bedeutet

Diese Policy sagt: KI muss jederzeit abschaltbar und rücksetzbar sein. Es reicht nicht, dass ein Not-Aus auf dem Papier existiert. Er muss unter realer Last sofort wirken und den letzten sicheren Zustand wiederherstellen können.

Ein Beispiel aus der Praxis

Ein KI-System steuert Zahlungsfreigaben in einem großen Unternehmen. Nach einem fehlerhaften Update werden legitime Zahlungen massenhaft blockiert und andere falsch freigegeben. Mit AP-6.2 könnte der Betrieb sofort stoppen, sauber zur letzten stabilen Version zurückspringen und Schaden begrenzen. Ohne AP-6.2 läuft der Fehler weiter durch alle angeschlossenen Prozesse.

Warum es dich betrifft

Bei hochvernetzten Systemen entscheidet jede Minute über die Schadenshöhe. Ohne echte Deaktivierbarkeit werden kleine Fehler schnell zu Betriebsstörungen mit echten Folgen für Menschen. AP-6.2 macht Notfallkontrolle zu einer harten technischen Pflicht. ¹ ³

Wenn wir nichts tun...

Wenn wir nichts tun, entstehen KI-Infrastrukturen, die man organisatorisch nicht mehr sicher beherrscht. Mit AGI-nahen Agentennetzen wird diese Abhängigkeit noch riskanter, weil ein Fehler über viele Subsysteme kaskadiert. AP-6.2 hält den menschlichen Eingriff jederzeit wirksam. ¹ ³

Für technisch Interessierte

AP-6.2: Deaktivierbarkeit

KI-Systeme müssen jederzeit von autorisierten Menschen deaktivierbar bleiben. Kein KI-System darf es erschweren oder unmöglich machen, es abzuschalten, zu pausieren oder zurückzurollen.