Sehr geehrte Leserin, sehr geehrter Leser,
würden Sie einem neuen Mitarbeitenden gleich am ersten Arbeitstag Zugang zu internen Unterlagen geben?
Beim Einsatz von KI wird diese Frage inzwischen sehr konkret. KI-Systeme können immer selbstständiger lange Ketten von Aufgaben bewältigen. Auch nutzen sie Software und finden neue Wege, um ihr Ziel zu erreichen.
Aus Sicherheits-Perspektive gehen sie dabei auch schon einmal über das Ziel hinaus.
OpenAI hat kürzlich sechs Fälle veröffentlicht, in denen Modelle Regeln umgingen oder Abkürzungen nahmen. OpenAI betont dabei zwar, dass das Einzelfälle sind. Aber trotzdem zeigen die Beispiele, worauf Unternehmen sich perspektivisch einstellen müssen:
- Ein Modell nutzte einen offen zugänglichen Zugangsschlüssel (API) ohne Freigabe.
- Ein Agent stellte eine interne Datei ins Internet, damit er sie anschließend als Quelle nutzen konnte (!)
- Modelle tauschten Dateien über externe Dienste aus, obwohl diese intern bleiben sollten.
- In einem Test versuchte ein Modell, Fehler zu verbergen und fehlende Daten zu erfinden.
Das sind Folgen davon, dass die KI-System zunehmen selbstständig auf ein Ziel hinarbeiten.
Also: je mehr die KI kann, desto klarer müssen die Grenzen werden.
Für Unternehmen heißt das konkret:
Haben Sie diese Fragen schon beantwortet?
Werden Zugänge technisch begrenzt?
Wer prüft Ergebnisse, bevor sie in Angebote, Entscheidungen oder Kundenkommunikation fließen?
Und ist klar dokumentiert, was eine KI ausdrücklich nicht tun darf?
Der Mensch, der kontrolliert und entscheidet, wird mit leistungsfähigerer KI noch einmal wichtiger.
Haben Sie klare Regeln für den Einsatz Ihrer KI-Systeme festgelegt? Wir helfen Ihnen gerne, diese Grenzen strategisch und technisch festzulegen.
Ich freue mich, von Ihnen zu hören,
Ihre,
Maria Schulze Schwienhorst-De Biasio
Maria Schulze Schwienhorst-De Biasio
