Kurz erklärt
Menschen behalten die Kontrolle über KI-Agents, wenn vor dem Start feststeht, welche abgegrenzte Aufgabe ein Agent übernimmt, welche Schritte er nur vorbereitet und welche er ausführen darf. Agents arbeiten im Rahmen eingerichteter Zugänge und Berechtigungen. Verantwortliche prüfen die Ergebnisse und geben sie frei, bevor Änderungen in angebundenen Systemen umgesetzt werden.
Menschen behalten die Kontrolle über KI-Agents, wenn vor dem Start drei Dinge feststehen: eine klar abgegrenzte Aufgabe, die Schritte, die der Agent nur vorbereitet, und die Schritte, die er ausführen darf. Agents arbeiten dabei nur im Rahmen der eingerichteten Zugänge und Berechtigungen. Verantwortliche prüfen die vorbereiteten Ergebnisse und geben sie frei, bevor Änderungen in angebundenen Systemen umgesetzt werden.
Mit einer klar abgegrenzten Aufgabe beginnen
Eine abgegrenzte Aufgabe zeigt, welche Informationen, Systeme und Berechtigungen ein Agent tatsächlich braucht. Sie macht außerdem prüfbar, ob seine Ergebnisse stimmen. Die Einführung mit Hawk IVO folgt vier Schritten:
- Erstgespräch: Wir besprechen Ihre Aufgabe, die beteiligten Teams und Ihre Ziele.
- Anwendungsfall klären: Gemeinsam legen wir fest, welche Informationen und Systeme nötig sind und woran Sie den Nutzen messen.
- Pilot mit echten Nutzern: Wir richten den Anwendungsfall ein und begleiten die ersten Wochen im Betrieb.
- Ausbauen: Weitere Teams, Standorte oder Aufgaben kommen schrittweise hinzu.
Vorbereiten oder ausführen
Agents arbeiten in drei Schritten, die in Was ist eine Agent Workforce? ausführlich beschrieben sind. Für jeden Schritt legen Sie fest, wie weit der Agent gehen darf und wo ein Mensch entscheidet.
| Schritt | Was der Agent tut | Was Sie festlegen |
|---|---|---|
| Wissen nutzen | Er zieht relevante Informationen im passenden Unternehmens- und Projektkontext heran. | Welche Quellen freigegeben sind |
| Ergebnisse vorbereiten | Er führt Informationen zusammen und erstellt Entwürfe und Arbeitsgrundlagen. | Wer prüft und auswählt |
| Arbeitsschritte ausführen | Er bearbeitet geeignete Schritte in angebundenen Systemen. | Welche Verbindungen und Berechtigungen gelten und was vorher freigegeben wird |
Ein vereinfachtes Beispiel aus der Planung zeigt die Aufteilung. Hawk IVO Plan schlägt eine Besetzung nach Regeln und Qualifikationen vor, und ein Agent fasst Konflikte zusammen und bereitet Optionen vor. Verantwortliche geben frei. Erst dann werden die Änderungen in den angebundenen Systemen umgesetzt. Mehr dazu im Artikel Schichtplanung mit KI.
Für den Start eignen sich Aufgaben, bei denen der Agent vorbereitet und ein Mensch das Ergebnis vor der Umsetzung prüft. Welche Schritte ein Agent direkt in einem System ausführen kann, hängt von den eingerichteten Verbindungen und Freigaben ab.
Freigaben und Berechtigungen
Mit Hawk IVO Force handeln Agents nur im Rahmen dessen, was Sie freigeben. Dabei sind zwei Festlegungen zu unterscheiden. Eine Berechtigung legt fest, was ein Agent in einem System tun darf. Eine Freigabe im Arbeitsablauf bestätigt ein konkretes Ergebnis, bevor es wirksam wird.
Für den Rahmen eines Agents gilt:
- Agents nutzen nur eingerichtete Verbindungen und arbeiten innerhalb der Berechtigungen, die Sie festlegen.
- Aktionen in angebundenen Systemen erfolgen kontrolliert.
- Wiederverwendbare Arbeitsanweisungen sind als Skills hinterlegt.
- Das Unternehmenswissen stammt aus freigegebenen Quellen.
Nachvollziehbarkeit
Nachvollziehbar wird ein Agent, wenn bekannt ist, womit er arbeitet und wo er handeln kann. Die Festlegungen aus der Einführung liefern dafür die Grundlage. Das Wissen stammt aus Quellen, die Sie freigegeben haben, und wiederkehrende Aufgaben folgen hinterlegten Skills. Gehandelt wird nur über eingerichtete Verbindungen. Wenn Verantwortliche freigeben, bleibt die Entscheidung bei einer benannten Person. Wie Entwürfe, Prüfungen und Freigaben im Einzelnen dokumentiert werden, gehört zur Klärung des Anwendungsfalls.
Was die EU-KI-Verordnung unter menschlicher Aufsicht versteht
Die EU-KI-Verordnung (Verordnung (EU) 2024/1689) regelt die menschliche Aufsicht in Artikel 14 für Hochrisiko-KI-Systeme. Diese sind so zu konzipieren und zu entwickeln, dass natürliche Personen sie während der Verwendung wirksam beaufsichtigen können. Die beaufsichtigenden Personen sollen nach Absatz 4 unter anderem in der Lage sein,
- Fähigkeiten und Grenzen des Systems zu verstehen und seinen Betrieb zu überwachen,
- sich der Neigung bewusst zu bleiben, sich übermäßig auf die Ausgabe zu verlassen,
- die Ausgabe richtig zu interpretieren,
- in einer bestimmten Situation zu entscheiden, das System nicht zu verwenden oder seine Ausgabe außer Acht zu lassen, außer Kraft zu setzen oder rückgängig zu machen,
- in den Betrieb einzugreifen oder ihn zu unterbrechen.
Nach Artikel 26 Absatz 2 übertragen Betreiber solcher Systeme die Aufsicht Personen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen. Ob ein konkreter Einsatz als Hochrisiko-KI-System gilt, richtet sich nach Artikel 6 und den Anhängen der Verordnung und ist eine rechtliche Frage des Einzelfalls. Unabhängig von dieser Einordnung können die Kriterien als Orientierung dienen, wenn Sie festlegen, wer bei der Arbeit eines Agents entscheidet und eingreifen kann.
Website-Chat, Wissensartikel und ausführender Agent
Nicht jede KI-Anwendung handelt in Systemen. Der Unterschied bestimmt, welche Kontrolle nötig ist.
| Merkmal | Website-Chat | Wissensartikel | Ausführender Agent |
|---|---|---|---|
| Zweck | beantwortet Fragen im Gespräch | erklärt ein Thema | übernimmt eine Aufgabe bis zum Ergebnis |
| Grundlage | Nachricht, geöffnete Seite, Wissensartikel | redaktionell gepflegter Text | Unternehmenswissen, Skills, angebundene Systeme |
| Wirkung | unverbindliche Antwort | Information | Schritte in angebundenen Systemen |
| Kontrolle | ausdrücklicher Start durch Besuchende | fachliche Freigabe des Texts | Berechtigungen und Freigaben durch Verantwortliche |
Praxisbeispiel: der KI-Assistent dieser Website
Der KI-Assistent auf hawkivo.com läuft auf Hawk IVO Force. Seine Aufgabe ist eng gefasst: Er beantwortet Fragen zu Hawk IVO, zu den Produkten und zur geöffneten Seite und nennt passende Wissensartikel in der Sprache der Seite. Arbeitsschritte in anderen Systemen führt er nicht aus.
Ob der Chat startet, entscheiden Sie. Erst mit „Chat starten“ wird er geladen. Vorher sagt ein Hinweis, dass Sie mit einer KI chatten, dass Antworten Fehler enthalten können und unverbindlich sind und welche Daten der Assistent erhält. Er erfährt, welche Seite und welcher Abschnitt geöffnet sind. Was Sie in Formularfelder schreiben, erhält er nicht.
Im Kleinen zeigt der Assistent dieselben Festlegungen wie ein Agent im Unternehmen: eine abgegrenzte Aufgabe, einen festgelegten Informationsumfang und eine menschliche Entscheidung am Anfang. Mehr zum Einsatz steht in der Referenz zum Website-Assistenten.
Checkliste für den Start
Diese Fragen sollten vor einem Pilot beantwortet sein:
- Welche klar abgegrenzte Aufgabe übernimmt der Agent, und wo endet sie?
- Woran messen Sie den Nutzen?
- Welche Informationen braucht der Agent, und aus welchen freigegebenen Quellen stammen sie?
- Welche Verbindungen werden eingerichtet, und welche Berechtigungen gelten darin?
- Welche Schritte bereitet der Agent nur vor, und welche führt er aus?
- Wer prüft die Ergebnisse und gibt sie frei, bevor Änderungen wirksam werden?
- Wie werden Entwürfe, Prüfungen und Freigaben dokumentiert?
- Mit welchen Nutzern startet der Pilot, und nach welchen Kriterien kommen weitere Teams oder Aufgaben hinzu?
Softwareanbieter, die Agents in ihr eigenes Produkt bringen möchten, finden die zugehörigen Fragen im Artikel Agents in die eigene Software einbetten. Wenn Sie eine solche Aufgabe im eigenen Unternehmen im Blick haben, sprechen Sie uns an.