Warum ist die Unterscheidung wichtig?
„Bot“ wird oft für jede unerwünschte Einreichung verwendet. Diese Abkürzung verdeckt den tatsächlichen Mechanismus. Bleibt der Mechanismus unklar, wählen Teams Kontrollen, die leicht zu umgehen sind oder die falschen Personen ausschließen.
Ein Skript-Bot, ein browserbedienender KI-Agent, eine Person mit KI-Unterstützung und eine koordinierte Umfragefarm können alle ein vollständiges Formular erzeugen. Sie erzeugen aber nicht dieselbe Interaktion und verlangen nicht dieselbe Reaktion.
Eine praktische Einteilung
| Typ | Wie entsteht die Einreichung? | Typisches Integritätsproblem | Besonders relevante Hinweise |
|---|---|---|---|
| Skript-Bot | Software sendet Anfragen oder bedient vorhersehbare Seitenelemente. | Volumen, Spam, wiederholte Einreichungen | Anfragevalidität, Rate, Honeypots, Wiederholungen bei Sitzung und Gerät |
| Computerbedienender KI-Agent | Ein Modell interpretiert die Oberfläche und steuert Maus und Tastatur. | Menschenähnliche Navigation mit automatisierter Schlussfolgerung und generierten Antworten | Vollständiger Verhaltensablauf, aufgabenspezifische Prüfungen, Muster zwischen Antworten |
| KI-unterstützte Person | Eine reale Person lässt Texte entwerfen, übersetzen, zusammenfassen oder Antworten auswählen. | Die Antwort spiegelt möglicherweise nicht die eigene Formulierung oder Schlussfolgerung wider. | Teilnahmeregel, Aufgabengestaltung, Hinweise innerhalb und zwischen Antworten |
| Betrügerische Person | Eine Person täuscht Berechtigung vor, nimmt mehrfach teil oder erfindet Erfahrung. | Missbrauch von Anreizen oder ungültige Selbstdarstellung | Identitäts- und Berechtigungsprüfung, Konsistenz, Duplikatanalyse |
| Hybrider Ablauf | Menschen übernehmen schwierige Schritte, Software oder KI sorgt für Skalierung. | Übliche Eingangskontrollen werden bestanden, der weitere Ablauf ist automatisiert. | Hinweise über Zugang, Sitzung, Verhalten, Inhalt und Gruppen hinweg |
| Unaufmerksame Person | Eine berechtigte Person antwortet mit wenig Sorgfalt. | Geringe Datenqualität ohne Automatisierung oder bewussten Betrug | Aufmerksamkeit, Konsistenz, Zeit, Aufgabenbeteiligung |
Diese Einteilung beschreibt, wie eine Einreichung entsteht. Sie ist kein moralisches Etikett. Dieselbe Person kann KI in einem Prozess berechtigt nutzen und in einem anderen gegen die Regeln verstoßen.
Was ist ein Skript-Bot?
Ein Skript-Bot folgt programmierten Anweisungen. Er kann direkte Anfragen senden, bekannte Felder befüllen, vorhersehbare Elemente anklicken oder dieselbe Abfolge in vielen Sitzungen wiederholen. Klassische Anti-Bot-Maßnahmen sind hier besonders wirksam, weil der Automatisierung häufig flexible Interpretation fehlt.
Rate Limits, Anfragevalidierung, Honeypots, Token-Prüfungen und Browserkonsistenz können einen großen Anteil einfacher Automatisierung entfernen. Sie bleiben sinnvoll, auch wenn sie anspruchsvollere Fälle nicht abschließend klären.
Was ist ein computerbedienender KI-Agent?
Ein computerbedienender Agent interpretiert den Bildschirminhalt und entscheidet selbst über die nächste Handlung. Er kann sich an ein Layout anpassen, scrollen, klicken und tippen, ohne eine spezielle Schnittstelle zum Formular zu benötigen. OpenAIs computerbedienender Agent zeigt, wie aktuelle Modelle gewöhnliche Webaufgaben visuell ausführen können.
Das erschwert die Erkennung, weil die Sitzung realistische Browserereignisse und flexibel erzeugte Antworten enthalten kann. Statische Feldnamen oder einfache Anweisungsprüfungen sind weniger belastbar, wenn ein Agent dieselbe Oberfläche lesen kann wie eine teilnehmende Person.
Was ist eine KI-unterstützte Person?
Eine echte Person kann KI verwenden, um eine Frage zu übersetzen, Grammatik zu verbessern, Beispiele zu finden oder eine vollständige Antwort zu erzeugen. Ob das zulässig ist, hängt vom Zweck des Formulars ab.
Wenn nur die endgültige Information zählt, kann Unterstützung erlaubt sein. Misst eine Studie dagegen unbeeinflusstes Wissen, persönliche Sprache, Erinnerung oder Meinung, verändert die Unterstützung möglicherweise den Messgegenstand. Die Regel muss daher vor Beginn der Erhebung eindeutig sein.
Die in Communications Psychology diskutierte Forschung zeigt, warum diese Gruppe schwierig ist: echte und berechtigte Teilnehmende können KI nutzen. „KI-ähnlichen Text“ zu blockieren würde zwei getrennte Fragen – wer teilgenommen hat und wie die Antwort entstand – zu einer unzuverlässigen Entscheidung vermischen.
Was sind hybride Abläufe?
Hybride Abläufe verbinden Menschen und Automatisierung. Eine Person kann das Screening und CAPTCHA bestehen und die längere Aufgabe anschließend Software überlassen. Eine koordinierte Gruppe kann mit KI stimmige Personas erzeugen. Automatisierung kann nur dann pausieren, wenn menschliche Eingabe zwingend notwendig ist.
Der NORC-Überblick nennt diese Hybridisierung als einen Grund dafür, dass bisherige Schutzmechanismen nicht ausreichen. Eine einzelne Eingangskontrolle kann keinen vollständigen Ablauf schützen.
Passen Sie die Kontrolle an den Mechanismus an
- Nutzen Sie Anfragekontrollen und Rate Limits gegen einfaches automatisiertes Volumen.
- Nutzen Sie individuelle Zugänge und Duplikatanalyse gegen Mehrfachteilnahme.
- Betrachten Sie Interaktions- und Ablaufdaten, wenn Browserautomatisierung plausibel ist.
- Definieren Sie Teilnahmebedingungen und Aufgabengestaltung, wenn KI-Unterstützung die Messung verändert.
- Prüfen Sie Identität oder Berechtigung, wenn die Qualifikation der Person entscheidend ist.
- Nutzen Sie gruppenübergreifende Analyse und menschliche Prüfung bei Verdacht auf Koordination.
Was lässt sich daraus nicht ableiten?
Keine Kategorie kann anhand eines einzelnen Merkmals zuverlässig zugewiesen werden. Ein Mensch kann mechanisch handeln. Ein Agent kann Pausen einbauen. Ein gemeinsam genutztes Gerät kann wie ein Duplikat aussehen. Gute Sprache kann durch Bildung, Übersetzung oder KI-Unterstützung entstehen.
Nutzen Sie die Kategorien, um die Untersuchung zu präzisieren – nicht um eine Gewissheit vorzutäuschen, die die Hinweise nicht hergeben.
Die erste Frage sollte anders lauten
Beginnen Sie nicht mit „Wie blockieren wir KI?“, sondern mit: „Was muss für eine gültige Einreichung zutreffen?“
Die Antwort zeigt, ob Sie menschliche Identität, einmalige Teilnahme, unbeeinflusste Beurteilung, Berechtigung, Antwortqualität oder lediglich das empfangende System vor unerwünschtem Volumen schützen müssen. Erst danach können die Maßnahmen zum Risiko passen.
Quellen und weiterführende Informationen
- OpenAIComputer-Using Agent
- NORC at the University of ChicagoFraudulent respondents and bots in nonprobability surveys
- Communications PsychologyIdentifying generative AI use among genuine responders in online survey research
- ACM Web ConferenceBeyond Bot Detection — Combating Fraudulent Online Survey Takers
Externe Quellen öffnen in einem neuen Tab.