Automation Bias

Automation Bias ist die Neigung, der Ausgabe eines automatisierten Systems den Vorzug zu geben und sie weniger kritisch zu prüfen als die eines Menschen – auch wenn sie falsch ist. Mehr Reibung an folgenreichen Stellen und einfache Möglichkeiten, ein Ergebnis zu überprüfen oder zu übergehen, wirken dem entgegen.

Automation bias is the tendency to favour an automated system’s output and scrutinise it less than a person’s, even when it is wrong. Adding friction at high-stakes moments and providing easy ways to verify or override a result help prevent it.