Je nachdem, welche Daten absichtlich oder unabsichtlich verwendet werden und wie die KI konzipiert ist, hat das Auswirkungen auf die Ergebnisse. Bei der Vergabe von Krediten oder bei der Besetzung von Jobs könnten bei nichtordnungsgemäßer Nutzung von künstlicher Intelligenz Entscheidungen getroffen werden, die durch Alter, Geschlecht, Religion oder ethnischer Zugehörigkeit beeinflusst werden und diskriminierend sind. Erwartet wird zudem, dass KI zur Einsparung von Arbeitsplätzen führt.
Internetseiten zeigen dem Benutzer häufig die Informationen an, die seinem Surfverhalten entsprechen. Gemeint sind sogenannte Filterblasen, die einem pluralistischen Umfeld entgegenstehen und somit Gefahren für die Demokratie mit sich bringen können. Online-Anbieter können ohne Wissen der Verbraucher KI nutzen, um auf Basis ihres Online-Verhaltens ihre Solvenz und Zahlungsbereitschaft vorherzusagen. Dieses Transparenzproblem gibt es auch, wenn unklar ist, ob man gerade mit einer KI-Anwendung interagiert oder mit einem echten Menschen.
Audios, Videos und Bilder können mithilfe von KI so realistisch gefälscht werden, dass sie zur Manipulation von Wahlen oder Polarisierung beitragen können. Da KI auch zur Gesichtserkennung oder Online-Tracking und Profiling von Personen eingesetzt wird, kann das Einfluss auf Datenschutz sowie die Versammlungs- und Demonstrationsfreiheit haben.