Fehlinterpretation: Es gibt Fälle, in denen Informationen angemessen identifiziert wurden, um eine Momentaufnahme zu bestätigen, jedoch mit Fehlinterpretationen der Sprache, die die Bedeutung der Ergebnisses verändert haben.
Halluzination: Fakten können falsch dargestellt oder Erkenntnisse ungenau wiedergeben weden.
Voreingenommenheit: KI zeigt möglicherweise nur eine Momentaufnahme an, die einen kleineren Bereich widerspiegelt als das, was insgesamt im Internet an Informationen verfügbar ist. So kann der Eindruck entstehen, die Entwickler und Entwicklerinnen haben Vorurteile, nicht an alle Menschengruppen gedacht, Personen können sich diskriminiert fühlen. Es ist jedoch wahrscheinlicher, dass die KI, in dem Fall SGE, Infos aus den Top Suchergebnissen liefert. Diese können auch Organisationen oder Medienunternehmen sein, die das Merkmal „männlich“ hinzufügen, wenn sie über Männersportarten schreiben. Dadurch werden generische Anfragen zu dieser Sportart daher tendenziell auf männliche Spieler oder Mannschaften ausgerichtet sein, selbst wenn Informationen über weibliche Spielerinnen oder Mannschaften gleichwertig oder vielleicht sogar eine genauere Antwort sind.
Meinungsinhalte, die Menschlichkeit implizieren: Während SGE darauf ausgelegt ist, einen neutralen, objektiven Ton in seiner generierten Antwort widerzuspiegeln, kann es Fälle geben, in denen die Antwort jedoch die im Internet vorhandene Meinungen widerspiegelt und so den Eindruck erweckt, dass sie eine Person ist.
Duplizierung oder Widerspruch zu parallel dargestellten Suchergebnissen: Google zeigt zum einen das Feld des KI-Ergebnisses an, aber darunter eben auch die bekannten organischen Suchergebnisse. Da hier nun beides auf der Suchergebnisseite erscheint, kann es sein, dass die Infos im KI-Bereich im Widerspruch zu anderen Suchergebnissen steht. Es kann daher sein, dass wir ein Ergebnis sehen, das die Information einer einzelnen Quelle/Webste hervorhebt, während wir im farblichen KI-Bereich Infos finden, die aus einer Reihe von mehreren Ergebnissen zustande kommt und daraus zusammenfassend generiert wird.
Das wird noch eine große Aufgabe für Google hier eine Einheitlichkeit zu bieten. Wenn sich das KI-Ergebnis inhaltlich maßgeblich von den Suchergebnissen darunter unterscheidet, wird uns das verwirren und ggf. auch Frust hervorrufen.