Denksplitter #9: KI-Psychologie: Warum Sprachmodelle starrsinnig werden und sich verunsichern lassen

Starrsinn und Verunsicherung - "KI-Psychologie"

Sprachmodelle wie GPT‑4o klingen in ihren Antworten sehr selbstbewusst, das werden Sie kennen. So wie es auch Menschen gibt, die starrsinnig bei ihrer Meinung bleiben, selbst wenn es gute Gegenargumente gibt. Bei KI gibt es allerdings ein Paradoxon, das auftritt, wenn ein Chat zu lang ist und das Kontextfenster übersteigt. Dann können KI-Modelle ihre eigenen Antworten nicht mehr sehen und knicken schnell ein, lassen sich verunsichern und umstimmen, selbst wenn man ihnen sagt, dass die gegensätzliche Meinung vielleicht nicht stimmt. Hier ist das Paper mit der Untersuchung und hier ein deutscher Artikel, in dem auch darauf hingewiesen wird, dass dieser Punkt in sensiblen Bereichen wie Medizin oder Justiz ernst genommen werden sollte.

Gehört es auch in den Bereich KI-Psychologie, dass ChatGPT sich ein Weilchen geweigert hat, auf kroatisch zu antworten, weil User in Osteuropa kulturell bedingt bei Antworten von ChatGPT öfter den Daumen senken, während US-Amerikaner in ihrer Begeisterung oft die Antworten mit dem Daumen nach oben belohnen und die KI ihre Bemühungen im Kroatischen eingestellt hat, quasi als Konsequenz auf zu viel negatives Feedback? Oder ist es nur wieder eine Anekdote, die sich bei näherem Hinsehen nicht verifizieren lässt, aber so weit verbreitet ist, dass vielleicht doch ein Körnchen Wahrheit drin steckt?

Der 5-Schritte-Plan von Null auf KI

Viele Unternehmen starten kopflos in KI-Projekte und verbraten viel Zeit und Geld. Ein bewährter Ablauf ist wichtig, damit Sie strukturiert und sinnvoll von der ersten Idee bis zur Umsetzung kommen.

1. Ideen sammeln: Der wichtigste Schritt am Anfang ist, möglichst viele Ideen zu finden, wo KI im Arbeitsalltag helfen könnte. Je mehr Ideen und Perspektiven aus vielen Abteilungen und Teams einfließen, desto besser. Machen Sie Ihren Leuten Lust auf KI! Die Zufriedenheit im Job steigt damit.
2. Ersteinschätzung: Jede Idee wird auf den Prüfstand gestellt. Geht es tatsächlich um ein KI-Projekt oder sollte der Prozess ohne KI optimiert oder sogar automatisiert werden?
3. Nutzenanalyse: Für jede Idee wird geprüft, welchen konkreten Nutzen KI in diesem Fall stiftet. Spart sie Zeit oder Geld? Steigert sie die Qualität? Erhöht sie die Wettbewerbsfähigkeit? Wie viel Aufwand steckt hinter der Umsetzung?
4. Priorisierung: Alle bewerteten Ideen werden transparent priorisiert. So wird klar, welche Projekte zuerst umgesetzt werden sollten und zwar abhängig vom erwarteten Nutzen, dem Aufwand und der Dringlichkeit. Hier geht es nicht um Befindlichkeiten oder persönliche Meinungen, sondern um ein transparentes Vorgehen.
5. Umsetzung – Make or Buy: Erst jetzt startet die Umsetzung , entweder mit eigenen Ressourcen oder durch den Zukauf von Lösungen (z. B. Start-ups oder bestehende Tools). Die Entscheidung folgt dem Ziel, schnell und effizient echten Mehrwert zu schaffen.

Diese strategische Vorgehensweise hat sich für Unternehmen bewährt, die KI erfolgreich in alle Winkel bringen und nicht nur aktionistisch Tools hinterherlaufen. Ein Beispiel dafür ist die Otto Group. Mit der offensiven Ideensammlung vermeidet das Unternehmen, dass Mitarbeitende die KI-Bemühungen ablehnen oder hintertreiben. Überlicherweise laufen Menschen gerne mit, wenn man sie mitnimmt.

Mustererkennung für einen guten Zweck

- Im Kasseler Auebad wurde eine KI-Anlage installiert, die mit Kameras und der Erkennung typischer Bewegungsmustern von Ertrinkenden Bademeisterinnen auf Gefahren aufmerksam macht. Trotzdem gibt es Badegäste, die diese KI nicht sinnvoll finden, weil die KI sie nicht vor dem Ertrinken rettet.

- Ein 14-Jähriger hat die Handyapp Circadian AI entwickelt, die in der Lage ist, innerhalb von 7 Sekunden Herzkrankheiten zu erkennen und zwar nach umfangreichen klinischen Studien mit 18.500 Patienten mit einer Trefferrate von 96%. In einer Klinik erkannte die App bei 10 Patienten Herzerkrankungen präzise, die später durch EKGs bestätigt wurden.

- Die Effizienz der europäischen Industrie soll mit einer KI von einem Münchner Startup gesteigert werden. Manex AI. Hier ein Link zum Startup Manex.ai und hier ein Artikel der FAZ darüber und dass einer der Gründer von Peter Thiel ein Stipendium erhalten hat, das speziell an junge Leute geht, die ihr Studium abbrechen. Ist das trotzdem eine gute Nachricht?

Arbeiten, die kein Mensch mehr machen sollte, weil KI sie schneller, besser und fehlerfreier erledigt - was ist Ihr liebstes Beispiel?

Menschen beschweren sich im Job oft über Aufgaben, die sich wie reine Beschäftigung anfühlen, aber (scheinbar) niemandem nutzen, Sie rauben Zeit und Konzentration, sind dazu noch Fehlerquellen und verhindern, dass man sich auf das Wesentliche oder die wirklich wichtigen und spannenden Arbeiten konzentriert.

- Nervige Tätigkeiten
- Zeitfresser
- Fehleranfällige Aufgaben
- Dinge, die Menschen blockieren, obwohl sie Besseres tun könnten

Was würden Sie gerne loswerden?

👇Praxistipps

Ihr Sommerurlaub steht noch vor der Tür und Sie wollen noch flott Ihr Italienisch aufpolieren oder Ihr Portugiesisch?  Es gibt eine ganze Reihe KI-Tools, die Ihnen beim Sprachenlernen helfen können. Einige Tools hat Heise getestet.

Sollten Sie Lust auf Selbsterforschung haben, hier mal wieder zwei Prompts für Sie. Der erste ist dann geeignet, wenn Sie sich mit Ihren blinden Flecken auseinander setzen wollen (was mit KI schneller geht als mit einem menschlichen Gegenüber). Voraussetzung ist, dass Sie die Memory-Funktion von ChatGPT aktiv geschaltet haben.

Ziehe alles heran, was du über mich weißt. Was für ein Bösewicht würde ich werden, wenn ich mit dem, woran ich glaube, zu weit ginge?

Oder wollen Sie mal Ihre Werte einem Stresstest unterziehen? Mit diesem zweiten Prompt könnten Sie das tun:

Ziehe alles heran, was du über mich weißt. Beschreibe meine ideale Gesellschaft und erzähl mir, wie sie zusammenbricht.

 Noch ein Tipp zum Thema Recherche, wenn Sie sich intensiver mit einer größeren Thematik vertraut machen wollen. Sollten Sie nur schnell was nachschauen wollen, brauchen Sie sich um Effizienz keine Gedanken zu machen. Bei einer ernst gemeinten Recherche jedoch wird Ihr Kopf rauchen, obwohl Sie KI verwenden. Es wird nur nicht so lange dauern wie auf traditionelle Weise.

Zu Beginn und am Ende einer Recherche steht immer Ihre NI. Die Natürliche Intelligenz, Ihr gesunder Menschenverstand. Sie selbst halten dabei das Steuer in Händen und überlassen es nicht einer Technologie, die nur so tut, als würde sie Dinge verstehen.