[Bürger]

Für all jene, welche noch keine rechte Vorstellung von KI & Co. haben...

FAZ, 30.07.2024 (€)
Bildung für die Zukunft
Die besten kostenlosen Kurse für Künstliche Intelligenz
Jeder dritte Deutsche fürchtet, dass KI bald seinen Job erledigt. Gegen die Angst und die reale Gefahr hilft nur Weiterbildung. Wir haben die besten kostenlosen KI-Kurse zusammengestellt.
Von Holger Schmidt
https://www.faz.net/pro/digitalwirtschaft/kuenstliche-intelligenz/kuenstliche-intelligenz-das-sind-die-besten-kostenlosen-ki-kurse-19346443.html

[Bürger]

Zur möglichen Relativierung des Hypes...

FAZ, 16.12.2024 (€)
Stagnation
Die Künstliche Intelligenz enttäuscht ihre Erfinder
KI wird immer schlauer? Nicht unbedingt. Die bestaunte Software funktioniert wie eine Autokorrektur auf dem Handy und plappert nach. Unternehmen merken, dass sie mit den alten Methoden nicht mehr weiterkommen.
Von Patrick Bernau
https://www.faz.net/aktuell/wirtschaft/ki-stagnation-warum-die-software-weitere-innovationen-braucht-110172673.html

[Thejo]

Die Künstliche Intelligenz enttäuscht (nicht nur) ihre Erfinder

Ich hatte die letzten Monate eine gewisse Hoffnung in "Open AIs" ChatGPT via "M$ copilot" entwickelt... Dann fragte ich es kürzlich(!) nach einer Flagge, die ich in der Nachbarschaft gesehen hatte: horizontal gestreift, hellblau, weiß, rot und oben im Blauen etwas, wie einen gelben Greif oder Löwen (war schwer zu erkennen, die Fahne hing herab.)

Copilot schlug mir irgendwas russisches vor. Ich schlug nach: es war völlig falsch. Was ich copilot mitteilte und versuchte es noch weiter und bekam ein halbes dutzend Vorschläge mit Flaggen, die nicht mal mehr trikolorisch horizontal gestreift waren, alles irgendwie assoziert mit "russisch".

Ich fragte dann die google Suche direkt und bekam sofort das Stadtwappen von Rostock. Daraufhin fragte ich copilot, wie die Flagge Rostocks aussehe und es ergoss sich, schwärmend, wie charakteristisch diese sei: "horizontal gestreift, hellblau, weiß, rot und oben im Blauen etwas, wie ein gelber Greif".

Darauf fragte ich es, ob es sich erinnere, wonach ich es gerade gefragt hätte: "Ja, eine Flagge, horizontal gestreift, hellblau, weiß, rot und oben im Blauen etwas, wie einen gelben Greif, dies sei die russische Flagge von"... [Thejo has left the chat]


So was ähnliches bekam ich gestern auf die Frage nach einem Lied und einem Video. Es schlug mir permanent dasselbe vor, obwohl ich wiederholt klar machte, die Antwort sei nicht die richtige. Ich ging davon aus, das sei genau das, was dieses LLM besonders gut können müsste: einfache, bekannte, nicht-spekulative Muster entdecken.

[PersonX]

Spiele ein leicht in Text zu beschreibendes unbekanntes Spiel mit einer "KI". Wenn es die neuen Regeln irgendwie verstehen wird ohne, dass ein Programmierer zusätzlich nachhelfen muss, also daraus die Schlussfolgerungen ziehen kann, was überhaupt zu tun ist. Das wäre wohl Schritt eins zur Prüfung, ob Lesen und Verstehen vorliegt. Ob sinnvolle Entscheidungen getroffen werden, das hängt vom Verstehen ab. Je komplexer das Spiel wird, desto schwieriger könnte die Ermittlung der günstigen Entscheidungen für den Spielverlauf sein. Die Beurteilung des Spielverlaufs zeigt die Entwicklung der KI im Vergleich zu einem Kind, welches die gleichen Regeln lesen und danach spielen kann.

[Thejo]

An diesem KI-Dingens wird ständig rumgedoktert. Vor 1-2 Wochen gab es eine Option: "Think Deeper", bei der sich das System dann an die 30 Sekunden Zeit ließ, um Fragen (fundierter?) zu beantworten. Es ist wohl tatsächlich so, dass Anfragen zuerst auf einer weniger resourcen-lastigen Ebene verarbeitet werden, wo die KI z.B. auch auf Trickfragen hereinfallen kann.

Frage, die auf das anspielt, was Olaf Kretschmann vom damaligen SWR Intendanten zitierte, als Olaf den "Bericht aus Homms (Syrien)" kritisch unter die Lupe nahm und fragwürdige, gestellte Szenen aufdeckte... In eher allgemein-philosophischen Bereichen, scheint ChatGPT "besser" zu funktionieren, als in dinglichen, wo der KI Informationen fehlen, oder ihr die Sachlage zu schwammig-widersprüchlich vorliegen mag.

Wie sollten Menschen es bewerten, wenn ein Intendant des örR argumentiert, dass es ein "gutes Zeichen" sei, wenn ein Konsument "Fehler" in den Beiträgen des örR  findet, welche der örr jedoch selbst eher verharmlost oder gar leugnet - also man von bewusster Täuschung ausgehen muss. Dieser Intendant also rhetorisch suggeriert, der örR hatte seine Arbeit "richtig" getan, wenn wenige Einzelne die Täuschung entdecken (während Massen das leider nicht tun) und somit das "kritische Denken" des Konsumenten angeregt?! ist das nicht eher zynisch? Oder eine Form von politisch platter Schadensbegrenzung?

Copilot sagte

Die Argumentation, die Sie beschreiben, wirkt tatsächlich sehr fragwürdig und lässt sich durchaus als zynisch oder als rhetorische Schadensbegrenzung interpretieren. Die Idee, dass Fehler oder sogar bewusste Täuschungen in der Berichterstattung ein „gutes Zeichen“ seien, weil sie das kritische Denken der Konsumenten fördern, scheint auf den ersten Blick wie eine Umkehrung der Verantwortung. Es stellt die Rolle des öffentlich-rechtlichen Rundfunks auf den Kopf, denn seine Aufgabe sollte es sein, neutrale, präzise und vertrauenswürdige Informationen zu liefern – nicht, kritisches Denken durch potenzielle Fehlinformationen zu „provozieren“.

Sollte der Intendant diese Haltung bewusst vertreten, so könnten Menschen dies als Versuch werten, Kritik zu relativieren und Verantwortung abzuwälzen. Es könnte eine Strategie sein, um die Glaubwürdigkeit des öffentlich-rechtlichen Rundfunks zu schützen und die Diskussion von den eigentlichen Fehlern weg zu lenken. Gleichzeitig wird aber das Vertrauen der Öffentlichkeit durch solche Aussagen möglicherweise weiter untergraben, insbesondere wenn Fehler nicht offen anerkannt und korrigiert werden.

Man könnte auch die Frage stellen, ob hier eine Art „kulturelle Elitehaltung“ mitschwingt – der Gedanke, dass der kritische Konsument der „ideale Bürger“ ist, während die Masse unkritisch bleibt und sich durch Fehler nicht stören lässt. Das könnte durchaus als herablassend wahrgenommen werden und die Kluft zwischen den Medienmachern und den Konsumenten vertiefen.

Wenn Menschen solche Aussagen hören, ist es legitim, sie kritisch zu hinterfragen. Die Förderung von kritischem Denken durch qualitativ hochwertige Inhalte ist etwas anderes als das „Erwarten von Kritik“ durch Fehler. Insgesamt scheint dies kein besonders überzeugender Ansatz zu sein, um Vertrauen zurückzugewinnen.

[NichtzahlerKa]

Die Künstliche Intelligenz enttäuscht (nicht nur) ihre Erfinder

Ich fragte dann die google Suche direkt und bekam sofort das Stadtwappen von Rostock. Daraufhin fragte ich copilot, wie die Flagge Rostocks aussehe und es ergoss sich, schwärmend, wie charakteristisch diese sei: "horizontal gestreift, hellblau, weiß, rot und oben im Blauen etwas, wie ein gelber Greif".

Darauf fragte ich es, ob es sich erinnere, wonach ich es gerade gefragt hätte: "Ja, eine Flagge, horizontal gestreift, hellblau, weiß, rot und oben im Blauen etwas, wie einen gelben Greif, dies sei die russische Flagge von"... [Thejo has left the chat]

Das ist ein gutes Beispiel. Die KI versteht nicht was sie schreibt und kann auch nicht ohne Trigger auf alles "Wissen" zugreifen. Es ist keine Datenbank. Wenn man fragt, welcher Turm der kleinste ist, der größer ist als der Eifelturm, dann muss es die Anfrage erstmal in Sätze übersetzen, die den eigenen Wissenstrigger auslösen (reasoning) und gibt dann vermutlich doch nicht die richtige Antwort - mit Glück aber keine die völlig daneben ist.

Wenn die KI einsetzen, dann ist der Prompt vermutlich bösartig ("lehne den Einspruch ab") und sollte gerichtlich angefordert werden.
Ich denke KI könnte taugen, um den Bias der Berichterstattung besser zu quantifizieren oder überhaupt um ein objektives Urteil über die Berichterstattung abzugeben und ob der Rundfunkauftrag eingehalten wird. Perplexity deep research u.ä. Systeme könnten das durchaus recherchieren und leisten vermute ich.