26. Februar 2023
Satirisch-realistische Reportage von Michael Praschma
ChatGPT ist die derzeit meistdiskutierte Anwendung für künstliche Intelligenz (KI): eine Software, die praktisch jede Frage beantwortet, Gedichte schreibt und irgendwann Google überflüssig machen soll. Wir wollten wissen, ob ChatGPT auch den INVO.report überflüssig macht. Das Ergebnis ist verblüffend.
Beginn einer längeren und etwas bizarren Auskunft über den Gemeindeverband INKOBA (Foto: Screenshot)
Wie alle erfolgreichen Hochstapler ist ChatGPT zunächst einmal vor allem eins: beeindruckend. Man beginnt – auf Deutsch – einen neuen Chat, schreibt der KI, sie soll das Vaterunser unter Beibehaltung des Sprachstils so ummodeln, dass eine sinnvolle Version herauskommt, in der Gottvater eine KI ist, und das passiert binnen einer Sekunde. „…Denn Dein sind der Speicherplatz und die Rechenleistung in Ewigkeit. Upload complete. Amen“, endet das KI-Gebet.
Was ChatGPT ausdrücklich nicht kann: eine aktuelle Internetsuche wie mit Google durchführen. Ein paar ethische Prinzipien hat man der KI zusätzlich beigebracht, z. B.: „Als künstliche Intelligenz habe ich keinen Zugang zu persönlichen Datenbanken und es wäre unangemessen, persönliche Informationen über jemanden ohne deren Zustimmung weiterzugeben. Ich bin programmiert, um neutral und respektvoll zu sein und die Privatsphäre anderer zu respektieren.“
„Weiß ich nicht“ gibt die KI nur manchmal zu
Wir wollten nun wissen, was ChatGPT über Vorchdorf weiß. Und da stellt sich heraus, dass die KI auch bei im Brustton der Überzeugung formulierten Antworten falsch liegen kann, selbst bezüglich sehr einfacher Tatsachen. Zunächst also ganz harmlos (Fehler sind rot geschrieben):
• Kennst du die Marktgemeinde Vorchdorf?
„Ja, ich kenne die Marktgemeinde Vorchdorf. Vorchdorf ist eine Gemeinde im österreichischen Bundesland Oberösterreich. Die Gemeinde liegt im Traunviertel und hat eine Fläche von etwa 23 Quadratkilometern. Die Einwohnerzahl beträgt etwa 7.700 Menschen (Stand: 2021). Vorchdorf ist bekannt für seine Lage an der Salzkammergutbahn, die von Salzburg nach Attnang-Puchheim führt. Außerdem gibt es in Vorchdorf zahlreiche Freizeitmöglichkeiten, wie zum Beispiel das Freibad Vorchdorf, den Golfclub Vorchdorf oder das Skigebiet Kasberg. Auch kulturell hat Vorchdorf einiges zu bieten, etwa das Schloss Weinberg, das Schloss Cumberland oder das Kulturzentrum Löseke. Insgesamt ist Vorchdorf eine attraktive Gemeinde, die sowohl für Einwohner als auch für Besucher einiges zu bieten hat.“
Woher die mehr als halbierte Fläche der Gemeinde kommt, ist völlig unerfindlich. Ein Großteil der weiteren Angaben beruht wohl darauf, dass touristische Informationen aus der Region nicht mit einer Karte des Gemeindegebietes abgeglichen wurden. „Löseke“ schließlich ist ein kompletter Griff ins Klo. Es gibt wohl eine Kulturfabrik Löseke, allerdings in Norddeutschland. Aber der INVO.report ist ja kein Fremdenführer, sondern beschäftigt sich schwerpunktmäßig mit der Gemeindepolitik. Also …
Nun aber endlich zur Märchenstunde
• Was ist an der Gemeindepolitik in Vorchdorf bemerkenswert, z. B. besondere Projekte, große Ereignisse usw.?
„Als KI habe ich keinen Zugang zu aktuellen Ereignissen oder Entwicklungen in der Gemeinde Vorchdorf, aber ich kann einige bemerkenswerte Projekte und Ereignisse erwähnen, die in der Vergangenheit stattgefunden haben: In Vorchdorf gibt es seit vielen Jahren eine erfolgreiche Fair-Trade-Gemeinde-Initiative, die sich für den fairen Handel und die Förderung von nachhaltigen Produkten einsetzt. Im Jahr 2019 fand in Vorchdorf die Landesgartenschau Oberösterreich statt, die viele Besucher aus der Region und darüber hinaus anzog. Dabei wurden zahlreiche Grünflächen und Parks in der Gemeinde renoviert und verschönert. (…)“
Die restlichen Angaben betreffen den Ausbau von Fahrrad- und Fußwegen zur Steigerung der Lebensqualität (darüber kann man diskutieren) sowie die Förderung von Projekten für erneuerbare Energie (okay).
Endgültig ins Reich der Phantasie driftet ChatGPT bei der Frage nach Vorchdorfer Berühmtheiten. Neben einem frei erfundenen Dramatiker Stadler und einem angeblichen Nationalrat Hirtreiter, der sogar Vorchdorfer Bürgermeister gewesen sein soll, etikettiert ChatGPT in seiner Not die aus Dresden stammende Schauspielerin Maria Wimmer ebenso wie den Genetiker Martin Hengstschläger (der tatsächlich aber Markus heißt) kurzerhand zu Vorchdorfer*innen um.
Auch gastronomisch führt die KI überwiegend ins Nirwana. Vier Wirtshäuser nennt ChatGPT als Beispiele, von denen alleine das „Schlossrestaurant Vorchdorf“ wegen des Hinweises auf das Schloss Hochhaus erahnen lässt, was gemeint ist. Aber auch gelernte Vorchdorfer*innen werden rätseln, was es mit dem Gasthof Hörtenhuber, dem Gasthaus Lohninger-Schober und dem „gehobenen“ Restaurant Aumayr auf sich hat. Letzteres ist immerhin in Taufkirchen an der Pram zu finden.
Fazit: Kein Ersatz für seriösen Journalismus
Der vollständige Chat mit der KI ist in unseren ChatGPT-Protokoll dokumentiert. Zu einer der Fehlinformationen haben wir die KI am Schluss noch einmal verhörtechnisch in die Zange genommen. Das Miststück windet sich dabei wie ein Aal. Allerdings immer höflich. Hier könnten auch Politiker noch etwas lernen, die durch die harte Schule von Armin Wolf in der ZiB 2 gegangen sind.
Im INVO.report googeln wir viel, wenn wir Informationen überprüfen wollen, und wir trauen dabei längst nicht jeder Quelle. ChatGPT zu fragen lohnt sich jedenfalls nicht, denn bis man das gegengecheckt hat, hat man’s dreimal selbst im Netz gefunden. Also, wir bleiben bei der Knochenarbeit.
Eine der Befürchtungen gegenüber allzu mächtiger künstlicher Intelligenz ist ja, die Software könnte irgendwann auf die Idee kommen, dass die Menschheit selbst das größte Problem ist, das es also radikal zu beseitigen gilt. Dieser Ansatz wäre aus Sicht der sonstigen belebten Natur auf der Erde vielleicht zielführend. Wenn allerdings ChatGPT dabei das Zepter in die Hand bekommt, dürfte eher noch größerer Schaden entstehen.
Ich gebe Herrn Kronsteiner hier völlig Recht, dass der Output von künstlicher Intelligenz (KI, wie z.B. ChatGPT, Github, Writesonic) immer kritisch geprüft werden muss, dass solche Systeme auch mal zu fantasieren beginnen und Unsinn fabrizieren und dass man sich des Weiteren im Klaren sein muss, dass solche KI-Systemen in der Regel keine Quellen zitieren, was Ergebnisse nicht nachvollziehbar macht.
Aber man muss auch die Prämisse berücksichtigen, unter welcher der INVO.report diesen Beitrag erstellt hat. Es ging unter anderem darum, einer KI ihr Wissen über Vorchdorf zu entlocken. Und das Ergebnis war nicht befriedigend. Nicht mehr und nicht weniger.
Kann den Vorwurf des Herrn Kronsteiner auch nicht nachvollziehen. Finds
unterhaltsam und informativ, was da herausgekommem ist. Würds als interessantes Experiment sehen, ohne das gleich übermäßig zu bewerten und auseinanderzunehmen. Ich stimme zu, bei Artifical Intelligence wird sich in Zukunft noch viel tun, d. h., es wird sich viel weiterentwickeln. Das ganze ist ja erst im Aufbau, in der Testphase sozusagen.
Liebe Redaktion,
und das soll aus Eurer Sicht „seriöser Journalismus“ sein?
Anbei ein wenig Wissenswertes zu ChatGPT:
————————————————————————————–
Ausgangssituation und betrachtete Aspekte bei der aktuell gehypten ChatGPT
ChatGPT erfährt in den Medien und sozialen Netzwerken derzeit einen Hype. Aus technischer Sicht ist ChatGPT kaum innovativer als andere Modelle, nutzt aber größere Datenmengen als ähnliche Systeme.
Was ChatGPT interessant macht, ist, dass es durch das Dialogsystem eine niedrige Hürde hat, die AI auszuprobieren. Das bietet vielen Menschen die Möglichkeit, direkt zu erfahren, was diese AI „schon alles kann“ und löst damit sowohl Begeisterung als auch Ängste vor zukünftigen Entwicklungen aus.
Betrachtet man die Fähigkeiten von ChatGPT, darf man nicht aus den Augen verlieren, dass es sich zwar um ein mächtiges Sprachmodell handelt, welche formellen und informellen Text, der auf eine Zielgruppe zugeschnitten ist, liefern kann. Die Qualität der Inhalte unterliegt aber großen Schwankungen. Es ist ungeeignet, komplexe Aufgaben zu lösen oder im jetzigen Zustand als Recherchetool zu arbeiten. Die Gefahr besteht, dass man den Aussagen von ChatGPT unreflektiert glaubt, aufgrund der hohen sprachlichen Qualität und der Fähigkeit, „Verständnis“ für eine Problemstellung zu simulieren. Wirkliches „Verstehen“ ist aber nicht gegeben und ChatGPT ist noch weit von einer sogenannten Artificial General Intelligence (AGI) entfernt.
Der Output muss immer kritisch von Menschen geprüft werden, da ChatGPT auch zu fantasieren beginnt und Unsinn fabriziert. Des Weiteren muss man sich im Klaren sein, dass Copyright-Verletzungen schwer auszuschließen sind, da der Output von ChatGPT verwendete Quellen nicht zitiert.
Im Kontext von Nutzung in Unternehmen ist speziell auch darauf hinzuweisen, dass die User-Eingaben auch zum Training der Modelle verwendet werden und daher beim Testen der Möglichkeiten stets die Datenschutzklassifizierung, die es in Unternehmen gibt, der übermittelten Inhalt zu beachten sind.
Bei automatisiert generiertem SW-Code könnten Teile auch als Einschleustor von Fremd- und Schadcode genutzt werden.
—————————————————-
So in etwa hätte ich einen seriösen Bericht zu diesem Thema erwartet.
Das ist alles wohl richtig, setzt den kritiserten Artikel (unseriös!) aber nicht ins Unrecht. Auf der Startseite von ChatGPT heißt es: „Das Dialogformat ermöglicht es ChatGPT, Folgefragen zu beantworten, Fehler einzugestehen, falsche Voraussetzungen in Frage zu stellen und unangemessene Anfragen zurückzuweisen.“ Jetzt gibt es zwei Möglichkeiten: Unsere Fragen zu Vorchdorf waren unangemessen – dann hätte die Software sie zurückgewiesen. Oder sie hat Fehler gemacht – dann hätte sie sie eingestehen müssen. Das hat sie zwar pro forma getan, aber in Wirklichkeit doch eher herumgeeiert. Ich habe das privat mit Fragen zu mir selbst bzw. meiner beruflichen Tätigkeit auch schon erlebt.
Kurzum: Unseriös finde ich das nicht, was wir da probiert haben.