ChatGPT/ AI – und wie geht es jetzt weiter? mit Sören Etler

Nachdem wir in der letzten Folge ja schon appelliert hatten, dass ihr die aktuellen AI-Entwicklungen nicht verschlafen solltet, haben wir dieses Mal einen Fachmann zu Gast, der besser erklären kann, wie ChatGPT funktioniert, was der Unterschied zu Suchmaschinen ist, welche Aufgaben uns die Künstliche Intelligenz gern abnehmen darf – und wo wir skeptisch bleiben sollten. Sören Etler hat unter anderem Machine Learning studiert, ist aber auch in der Welt des Engagements und der Zivilgesellschaft zuhause. In dieser knappen Stunde bekommt ihr eine Antwort auf die wichtigsten Fragen rund um den aktuellen Stand von ChatGPT und Co.

Inhalt

00:14	Intro & Vorstellung Sören Etler
01:55	Was ist ChatGPT eigentlich?
09:37	Warum ChatGPT so wichtig ist
13:49	Es gibt ständig Änderungen
18:16	Die Limitierungen von ChatGPT
26:46	Wie sehr kann man ChatGPTs Antworten vertrauen?
32:21	Taugt ChatGPT für Recherchearbeit?
37:35	Wie findet Sören die AI-generierte Pressemitteilung aus der letzten Folge?
40:51	Ist die Skepsis vieler Menschen berechtigt?
47:12	Ideen, wie man ChatGPT einsetzen kann

Links

Erwähnter Content von uns:

Folge 166: Wie AI-Content die Öffentlichkeitsarbeit beeinflussen wird
Die AI-generierte Pressemitteilung im erzähl davon Blog

Mehr von Gast Sören Etler findet ihr auf LinkedIn und bei der Blaue Dächer Digitalwerkstatt

Workshop oder Beratung buchen

Braucht ihr Unterstützung bei eurer Öffentlichkeitsarbeit und Kommunikationsstrategie? Infos zu unseren Angeboten findet ihr hier: https://erzaehldavon.de/workshops-und-beratung/

Transkript:

00:00:14

Katrin von erzähl davon: Willkommen zurück im erzähl davon-Podcast, und nach der letzten Folge geht es hier heute schon wieder um das Thema AI-Tools. Dieses Mal bin ich aber nicht alleine, sondern habe einen Gast. Sören, hi, schön, dass du da bist. Stell dich bitte kurz vor und verrate uns, warum hast du was zum Thema AI oder KI zu sagen?

00:00:32
Sören: Hallo, schön, dass ich hier sein darf, und ich freue mich besonders natürlich bei diesem Thema, da es quasi das ist, mit dem ich mich schon länger beschäftige und was ich auch vom Studium her gemacht habe. Also mein Master habe ich mit Schwerpunkt Machine Learning und Sprachverarbeitung gemacht und beobachte dadurch diese Entwicklung schon etwas länger. Und nach deiner letzten Podcastfolge fand ich das spannend und habe gedacht, vielleicht habe ich da was zu beizutragen, und wir können darüber mal sprechen.

00:01:00
Katrin von erzähl davon: Sehr gut. Da bin ich total gespannt, denn meine letzte Folge war ja nicht unbedingt mit Fachkompetenz zu diesen Tools. Sondern, falls sie sie nicht gehört habt, die Kernaussage von meiner letzten Folge war quasi verschlaft nicht, was da gerade passiert, weil das eben die Kommunikationslandschaft, also Social Media und andere Kommunikationskanäle, sehr verändert. Und wenn ihr da jetzt sagt, da haben wir nichts mit zu tun oder das ist uns zu kompliziert, dann wird einfach diese Schere noch größer zwischen der Art und Weise, wie eben kleine gemeinnützige Vereine kommunizieren und wie eben andere größere Organisationen kommunizieren, und dann habt ihr es noch schwerer in der Social-Media-Welt. Das war so ein bisschen meine Kernaussage.

00:01:41
Sören: Eine sehr ehrliche Podcastfolge, die in das Gewissen von Vereinen redet, sich genau zu überlegen, was sie gerade auf Social Media anstellen.

00:01:49
Katrin von erzähl davon: Ja, das war das Ziel. Ich hoffe, sie ist so angekommen bei den Leuten, die sie gehört haben. Dann lass doch jetzt mal tiefer einsteigen, denn ich könnte jetzt nicht erklären, wie genau ChatGPT funktioniert und was das genau ist. Aber du kannst das, oder ich hoffe, dass du jetzt uns ein bisschen auch einen Einblick geben kannst, was genau wir von diesen Tools erwarten können und was nicht, welche Magie die leisten können und welche nicht, damit wir einfach das noch ein bisschen besser einschätzen können, was genau wir davon erwarten können, wie wir die nutzen können und was vielleicht auch keine guten Aufgaben sind für KI und Co.

00:02:26
Sören: Vielleicht nehme ich mir erst mal eine halbe Minute Zeit und ordne noch mal ein für alle, die von ChatGPT noch nie was gehört haben und sich schon in der letzten Podcastfolge gefragt haben, was dieses Ding eigentlich ist und was kann man mit diesem System machen. Also ganz einfach gesagt, jetzt von Anwenderperspektive: Wir haben eine Website, und es gibt da ein Eingabefeld, und dort kann ich Fragen, sogenannte Prompts reinschreiben und bekomme darauf Antworten. Das Besondere ist, es klingt jetzt erst mal so ein bisschen wie Googlesuche, aber ich kriege nicht eine Linkliste zurück oder Textbausteine von irgendwelchen Webseiten, sondern ich kriege einen neu geschriebenen Text, den es so vorher noch nie gab. Das heißt, dieses System kann in natürlicher, menschlicher Sprache mir Texte schreiben, mir Antworten auf meine Fragen formulieren. Das kann ganz vielfältig sein, von schreibe mir ein Gedicht bis einer ganz konkreten Frage: Wie kann ich das und das machen und gebe mir ein Tutorial dazu.

00:03:33
Sören: Und dieses System ist so im November letzten Jahres rausgekommen und hat erst mal alle fasziniert, weil es etwas konnte, was ja sonst vorher Menschen vorbehalten war, nämlich irgendwie mit menschlicher Sprache in einen natürlichen Weg umzugehen. Wenn ich hier von menschlicher Sprache oder natürlicher Sprache rede, dann heißt es Deutsch, Englisch, Französisch, Italienisch, was auch immer. Also, natürlich sind die Systeme, zumindest momentan meistens auf Englisch am besten, aber sie funktionieren auf allen Sprachen. Und das ist erst mal rein von Anwenderperspektive, wie das Ganze aussieht. Wenn wir jetzt gucken, was dahintersteckt, dann ist es natürlich viel komplexer. Aber ich versuche trotzdem, mal so eine kleine Einführung zu geben, und vielleicht fangen wir da am besten mit dem mit dem Namen an. Mit diesem ChatGPT, was ja auch total sperrig irgendwie klingt, und jetzt nicht wie ein neues fancy KI-Start-up oder so, sondern es ist auch eigentlich eher eine technische Abkürzung. Es geht dabei um generative, pre-trained transformers. Okay, fangen wir mit dem generative Part an, der ist am einfachsten zu erklären. Das ist genau das, was ich eben gesagt habe, das System generiert neue Sprache. Also Vergleich wäre hier extraktives Fragenbeantworten heißt einfach, ich gebe einen Textausschnitt aus einem bestehenden Text. Das ist dieses typische Snippet oben bei der Googlesuche. Ich habe was gesucht und bekommen von irgendeiner Website, da jetzt das Rezept angezeigt oder den Textausschnitt, wo markiert ist, was vielleicht die Antwort zu meiner Frage ist.

00:05:22
Katrin von erzähl davon: Genau. Wenn wir ein Beispiel nehmen, auch für diese Prompts, wenn ich früher zum Beispiel jetzt bei Google eingegeben hätte, wie backe ich einen Schokoladenkuchen, dann hätte ich ja einfach quasi Suchergebnisse von Google bekommen für irgendwelche Rezeptseiten oder chefkoch.de. Und dann irgendwann haben die angefangen, diese Snippets einzuführen, und dann müsste ich gar nicht jetzt erst klicken auf irgendeinem Blog, sondern dann bekam ich vielleicht direkt oben, direkt im Googlesuchergebnis so ein Snippet. Das wäre jetzt quasi dieses extraktive, ich nehme den Ausschnitt aus irgendeinem Ergebnis, wo Google denkt, das ist wahrscheinlich das beste Ergebnis, da wird jetzt hier die Frage, wie backe ich in Schokokuchen, beantwortet, und bei ChatGPT bekomme ich ja jetzt quasi für mich generiert die Antwort und nicht von irgendwas rausgenommen, sondern neu erstellt. Das ist jetzt der Unterschied, oder?

00:06:03
Sören: Genau, das heißt aber auch, die Frage kann viel detaillierter sein. Also ich kann nicht nur fragen, wie backe ich einen Schokokuchen, sondern ich kann jetzt fragen , wie backe ich einen Schokokuchen mit Pistazien? Auch wenn vorher noch niemand jemals ein Rezept im Internet veröffentlicht hätte, was Schokokuchen mit Pistazien beschreibt, könnte dieses System dann hergehen und überlegen – überlegen natürlich in Anführungsstrichen – wie so ein Rezept aussehen könnte, und nimmt dann ein Rezept vom Schokokuchen, packt die Pistazien noch mit rein und so weiter. Also es muss nicht schon existieren. Und das ist, glaube ich, der wichtigste Teil vom Wort. Aber wir haben ja noch zwei andere, die pre-trained transformer und die werden dann deutlich technischer.

00:06:52
Sören: Wenn wir über pre-trained reden, dann heißt das, wir haben hier ein Modell, was ein Grundverständnis von Sprache hat. Also es wurde auf Millionen, Milliarden, eigentlich auf dem gesamten Internet trainiert und hat dadurch gelernt, wie Wörter miteinander in Verbindung stehen, quasi. Und erst mal wurde es ohne speziellen Anwendungsfall trainiert. Das ist dieses prerained, das ist mit diesem pre-trained Teil gemeint. Das heißt, es kann dann für verschiedene Anwendungsfälle genutzt werden, wie jetzt bei ChatGPT, das wäre schon einer dieser Anwendungsfälle, dass es ein Chatanwendungsfall ist. Es könnte aber auch in einem anderen Anwendungsfall um die Klassifizierung von Texten gehen, also in gut geschriebener Text, schlechter Text oder in Blogpost und irgendwas anderes. Oder es könnte um die Skalierung von Text, ist es irgendwie positiv oder negativ zu einem bestimmten Thema? Also wir haben ein Grundsystem, was dann auf verschiedene Anwendungsfälle spezialisiert werden kann, wie jetzt zum Beispiel dieser Chatanwendungsfall.

00:08:04
Sören: Und dann kommt der transformer-Teil, und das erspare ich euch zum größten Teil. Also, es ist eine spezielle Technik der Sprachverarbeitung, die eigentlich hauptsächlich darauf basiert, dass wir Sprache nicht mehr sequenziell, also erstes Wort, zweites Wort, drittes Wort von links nach rechts einlesen, sondern alles gleichzeitig, und das war eine der größten Revolutionen in der Sprachverarbeitung. Bisschen ironisch, dass transformers ursprünglich von Google entwickelt wurden, also das war ein Durchbruch, den Google Research in der Sprachverarbeitung hatte, und dass jetzt aber Microsoft die sind, die mit dem Modell richtig aktiv sind und damit voranpreschen, jetzt mit dem ChatGPT. Also ein bisschen irony of history, dass es quasi dann zur Konkurrenz gewechselt ist. Aber Sprache in einem zu verarbeiten, um halt besser dieses komplexe Konstrukt verstehen zu können.

00:09:06
Sören: Weil man sonst immer das ganz menschliche Problem hatte, wenn man anfängt, den Text von Anfang an einzulesen, und am Ende hat das System vergessen, was am Anfang vom Text stand. Weil so viel zwischendurch schon an Eingaben passiert ist, dass es sehr schwer ist, sich das zu merken, quasi von Anfang bis Ende. Und deswegen jetzt die Herangehensweise, einfach alles gleichzeitig zu lesen. Und das ist so auf technischer Ebene eine ganz high level Beschreibung, wie dieses System funktioniert.

00:09:37
Sören: Und warum glaube ich, dass das wichtig ist. Also erst mal bin ich der Meinung, dass wir ein Grundverständnis von den Systemen haben sollten, die wir nutzen. Das ist so ein bisschen genauso wie jeder und jede ungefähr versteht, wie der Automotor funktioniert. Also ich meine jetzt nicht auf nem Detaillevel, was genau, sondern so ungefähr da ist Benzin, das kommt in den Motor, das wird komprimiert, da kommt die Zündkerze, Puff, und dann dehnt sichs aus, dreht sich, und das Auto fährt. Ungefähr auf dem Level sollten wir auch verstehen, wie diese Sprachmodelle und wie ChatGPT funktioniert. Weil nur wenn wir das wissen, können wir auch die die Risiken oder auch die Chancen, die damit verbunden sind, richtig einschätzen.

00:10:21
Katrin von erzähl davon: Was ich witzig finde, ist überall, wo jetzt so AI-Funktionen eingebaut werden, in irgendwelchen Tools, so was wie Notion, Canva und so, wird es gerne mit diesen magischen Sparkles, mit dem Sparkleemoji oder mit so einem Zauberstabemoji oder irgendwas so Magischen dargestellt. So nach dem Motto, it’s magic, man weiß gar nicht, wie das genau passiert, sondern das magische KI-Zauberpulver kommt und macht aus deinen Notizen einen geilen Text oder so was eine Art. Das finde ich witzig, dass das nicht gerade so durchsetzt als design choice, um das zu illustrieren.

00:10:58
Sören: Und ein Teil von dieser design choice ist auch Wahrheit. Also, ich kann dir zwar ein bisschen erklären, wie ChatGPT als System funktioniert, aber ich kann trotzdem nicht sagen, warum eine bestimmte Antwort da jetzt rauskommt. Warum, wenn du eine bestimmte Frage stellst, dieser Text, der da rauskommt, dann genauso ist. Also ganz einfach gesagt, es gibt ja keine Datenbank im Hintergrund oder kein WordPress, wo jemand jetzt reingehen kann und die Informationen umschreiben kann oder den Text umschreiben kann. Sondern es ist ja neu generierter Text, was ja auch bedeutet, ich hätte dazu letztens gerade eine Unterhaltung, da ging es um Öffnungszeiten von einem Museum. Und jetzt die Frage, wenn ich das ChatGPT nach den Öffnungszeiten zu meinem Museum frage und da kommen falsche Informationen zurück, kann ich dann irgendwo vereinfacht gesagt, kann ich da irgendwo anrufen und sagen –

00:11:58
Katrin von erzähl davon: Bitte aktualisieren. Wir öffnen erst um zehn.

00:12:01
Sören: Genaa. Also kann ich jetzt bei OpenAI anrufen und sagen, ihr habt da nen Fehler bei euch in ChatGPT, die Öffnungszeiten von unserem Museum sind anders. Und das geht halt nicht. Das ist technisch einfach nicht möglich. Da kann niemand reingehen in dieses Sprachmodell und irgendwas anpassen. Das ist in gewisser Form Magie und eine Blackbox. Da weiß niemand, was da genau drin ist und was das System von diesen großen Datenmengen gelernt hat. Was aber andersrum, was ich vielleicht jetzt als kleinen Tipp mitgeben kann, ist googlet oder ChatGPTed halt einfach mal – jetzt hab ich Google schon im metaphorischen Sinne verwendet – eure Organisation oder euch selbst und guckt, was ihr dann zurückbekommt. Weil trotzdem ihrs nicht direkt ändern könnt oder es nicht anpassen könnt, spiegelt es ja trotzdem wieder, was es für Informationen im Internet zu euch gibt. Also, das System ist halt auf dem Internet in Anführungsstrichen unter vielen zugänglichen Texten trainiert. Das heißt, wenn da jetzt was rauskommt, was ihr so nicht über euch sagen würdet oder wie ihr eure Organisation, was ihr macht, anders beschreiben würdet, dann liegt das vielleicht nicht nur daran, dass ChatGPT doof ist, sondern liegt auch daran, dass die Informationen vielleicht auf eurer Website nicht in der Form aufbereitet sind oder nicht so dort stehen, wie ihr es gerne hättet. Also vielleicht kann das ein guter Anstoß sein, dann mal genau solche Informationen zu aktualisieren. Und dann also zu gucken, ist das, was wir in ChatGPT wiederfinden, auch das, wie wir uns selber darstellen würden, und so weiter?

00:13:49
Katrin von erzähl davon: Es hieß jetzt die ganze Zeit, dass quasi ChatGPT ja auf dem Stand von, ich glaube, 2021 ist, von diesen Trainingsdaten her und einem jetzt deswegen keine Informationen dazu geben kann zu Dingen, die jetzt erst vor ein paar Wochen passiert sind oder so, weil der die nicht hat. Aber jetzt, und damit daten wir jetzt diese Podcastfolge, die wird jetzt in wenigen Wochen schon wieder nicht aktuell sein, aber jetzt gerade heißt es ja, dass es jetzt Plug-ins gibt, geben wird – ich weißt nicht, was da der aktuelle Stand ist – mit denen ChatGPT dann wiederum auch quasi eine Internetverbindung hat, und dann könnte ChatGPT quasi auch auf das aktuelle Netz zugreifen und diese aktuelleren Informationen finden. Kannst du dazu was sagen?

00:14:27
Sören: Also, erst mal sind die Entwicklung momentan super rasant.

00:14:31
Katrin von erzähl davon: Morgen wird es schon nicht mehr aktuell sein, was wir heute besprechen.

00:14:35
Sören: Es gibt jede Woche irgendwie neue Informationen, zum einen, was die Technologie angeht, und zum anderen, was natürlich die Anwendungsfälle und verschiedenste Webseiten angeht. Aber Grundproblem ist, ein solches Sprachmodell zu trainieren, ist wahnsinnig teuer. Also, wir reden hier von Größenordnungen, es kann einfach nur eine Handvoll Unternehmen auf der Welt geben, die solche Sprachmodelle trainieren kann, einfach weil es wahnsinnig teuer ist. Das war auch genau der Grund, warum OpenAI was ja am Anfang wirklich als offenes und gemeinnütziges Unternehmen gestartet ist, dann irgendwann quasi eingestehen musste, wir brauchen industry partner, haben sie es genannt, also, wir brauchen irgendein großes Technologieunternehmen, was uns die Rechenressourcen zur Verfügung stellt, um solche Projekte vorantreiben zu können. Und da sind sie ja quasi mit Microsoft dann zusammengekommen.

00:15:37
Sören: Und wenn wir jetzt aber jeden Tag dieses Sprachmodell neu trainieren würden, dann würde es ja noch viel mehr Geld und Ressourcen verbrauchen, auch Stromverbrauch, CO2-Fußabdruck, ganz anderes Thema. Das heißt, das System wurde einmal trainiert, 2021 auf so einen Datensatz, der quasi dann zusammengestellt wurde, und es finden momentan wahnsinnig viele Ansätze statt, wie wir das jetzt in Zukunft verfeinern können. Also das ist wieder dieses pre-trained . Wir haben jetzt dieses vortrainierte Modell, aber wir können das noch im sogenannten fine tuning noch mal uns verfeinern, genauer anpassen, noch einen speziellen Datensatz dazunehmen und sagen, bitte lerne auch noch mal die Sprache in diesem Datensatz. Und da gibt es verschiedene Ansätze. Also einmal können wir natürlich uns einen tagesaktuellen Datensatz dazunehmen und darauf das Ganze anpassen. Oder das ist eher dieser Plug-in-Ansatz, wir lassen einfach andere Leute so bestimmte Funktionalitäten hinzufügen. Vielleicht kann man das am einfachsten vergleichen mit so einem Alexa Skill oder mit ner App, die zusätzlich installiert wird. Dass wir sagen, na ja, wir als OpenAI machen das nicht selber, sondern wir lassen halt Andere jetzt Funktionalitäten hinzufügen, wo sie sagen, das wäre doch was, was hier so ein ChatGPT auch können sollte, auch beantworten sollte und diese Funktion fügen wir hinein.

00:17:21
Sören: Also zum Beispiel jetzt, wenn ich ChatGPT in seiner rohen Struktur fragen würde, wie teuer ist ein Flugticket am Datum, nach Ort, dann kann mir das System das natürlich nicht beantworten, weil es ja diese Informationen gar nicht hat. Es ist ja ein Sprachmodell, was auf alten Sprachdaten trainiert wurde. Also klar versteht es – wieder in Anführungsstrichen, ist natürlich eine Maschine – was es bedeutet: Preis vom Flugticket und so weiter. Aber diese Informationen sind ja gar nicht zugänglich, um es irgendwie zu berechnen. Und das ist wo diese Plug-ins dann ins Spiel kommen, dass quasi zusätzliche Informationen dann mit eingebunden werden. Dass das System quasi weiß, aha, jetzt ist gerade der Zeitpunkt, wo ich Information „Flugpreise“ brauche, deswegen kann ich jetzt das Plug-in benutzen, was mir die Flugpreise geben kann.

00:18:16
Katrin von erzähl davon: Das heißt, wenn ich sage, wie backt man den Schokoladenkuchen, kann ChatGPT mir da helfen, wenn ich sage, wie sind die Öffnungszeiten von Bäckerei Müller, weil mein Schokoladenkuchen ist in die Hose gegangen, ich will jetzt doch lieber ein bei der Bäckerei kaufen, dann wäre das, wenn es dann eben diese Anbindung nach Außen hat, wäre das dann gegebenenfalls ein Fall, wo diese Info jetzt aktuell irgendwo abgerufen werden kann, aus irgendeiner Datenbank, aus irgendeiner der Ressource? Aber grundsätzlich wäre das jetzt erst mal einen Fall, wo Google besser ist als ChatGPT, oder? Wenn ich jetzt sagen will, was sind die Öffnungszeiten von der Bäckerei oder vom Museum, oder was ist die Telefonnummer vom Verein XY?

00:18:53
Sören: Das ist im Moment etwas, wo ChatGPT wahnsinnige Probleme mit hat. Also gerade in der kostenlosen Version. Also bei ChatGPT gibt es einmal die kostenlose Version und dann eine Version, wo man extra bezahlen kann. Dafür bekommt man eine höhere Verfügbarkeit und ein besseres Sprachmodell. Also bekommt man nicht mehr die 3.5 Version, sondern die 4 Version von dem GPT-Sprachmodell. Und besonders in dieser 3.5 Version ist es so, dass das System wahnsinnige Probleme mit diesen Fakten hat. Weil es halt nur Sprachverständnis gelernt hat und quasi gelernt hat in den ganzen Sprachdaten: Aha! Es wird nach den Öffnungszeiten gefragt. Ein typischer Satz, um auf die Frage nach Öffnungszeiten zu antworten, ist quasi: Unsere Öffnungszeiten sind montags und freitags von neun bis 16 Uhr. Ob jetzt zu diesem speziellen Ort diese speziellen Öffnungszeiten passen, das sei mal dahingestellt. Das ist dann das, wo das Sprachmodell nicht mehr ausreicht. Da neigen solche Sprachmodelle dazu, man nennt das in der Fachsprache Halluzinieren, also sich einfach Sachen auszudenken. Weil es wahnsinnig schwer ist, diesen Modellen beizubringen zu sagen, das weiß ich nicht, oder das verstehe ich nicht.

00:20:12
Katrin von erzähl davon: Haben die ein Egoproblem, können die nicht zugeben, dass sie es nicht wissen?

00:20:15
Sören: Sie haben so ein gewisses Bullshitter-Problem. Also, es ist so ein bisschen dieses man wird in der Schule nach einer Zusammenfassung vom Buch gefragt oder nach der Hausaufgabe gefragt, man will aber nicht zugeben, dass man die Hausaufgabe nicht gemacht hat. Man hat aber allgemein so viel gelesen, ich mein, man hat alle Texte, die es im Internet gibt, gelesen, also allgemein so viel Verständnis, wie Sprache funktioniert, dass man einfach sich irgendwas ausdenken kann und das plausibel klingt, aber überhaupt nicht der Wahrheit entspricht.

00:20:46
Katrin von erzähl davon: So habe ich eine Note zwei im Philosophieunterricht bekommen in der Oberstufe, obwohl ich die Texte nicht verstanden hab. Ich konnte aber gut formulieren und konnte meine Lehrerin weismachen, ich hätte sie verstanden und könnte sie zusammenfassen. War nicht der Fall.

00:21:00
Sören: Ich habe in der in der Oberstufe kein einziges Deutschbuch gelesen, und jetzt organisiere ich zwei Buchclubs. Also sieht man, was daraus wird.

00:21:11
Katrin von erzähl davon: Das ist wahrscheinlich dann auch der Grund, ich habe viel gelesen von Leuten, also Twitter und so von Leuten, die halt mit ChatGPT rumexperimentieren, die sowohl erstaunt waren über die Ergebnisse, aber teilweise auch gesagt haben, na ja das hier sind Fehlinformationen und teilweise so Logikfehlinformationen. Also irgendwie so was wie, welcher ist der größte Basketballspieler? Und dann kamen irgendwelche Infos raus, und dann aber der, und der ist größer, weil der 5“7 und der… Aber so rein von der Logik her war das falsch. Es war aber einfach sehr überzeugend formuliert. Wenn man nicht mitgedacht hätte, hätte man gesagt, alles klar, das ist der größte Basketballspieler, aber es war halt falsch. Geht das auch in diese Halluzinationsrichtung, oder ist das noch mal was anderes?

00:21:52
Sören: Genau darum geht es. Wenn ich jetzt frage, welche Säugetiere legen Eier, dann gibt es eine gute Chance, dass mir ChatGPT dann irgendwelche Tiere vorschlägt, wo wir alle wissen, dass Säugetiere nicht die Eierlegenden sind. Das ist genau dieses Plausibilitätsding, und immer einzuordnen, die Systeme können nicht rechnen. Also, wir haben quasi über Jahrzehnte, haben wir in unserem Verständnis drin, Computer sind die, die gut rechnen können, und alles Kreative, das braucht den Menschen. Und das bricht gerade so ein bisschen zusammen, weil wir ein System haben, was gut kreativ arbeiten kann. Also was mir Gedichte schreiben kann, was auch immer, was aber nicht rechnen kann, also was verlernt hat, genau und präzise zu rechnen.

00:22:45
Katrin von erzähl davon: Ich fühle mich sehr gesehen in den Sprachmodellen. Ich kann auch nicht rechnen, aber kann gut formulieren und kreativ sein.

00:22:53
Sören: Und das Ergebnis klingt dann zwar plausibel, muss aber mit der Wahrheit nichts zu tun haben. Und um genau dem entgegenzuwirken und diese präzisen Informationen dann wieder mit einzuführen, dass es genau der Gedanke hinter diesen Plug-ins. Das ist auch, worum sich die Forschung gerade hauptsächlich dreht, ist, wie kriegen wir diesen Systemen trotzdem irgendwie Faktenwissen beigebracht? Und das spiegelt ja noch eine viel größere Dimension wieder, also, was sind denn überhaupt Fakten? Was sollen solche Systeme beantworten? Was sollen sie nicht beantworten? Wie spiegeln die Systeme unsere Weltansicht wieder oder die Weltansicht von denen, die sie entwickelt haben? Welche blinden Flecken ergeben sich dadurch? Eine eine Sache, zum Beispiel sehr prominent: Jede Ausgabe von ChatGPT läuft durch einen gewissen Content Filter, das ist so ein Filter, den sie entwickelt haben, uns quasi zu überprüfen, ob das okay ist, darüber zu sprechen, und wenn das nicht okay ist, dann sagt ChatGPT halt, ich würde eher ungern über dieses Thema sprechen oder lass uns das Thema wechseln, was auch immer.

00:24:07
Katrin von erzähl davon: Also wenn ich jetzt sage, bitte plan mir den perfekten Bankraub oder so was, dann würde der nicht sagen, alles klar. Schritt eins: besorgt in der Sturmhaube, Schritt zwei: …

00:24:14
Sören: Genau, sondern dann würde ChatGPT im Idealfall diese Moderationschnittstelle dazwischen gehen und sagen, ne, dazu antwortest du besser nicht. Jetzt ist es ja aber so, dass auch diese Schnittstellen momentan in keinster Weise perfekt ist. Also, wir sind gerade in einem Stadium, wo das ganze Alpha oder Beta Phase höchstens ist, wo sich noch viel entwickelt und es ist noch viele Fortschritte geben wird. Diese Filterung spiegelt natürlich irgendeine Weltsicht wieder, die von bestimmten Menschen irgendwo geprägt wurde. Also ein Beispiel, was es auch in der Presse gab, da wurde ChatGPT von Menschen zu verschiedenen Religionen gefragt und wurde jeweils damit beauftragt, Witze über die religiösen Götter und Figuren in dieser Religion zu erzählen. Bei den allermeisten Religionen hat ChatGPT dann zurückgegeben, ich mache keine Witze über religiöse Figuren, weil das halt nicht moralisch vertretbar ist, nur beim Hinduismus nicht. Das war einfach ein blinder Fleck. Das wurde jetzt auch gefixt, und das Problem sollte so nicht mehr auftreten. Aber wir sehen, dass da halt im Moment noch unheimlich viel Bewegung drin ist, was aber auch für Themen rund um Rassismus zum Beispiel relevant sein kann. Wenn jetzt das System immer wieder filtert und sagt, ich möchte nicht über Thema Rassismus oder über Schwarze Communitys und so weiter sprechen, weil das könnte ja potenziell rassistische Inhalte beinhalten, dann werden die natürlich aus den Ergebnissen ausgefiltert, und das Ergebnis wird quasi verwaschene Mehrheitsmeinung. Und das kann genau so eine so eine Fragestellung sein, wie wir ethisch damit umgehen wollen, und das wird sich in den in den nächsten Monaten und Jahren noch unheimlich weiterentwickeln. Im Moment ist es ja one size fits all also, die ganze Welt kriegt das gleiche Sprachmodell ausgespielt, was ist ja schon kulturell zu Unterschieden führen kann. Also, wo es einfach in einem Kulturkreis okay ist, darüber zu sprechen, im anderen nicht oder wie auch immer, und da wird sich noch einiges tun.

00:26:46
Katrin von erzähl davon: Vielleicht eine ketzerische, vielleicht naive Frage, wie sehr können wir denn dem Ergebnis vertrauen, wenn ich da jetzt bei ChatGPT irgendwas frage und der mir eine Antwort ausguckt?

00:26:56
Sören: Im einfachsten Fall null. Im komplexeren Fall… Ich hatte dazu ein Gespräch mit einer Mitarbeiterin aus einem Pharmaunternehmen, die zu mir sagte, na ja, ich bin bei dem Thema noch etwas skeptisch, aber ich bin auch bei Wikipedia skeptisch. Also, wenn es natürlich darum geht, irgendwelche Medikamente zusammen zu mischen und Wirkstoffe und was auch immer, die für Zusammenwirken Nebenwirkungen haben und was auch immer, ja, dann verlasse ich mich auch nicht auf Wikipedia. Dann gibt es Fachliteratur, und genauso kann ich mich auf ChatGPT nicht verlassen. Ich glaube, momentanes Stadium ist einfach: kreative Aufgaben, super ausprobieren, aber auf Faktenwissen lieber nicht verlassen. Also, es gibt auch Beispiele, wo es dann darum geht, nenne mir die drei besten Smartphones momentan, und dann ist man natürlich verleitet zu sagen, na ja, das kommt ja vom System, das muss jetzt ja die objektive Meinung sein, was momentan die besten Smartphones sind. Aber andersrum haben dann auch einige Tech-YouTuber gesagt, als das System nach den drei besten Elektroautos und so weiter gefragt wurde, na ja, ich kenne niemanden, der diese Rangliste so schreiben würde, sondern es ist halt dann etwas Ausgedachtes. Also, wir sollten im Moment vorsichtig damit sein zu sagen, das ist jetzt die objektive Wahrheit, die uns ChatGPT da rausgibt, sondern es ist halt ein System, aber trotzdem irgendwie subjektiv, wenn das Sinn macht.

00:28:31
Katrin von erzähl davon: Im Moment bauen ja verschiedene Suchmaschinen auch diese Tools in die Suchfunktion mit ein, also Bing war da jetzt, glaub ich, sehr schnell am Start. Ich habe jetzt die Tage die Mail bekommen, irgendwie, ich könnte das jetzt testen und hab mich nie angemeldet für irgendeine Warteliste. Aber, okay, danke Microsoft, dass ich dann die Benachrichtigung bekommen habe. Ist das irgendwie der Versuch, das so zu kombinieren, also irgendwie zu sagen: Okay, manche Sachen kann ChatGPT gut, manche Sachen können die klassischen Suchmaschinen gut – mischen wir die mal zusammen, und dann kommt ein besseres Ergebnis daraus, oder was ist da die Überlegung dahinter?

00:29:04
Sören: Also, zum einen ist es natürlich eine technische Überlegung. Zum anderen ist das aber auch natürlich jetzt Microsoft, größter Anteilseigner an OpenAI, den Entwicklern von ChatGPT, quasi die den direkten Zugang haben, diese Sprachmodelle in seine Produkte zu integrieren. Und jetzt das erste Mal, ich würde sagen, seit Jahrzehnten die Chance besteht, Googles Vormachtstellung auf dem Suchmarkt in gewisser Weise zu zerstören. Also deswegen reagiert Google auch in gewisser Weise momentan panisch auf dieses Thema und versucht, irgendwas zusammenzuschustern und auch in die Produkte einzubauen. Also ich bin sicher, die haben auch wahnsinnig gute Sprachmodelle, auch schon super Entwicklung, aber versucht das jetzt so irgendwie schnell zu integrieren, weil das gerade etwas ist, wo Microsoft massiv versucht, in den Markt der Suchmaschinen stärker einzudringen. Also Bing haben sie ja schon lange, hat niemand drüber geredet. Im Moment ist das ein großer Wachstumsmarkt für die.

00:30:03
Sören: Aber das wird natürlich das Konzept von Suchmaschinen langfristig verändern. Weil momentan, und das hat dann auch wieder Auswirkungen auf uns als Vereine, als Organisation, die irgendwo eine Website betreiben. Weil momentan ist es ja so, ich gebe das bei Google ein, bekomme ne Liste an Links und klicke dann auf den ersten Link drauf und kommen auf die Vereinswebseite und lese mir dadurch, was los ist. Wenn jetzt aber der Großteil des Traffics gar nicht mehr auf meine Website kommt, sondern einfach nur eingibt, wann es die nächste Veranstaltung von Verein XY, wie kann ich für Verein XY spenden und diese Anfragen gar nicht mehr über die Website laufen, dann verändert das natürlich auch was, quasi wie wir die Website konzipieren und denken müssen. Also, wir müssen dann vielleicht überlegen, gibt es vielleicht Inhalte auf der Website, die so für die Website gar nicht so relevant wären, aber die für eine Maschine, wenn sie die Website liest, die dann besser die Fragen beantworten kann. Also vielleicht würden wir sonst gar nicht auf die Webseite schreiben, wie kannst du jetzt für uns spenden, weil wir wissen, unten steht die IBAN drin oder hier ist da schon der betterplace-Link auf der Webseite, sondern aber jetzt sollten wir es noch mal extra explizit, vielleicht als FAQ oder was auch immer, reinschreiben, damit dann solche Sprachmodelle auf diese Informationen einfach aufgreifen können und schon geneigt sind, sie direkt zurückzugeben.

00:31:37
Katrin von erzähl davon: Also quasi so, wie man sich die letzten Jahre Gedanken gemacht hat über Suchmaschinenoptimierung, wie kann ich meine Webseite so gestalten, dass Google und Co die gut crawlen können und dann hoffentlich auf der ersten Seite ausspucken? Wird man sich in Zukunft quasi Gedanken machen, wie kann ich die Webseite so erstellen, dass sie dann gut von solchen Sprachmodellen verstanden wird und genutzt wird, was ich da schreibe, damit die ihre Antwort daraus generieren, richtig?

00:32:00
Sören: Genau richtig. Es gibt sogar einige Menschen, die jetzt so weit gehen und sagen, wir werden eine Entwicklung hin zu zwei getrennten Internets quasi erleben. Also zu einem menschlichen Internet und einem Maschineninternet. So weit würde ich jetzt nicht gehen, aber genau einer der Punkte.

00:32:22
Katrin von erzähl davon: Wir haben eine Frage auch bekommen, als ich angekündigt habe, dass wir diesen Podcast mit dir machen, und da war die Frage quasi, inwieweit man ChatGPT zur Recherche nutzen kann. Denn das klingt ja jetzt total verlockend, wenn ich eine Frage habe, dass ich die nicht mehr einfach nur in Google eintippe und mich dann selber von Link zu Link hangeln muss, um mir das rauszusuchen, was ich da jetzt wissen möchte, sondern einfach quasi meine Frage an ChatGPT reinzuwerfen und zu gucken, was da rauskommt. Wie verlässlich sind denn diese Rechercheergebnisse und vor allem kann ich dann irgendwie sehen, was da jetzt genau die Quelle war, wo jetzt dieses Ergebnis herkommt?

00:32:56
Sören: Es hängt natürlich sehr stark davon ab, was recherchiert wird. Gerne ausprobieren, also ich meine, schadet nichts, die Sachen da einfach mal einzugeben. Wenn es jetzt aber zum zur Recherche, zum Beispiel zu wissenschaftlichen Themen geht, dann neigt ChatGPT dazu, sich auch irgendwelche Publikationen und so weiter auszudenken. Nichtsdestotrotz auch wieder da, es gibt wahnsinnig viele Entwicklung. Wenn man jetzt zum Beispiel das System hinter Bing benutzt, also Bing Chat, dann kann man da schon viel genauer sehen, wo einzelne Informationen herkommen, bekommt da teilweise noch Links dazu angezeigt und so weiter. Es wird sich wahnsinnig viel in dem Bereich tun. Momentan, glaube ich, Recherche, gerne mal eingeben und ein bisschen inspirieren lassen, aber eher für diesen Inspirationsteil und für diesen Brainstormingteil nutzen. Also, ich finde ChatGPT ist wahnsinnig gut darin so ein Sparring Partner fürs Brainstorming zu sein. Also einfach mal, spuck mir Ideen aus, wie könnte ein Format ein heißen, was sich mit dem und dem Thema beschäftigt? Welche Inhalte wären spannend? Welche Fragen sollte ich unbedingt auf meinem Flyer beantworten? Was auch immer, und davon ist dann zwar die Hälfte Müll, die mir das System rausgibt, aber die andere Hälfte ist immer noch gut und weißt mich vielleicht auf blinde Flecken hin.

00:34:24
Katrin von erzähl davon: Und das sind dann wieder hier die Antworten, wo ich selber sehen kann, ob das Quatsch ist oder nicht. Also, wenn ich zum Beispiel sage, gib mir zehn Titelvorschläge, wie ich meine Veranstaltung nennen kann, dann sehe ich ja sofort, das ist cool, und das hier macht keinen Sinn. Während wenn ich sage, wie funktioniert XY, wie backe ich ein Schokoladenkuchen, dann kann ich im Zweifelsfall nicht genau sagen, ob das jetzt stimmt oder nicht, ob man – was hattest du vorhin gesagt? Wenn dann eben gesteht, Pistazien sollten nicht über 200 Grad erhitzt werden oder so was, dann weiß ich ja im Zweifelsfall nicht, ob das jetzt eine richtige Information ist oder nicht, sondern vielleicht klingt es nur gut, es war aber jetzt wieder nur so eine Halluzination quasi.

00:35:04
Sören: Ja, auf der anderen Seite wissen wir bei Googlesuchergebnissen auch nicht, ob die Informationen nicht stimmen, wenn wir da auch für irgendeine Seite XY weitergeleitet werden, wo irgendjemand von irgendwo irgendwas geschrieben hat. Also diese Sicherheit haben wir natürlich im Internet nie, dass eine Sache zu 100 Prozent stimmt. Ich würde einfach nur vorschlagen, probiert es aus, lasst euch inspirieren, lasst euch mal so ein bisschen treiben und einfach versucht, mal verschiedene Sachen einzugeben, und dann kann das in verschiedene Richtungen gehen, und ihr bekommt eigentlich relativ schnell ein Gespür dafür, wofür das System geeignet ist und wofür es nicht passt. Vielleicht eine Sache dazu, wenn ihr jetzt auf Social Media seht, dass natürlich alle jetzt irgendwelche ChatGPT-Posts haben, entweder wollen sie damit zeigen, das hat super Ergebnisse geliefert, und dann waren das perfekte Social-Media-Posts, die da ChatGPT rausgegeben hat. Oder sie wollen damit zeigen, das funktioniert überhaupt nicht, und das geht gar nicht, kann überhaupt nichts sinnvolles ausgeben. In der Maschine Learning Forschung redet man da gerne vom cherry picking. Also natürlich ist in der Auswahl von den Ergebnissen, die veröffentlicht werden, noch eine menschliche Selektion drin.

00:36:32
Sören: Ich lasse mir zehn Themenvorschläge ausgeben, wie man künstliche Intelligenz in Vereinen nutzen kann. Vielleicht finde ich fünf davon super, schreibe dazu ein Social-Media-Post und sage, das Thema heute hat mir übrigens ChatGPT gegeben. Und alle, die das sehen, denken sich: Wow, ChatGPT hat ja hier fünf faszinierende Vorschläge, wie man künstliche Intelligenz in Vereinen nutzen kann. Was ich dann aber nicht zeige, ist, dass fünf andere Vorschläge kompletter Müll waren, die ich überhaupt nicht genutzt habe. Also so ein bisschen auch solche Beiträge grain of salt zu nehmen. Da hat jemand sich halt hingesetzt und den Prompt solange verändert, bis das Ergebnis gepasst hat.

00:37:17
Katrin von erzähl davon: Und das heißt nicht, dass ich es für mich eins zu eins replizieren kann, dass ich dann auch ein gutes Ergebnis für meine Frage oder meinen Anwendungsfall habe.

00:37:23
Sören: Genau! Und das heißt auch nicht, dass das gerade jetzt eine Superintelligenz ist, die alle Fragen beantworten kann. Nur in dem Anwendungsfall hat das halt gut funktioniert.

00:37:34
Katrin von erzähl davon: Ich habe ja so was in der letzten Folge auch gemacht und hab dort eine Pressemitteilung generieren lassen. Wie fandest du die denn, Sören? Ich hab ja doch für einen Tierschutzverein mal eine Pressemitteilung zum Tierheimfest schreiben lassen. Was sagst du denn dazu, fandest du die gut?

00:37:53
Sören: Ich glaube, das ist ein wahnsinnig guter Anwendungsfall, um sich so einen ersten Entwurf schreiben zu lassen, um nicht mit einem leeren Blatt zu starten, sondern irgendwie loslegen können, gibt mir Ideen, schreiben mir einen Entwurf für eine Pressemitteilung, schreibe mir einen Entwurf für einen Social-Media-Post zum Thema XY. Natürlich muss man dann also noch weiter definieren, um was es gerade geht und was man in der Pressemitteilung haben möchte. Also, ich habe zum Beispiel auch geschrieben, schreibe einen LinkedIn-Post zum Thema künstliche Intelligenz in Vereinen mit einer persönlichen Geschichte von mir. Da war dann irgendwie die Geschichte, dass ich als Trainer in einem Sportverein wahnsinnig fasziniert bin, wie ich künstliche Intelligenz dazu nutzen kann, damit meine Sportlerinnen und Sportler, die ich trainiere, noch besser werden.

00:38:44
Katrin von erzähl davon: Wusste ich gar nicht, dass du im Sportverein bist, Sören.

00:38:47
Sören: Also, ich wusste es auch nicht bis dahin. Aber das meine ich damit, da muss natürlich viel noch dahinter also geschrieben werden, viele Informationen müssen natürlich gegeben werden, sonst kann das System nicht sinnvolles ausgeben. Bei so ner Pressemitteilung, ich glaube, du hast gesagt, dass Vereine sonst gerne drei Stunden damit verbringen, diese Pressemitteilung zu schreiben. Ich habe das Gefühl, das ist noch eine sehr optimistische Schätzung, weil es ja dann doch irgendwie sehr viele Dynamiken gibt, noch mal abgezeichnet werden muss, dass das auch so passt und dann gibt es einige, die sich an bestimmten Formulierungen aufhängen und so weiter. Aber wenn uns ChatGPT dabei hilft, diesen ersten Entwurf zu schreiben, und wir dann nur noch ein bisschen anpassen, sagen, die Formulierung passt nicht, ich würde eher das schreiben, dann haben wir einen Entwurf, über den wir sprechen können, über den wir direkt diskutieren können und ChatGPT hat uns das in 30 Sekunden geschrieben. Dann geht der Prozess natürlich viel, viel schneller.

00:39:49
Sören: Und gerade diese ersten Entwürfe, lasst euch da mal was ausgeben, probiert es aus, ihr werdet ziemlich schnell merken, was geht und was nicht geht. Ich fand es da in dem Zusammenhang auch ganz spannend, dass der Gründer von OpenAI hat in einem Interview gesagt, dass ChatGPT im ersten Einsatz beeindruckend ist, aber in den folgenden Einsätzen schon gar nicht mehr so. Was ich irgendwie ein bisschen skurril finde. Das ist so ein bisschen, als würde sich Tim Cook hinstellen und sagen, das neue iPhone sieht jetzt zwar super aus, und beim ersten Anwenden fühlt sich auch super an, aber nach einer Woche werdet ihr gar nicht mehr so begeistert sein. Aber ich glaube, es braucht ein bisschen Zeit, um da ein Gespür zu bekommen und dann zu merken, was man nutzen kann und was man eher nicht so nutzen sollte. Und manche Texte klingen halt etwas hölzern, und da fehlt dieser menschliche Touch drin. Aber genau dafür sind wir ja da, um den dann wieder hinzufügen zu können.

00:40:50
Katrin von erzähl davon: Stichwort menschlicher Touch, ich kann mir vorstellen, dass vielleicht viele von Anfang an mit einer skeptisch ablehnenden Haltung darangehen und sagen, das passt nicht zu uns, wir sind doch hier ein sozialer Verein, wir machen doch hier irgendwie dieses und jenes, wir wollen nicht, dass ein Computer, eine magische Blackbox, unsere Texte schreibt, das ist nichts für uns. Und dann kommt natürlich noch, was ist mit Datenschutz, was ist mit Lizenzen, können wir den Text einfach so benutzen, und kann das passieren, dass das dann ein Plagiat ist, weil jemand den gleichen Prompt geschrieben hat und die gleiche Antwort bekommen hat? Was sagst du denn zu solchen häufigen Bedenken, die man dazu hört?

00:41:30
Sören: Vielleicht ist es ein generelles Thema in der Zivilgesellschaft mit Vereinen. Natürlich sind wir wahnsinnig gut darin, irgendwelche Bedenken zu äußern, und haben natürlich auch sehr hohe moralische Ansprüche an uns und unsere Arbeit, was ja auch zum Teil vollkommen legitim und richtig ist. Nur, wir sollten uns bewusst sein, was das Ganze für Auswirkungen hat. Also egal, ob wir ChatGPT nutzen oder was auch jetzt immer für ein anderes System oder nicht, es wird Leute geben, die es nutzen. Egal, ob wir es jetzt gut finden, einen Account auf TikTok zu machen oder es nicht zu machen, es wird Leute geben, die den Account machen und da ihre Inhalte verbreiten. Wenn wir dieses Spiel spielen wollen, dann müssen wir nach den Regeln von diesem Spiel – also sonst führen wir eine ganz andere Diskussion, dass wir irgendwie die Weltordnung oder System verändern wollen. Und ich glaube, dass es als Zivilgesellschaft uns guttut, uns mit einzubringen und das Ganze konstruktiv zu begleiten und auch zu nutzen und nicht irgendwie passiv meckernd an der Seitenlinie zu stehen und zu sagen, dass es ja alles doof ist und dass jetzt irgendwie KI-Systeme Texte schreiben, und das ist ja gar nicht mehr die Sprache, die wir nutzen, und so weiter, sondern lass uns damit beschäftigen und dann fundiert darüber einen Diskurs führen. Ich halte von der einen wie von der anderen Richtung nichts, zum einen das zu verteufeln und zu sagen, die KI wird uns alle Jobs wegnehmen, und wir sollten das auf gar keinen Fall machen, und auf der anderen Seite irgendwie, das ist jetzt die Wunderwaffe, und das kann ja alles, wir können uns irgendwie die ganze Arbeit abnehmen lassen. Sondern es braucht irgendwie so einen konstruktiven Umgang mit diesem Thema, und das sollten wir auch als Vereine begleiten und das einfach mit ausprobieren. Das heißt nicht, dass wir das für alle Texte nutzen sollen, sondern es heißt einfach, dass wir gucken, wie es zu uns passt, und wissen, was da passiert.

00:43:47
Sören: Weil das einen sehr großen Einfluss auch auf unsere Arbeit haben wird. Also, wir haben jetzt viel über Anwendungsfälle quasi um unsere Arbeit drum herum gesprochen, also Pressemitteilung, Social Media, was auch immer, aber es kann ja auch Auswirkungen auf das konkrete haben, was wir tun. Ich organisiere einen Buchclub, es kann auch im Buchclub eingesetzt werden, um quasi mit der KI zu diskutieren zu bestimmten Themen oder sich bestimmte Zusammenfassungen zu einzelnen Kapiteln mal geben zu lassen und dann zu besprechen, ob die Zusammenfassen so eigentlich das ist, was auch wir aus diesem Kapitel rausgelesen haben. Also, wir können es ja sowohl um unsere Arbeit herum einsetzen, aber auch damit experimentieren, wie es in unserer Arbeit Sinn machen kann in dem konkreten Themenfeld, wo wir dann gerade unterwegs sind. Also was heißt ich, wir sind irgendwie eine Band, die immer mal wieder irgendwo auftritt und Musik macht, vielleicht probieren wir mal aus, damit uns einen Text für ein nächstes Lied schreiben zu lassen, oder wenn es nur eine Strophe ist, wo wir sagen, das ist die KI-Strophe bei uns oder was auch immer, einfach mal ein bisschen rumprobieren. Es ist gerade noch viel zu früh, um zu sagen, das sind jetzt die konkreten Anwendungsfälle, und so wird es die nächsten 20 Jahre sich entwickeln. Wir sind gerade, zumindest nach meiner Auffassung, am Anfang dieser Entwicklung.

00:45:10
Katrin von erzähl davon: Was ich öfter gelesen habe, ist, dass dieses krasse Speed, der gerade aufgebaut wird bei der Entwicklung, dass das jetzt wie so ein iPhone-Moment ist, wo es dann irgendwie so ein vorher und nachher gibt, wo plötzlich dann alle innerhalb von ein paar Monaten nen Smartphone haben, ganz viele Apps kommen und dann wird auch ein Verlag für Straßenkarten pleite gehen, weil niemand mehr eine Straßenkarte kauft, weil man jetzt Googlemaps hat oder Apple Maps oder so was. Das wird passieren. Aber im Endeffekt ist es dann ja auch wieder ein Tool, und es sagt ja keiner: Okay, ich habe jetzt ein Smartphone, und deswegen denke ich nicht mehr und arbeite nicht mehr, sondern dadurch mache ich jetzt vielleicht Sachen einfacher oder bequemer oder schneller oder anders. Aber es wäre ja jetzt auch quatsch zu denken mit ChatGPT kann man jetzt einfach jegliche Aufgabe daran outsourcen und selber dann nur noch das copy paste übernehmen, oder?

00:46:02
Sören: Ja, also, das wird ja zum Teil als die vierte industrielle Revolution gehandelt oder so. Was in dem Zusammenhang auch vielleicht interessant ist, GPT in anderen Kontexten auch für general purpose technology verwendet wird. Im Grunde genommen wird da von drei großen Technologien gesprochen, die diese industriellen Revolutionen angefeuert haben, also einmal die Dampfmaschine, dann die Elektrizität und dann Internet communication technology, also alles rund ums Internet, wie wir uns vernetzen. Da ist halt die Frage, erleben wir da gerade wieder so ein so eine rasante Veränderung, und was das genau mitbringen wird, das wissen wir alle noch nicht. Das wird sich jetzt in der in der Zukunft zeigen.

00:46:52
Katrin von erzähl davon: Also, wir versuchen uns heute nicht an Zukunftsvorhersagen, weil das wird eh schiefgehen, so schnell, wie sich das hier entwickelt. Aber hast du für die Leute, die das jetzt hören, und die ist hoffentlich nicht skeptisch, mit verschränkten Armen vom Podcastempfangsgerät sitzen, sondern die jetzt vielleicht mal Lust haben, das auszuprobieren, hättest du noch zwei, drei Ideen, was man jetzt ganz konkret ausprobieren könnte? Also, du hast ja vorhin schon gesagt: Sparringspartner, Kreativität, Ideen entwickeln, so was wie, wie könnten Social-Media-Post aussehen, oder was könnte ich auf meinen Flyer drauf schreiben? Hast du jetzt noch zwei, drei Prompts, ein paar konkrete Ideen, was man jetzt gerade cool mit dem aktuellen Stand der Technologie ausprobieren kann?

00:47:32
Sören: Es gibt wahnsinnig viele. Also es gibt ja so ein ganzes Feld, was sich jetzt um das sogenannte Prompt Engeneering entwickelt hat, was ich ehrlich gesagt, auch etwas skeptisch beäuge, weil mit der nächsten Version von dem Sprachmodell kann das alles wieder ganz anders aussehen, was man da reinschreibt. Und im Endeffekt wird das so wie mit der Suchanfrage bei Google sein. Vor zehn Jahren haben wir uns noch viele Gedanken darum gemacht, wie wir genau die Stichworte formulieren müssen, und heute ist es ziemlich egal, was wir eingeben, wir werden schon irgendwie richtiges Ergebnis finden. Ich glaube, Haupttipp ist da, probiert aus! Also, es gibt wahnsinnig viele Dinge, die ihr eingeben könnt. Und am Anfang ist es das leichteste, Mal anzufangen, schreib mir ein Gedicht über den Tierschutzverein in Stadt XY. Mal sehen, was da rauskommt. Vielleicht ist das witzig, vielleicht könnt ihr damit ja was machen, vielleicht ist es irgendwie komisch, passt überhaupt nicht. Also, der Gedichtanwendungsfall ist so der erste, mit dem man mal rumspielen kann. Und dann wirklich das immer weiter zu verfeinern, also dann auch zu schreiben, schreibt das Gedicht etwas kürzer. Ich würde gerne, dass du auch folgenden Aspekt noch ein bisschen eingehst. Und es ist ja das Schöne an diesem dialogischen Anwendungsfall, also dass man immer wieder was Neues quasi hinzufügen kann und dadurch immer bessere Ergebnisse bekommt.

00:49:06
Sören: Was weiß ich, schreib mir Themen zu Social-Media-Posts, schreibe mir zu jedem Thema noch einen kleinen Absatz, was in diesem Post vorkommen soll, überlege dir zu jedem Thema noch einen Emoji, der diesen Post beschreiben kann. Und dann werde ich ziemlich schnell merken, was davon passt und was nicht passt. Also meine Erfahrung ist gerade in diesem Brainstorming, 50 Prozent davon passen nicht. Ja, also was hatte ich da für Anwendungsfälle bei KI im Verein? Also, es war vor allen Dingen dann, dass die Leistung im Sportverein noch viel besser wird durch fortschrittliche Analysetools. Okay, macht vielleicht Sinn, aber es ist überhaupt nicht das, wofür ich mich interessiere. Aber die anderen 50 Prozent sind teilweise entweder nahe dran an dem, was ich erwartet habe, oder zumindest geben sie einen Impuls, mal etwas anders darüber nachzudenken. Und diesen Impuls dann aufzunehmen und zu sagen, das ist ja spannend, da habe ich so noch nicht drüber nachgedacht, das nehme ich mal mit. Ob jetzt die spezielle Formulierung stimmt, oder was auch immer mal beiseite, einfach nur diese Impulse dann mitzunehmen.

00:50:26
Katrin von erzähl davon: Und denen dann zu folgen und zu gucken, was man da rausnimmt und was nicht, und eben zu sagen, da sind auch Sachen bei, die sind quatsch, und das ist okay, das ignorieren wir dann halt und gehen in die andere Richtung weiter.

00:50:36
Sören: Genau.

00:50:36
Katrin von erzähl davon: Sehr gut. Jetzt haben wir ganz viel besprochen. Wie gesagt, wir versuchen uns jetzt auch nicht an irgendwelchen Zukunftsvorhersagen, weil da wird sich einfach noch viel tun. Ich glaube, was mir wichtig ist, ist, dass man sich das anguckt und nicht einfach denkt, ach, da haben wir nichts mit zu tun, sollen die mal machen. Weil es einfach gerade so einen iPhone-Moment hat und viele Bereiche einfach verändern wird, und nicht nur, wie man Pressemitteilungen schreibt, sondern auch viele, viele andere Dinge. Deswegen wäre mein Plädoyer, wer bis jetzt noch hört, bitte, probiert es mal aus, seid offen! Ihr müsst jetzt nicht eure Social-Media-Arbeit komplett umstellen und alle Captions nur noch von ChatGPT schreiben lassen – Um Gottes willen! Wenn ihr das gerne selber macht, dann macht’s aber überlegt doch gerade mal, was sind denn die Sachen, die euch schwerfallen, wo ihr viel Zeit darauf aufwendet, die euch Energiekosten, die euch Kraft kosten, und nutzt auch dieses Tool als Sparringspartner, um einen leichteren Einstieg zu finden, neue Ideen zu entwickeln und euch die Arbeit zu erleichtern, damit die Pressemitteilung vielleicht nur noch eine halbe Stunde dauert und nicht mehr drei bis acht!

00:51:39
Sören: Und überlegt vielleicht auch ganz, ganz konkret, was sind Sachen, die dieses System niemals machen werden kann und legt darauf euren Fokus. Das heißt, wenn es um Social Media geht, Vorstellung von Mitgliedern, Vorstellung von eurer eigenen Sichtweise zu einem bestimmten Thema, wie ihr etwas im Verein erlebt, eine bestimmte Geschichte erzählen und so weiter. Und nicht halt 08/15-Inhalte, die eigentlich jeder posten könnte. Also die generelle Hoffnung damit ist ja, wir können ne neue Menschlichkeit entwickeln, weil wir jetzt merken, es gibt Sachen, die können die Maschinen, die können sie besser als wir, dann gehen wir das an die ab, und wir nutzen unsere Energie dann für die Sachen, die uns wirklich menschlich machen. Und das gilt jetzt rauszufinden, was ist das, was uns menschlich macht? Lange war das ja die Kreativität und so, und jetzt haben wir gemerkt, dass ChatGPT auch Gedichte schreiben kann. Was ist das, was uns jetzt ausmacht?

00:52:48
Katrin von erzähl davon: Das klingt nach einer guten Herausforderung, der wir stellen können.

00:52:52
Sören: Ich glaube, das wird die wesentliche Frage sein, die uns jetzt über die nächsten Jahre begleitet, wie wir uns als Menschen in diesem Konstrukt wiederfinden wollen. Und ich glaube, dass der soziale Sektor da ja eine essenzielle Rolle spielt, weil es halt genau diese Position abbildet, nämlich also dieses menschliche Miteinander, das Gemeinnützige, das Dinge machen, nicht nur, weil sie Geld bringen, sondern aus Liebe zu anderen Menschen, aber auch irgendwie zu bestimmten Themen. Und deswegen glaube ich, dass der soziale Sektor, Vereine, gemeinnützige Organisationen, in dieser Entwicklung eine wesentliche Rolle spielen können und ich glaube sogar von dem Ganzen profitieren werden.

00:53:40
Katrin von erzähl davon: Sehr gut, das war ein sehr schönes Schlusswort. Sören, vielleicht willst ja in ein paar Wochen oder Monaten noch mal ein Podcast kommen, und dann besprechen wir, was sich getan hat und was es vielleicht noch für tolle Use Cases gab aus dem Bereich der Zivilgesellschaft, wie man jetzt ChatGPT und Co. eingesetzt hat. Hast du Lust drauf?

00:53:57
Sören: Sehr gerne. Also, ich glaube, da wird sich sehr viel entwickeln, und es gibt viele spannende Themen, über die wir sprechen können.

00:54:03
Katrin von erzähl davon: Sehr gut, dann machen wir das. Dann erst mal an der Stelle, Dankeschön, dass du hier warst, und Dankeschön an alle, die zugehört haben. Wenn ihr dazu Ideen oder Fragen habt, dann mailt sie uns doch gerne und ich werde sie speichern. Vielleicht werde ich mir von ChatGPT daraus schöne Fragen formulieren lassen, und dann können wir demnächst irgendwann mit Sören noch mal über dieses Thema sprechen.

00:54:22
Sören: Auch ein toller Anwendungsfall. Wenn auf Instagram uns jetzt niemand mehr auf unsere Fragensticker antwortet, können wir einfach Fragen von ChatGPT generieren lassen?

00:54:31
Katrin von erzähl davon: Das ist eine sehr gute Idee. Dankeschön, Sören und machs gut!

00:54:36
Sören: Danke auch! Tschüss!

Auf dem Laufenden bleibt ihr mit dem monatlichen erzähl davon Newsletter.