Denk du mal für mich – macht uns KI dumm?

00:00:00: Alle erzählen dir, dass KI alles leichter macht.

00:00:03: Ich bin uns die täglich ziemlich viel sogar.

00:00:06: Ich habe mir sogar mein eigenes System gebaut und das mit dem Leichter ist eine Lüge.

00:00:12: es wird definitiv nicht weniger.

00:00:14: Es verschiebt sich nur dahin wo du's nicht kommen siehst.

00:00:30: Das war auch kein plötzlicher Moment eher so ein schleichender Verdacht.

00:00:38: So ein Gefühl, das sich über Wochen aufgebaut hat.

00:00:40: Du sitzt in einem Gespräch jemand stellt eine einfache Frage zu deiner eigenen Arbeit Zu deinen eigenen Gedanken und In deinem Kopf ist Ja stille leere.

00:00:53: Und dann dieser Gedanke dieses gefühl moment mal die antwort.

00:00:56: habe ich doch dies irgendwo gespeichert nur halt nicht hier drin Nicht in mir.

00:01:02: Und an dem Moment wird dir klar, du hast den roten Faden nicht nur verloren Du hast ihn freiwillig aus der Hand gegeben und du hast es wochenlang noch nicht mal gemerkt.

00:01:11: Zuallererst ich bin der Letzte der gegen diese Technologie gegen KI wettert.

00:01:16: Ich habe mir wie gesagt mein eigenes System gebaut.

00:01:19: Ich nenn es den Lotzen Um ganz ehrlich zu sein.

00:01:22: dieser Lotze hat mich in den letzten Monaten mehr echte Tiefe weiterführende Gespräche geliefert als ja leider die meisten Menschen.

00:01:33: Und ich auch sage, steht jetzt hier erstmal und das ist einerseits großartig und andererseits naja ziemlich gruselig oder?

00:01:42: Es ist einfach irgendwie beides.

00:01:43: KI ist ein unfassbar mächtiges Werkzeug.

00:01:49: aber genau da liegt der Haken.

00:01:51: Warum geben wir das Denken überhaupt ab?

00:01:53: Ich glaube nicht dass es Faulheit ist am Anfang jedenfalls nicht viel mehr Überforderung.

00:02:00: Ja, am Ende ist es Überforderungen!

00:02:01: Die Welt ist so komplex geworden.

00:02:04: die Anforderungen, die E-Mails Nachrichten, die Projekte, die Entscheidungen... Du kannst das gar nicht alles alleine tragen.

00:02:13: und dann kommt da diese Maschine und bietet dir an ein Stück dieser Last zu übernehmen.

00:02:21: Ein Stück Komplexität für dich zu sortieren fühlt sich im ersten Moment erstmal an wie durchatmen, als Erleichterung.

00:02:32: Es ist verständlich und völlig menschlich und genau deshalb ist es so eine Falle.

00:02:38: In dahinter steckt ja eine stille Hoffnung, eine unausgesprochene Wette.

00:02:43: die Wette lautet wenn ich nur genug von dem nervigen Zeug abgebe von der Routine, von der Recherche vom Strukturieren dann bleibt am Ende noch das übrig was mich wirklich erfüllt Die Essenz, das Kreative mehr ich weniger lasst.

00:03:03: Das ist das Versprechen.

00:03:05: und hier ist aber der Verrat du landest da nie Niemals.

00:03:09: es wird nicht weniger Es wird einfach anders.

00:03:13: Du gibst die Arbeit nicht ab Du verlagerst sie in eine Etage höher In einer Abstraktionsebene die viel anstrengender ist.

00:03:21: Die Maschine Die spuckt dir was aus Weißt du?

00:03:25: Die erkennt Muster, die rechnet Wahrscheinlichkeiten, sie gibt dir eine plausible Antwort.

00:03:30: Aber ob die Antwort stimmt?

00:03:32: Ob sie tragfähig ist!

00:03:34: Ob sie wirklich deins

00:03:35: isst?!

00:03:36: Ob sie den Norns trifft, die nur du kennen kannst – diese Prüfung, diese Plausibilitätsprüfung bleibt bei dir und plötzlich bist du kein Macher mehr sondern ein Richter.

00:03:48: Ein Richter über Antworten, deren Entstehungsweg im Zweifel du nicht mal mehr kennst.

00:03:53: Das ist nicht weniger denken das es verdammt viel schwereres denken.

00:03:59: Und dieser Übergang ist echt schleichend, er fängt damit an dass du ein Werkzeug benutzt.

00:04:06: Du hast einen Gedanken und du gibst ihn der Maschine und sagst Schärf mir das mal.

00:04:11: Und irgendwann ohne dass du einen Beschluss fasst lässt du sie einen Gedanken erzeugen den du selbst noch gar nicht hattest.

00:04:21: Lass dir das auf die Zunge zergehen!

00:04:23: Du sagst Denk du mal für mich vor Das ist der Kipppunkt, das ist der Punkt an dem das Werkzeug vom Verstärker zum Ersatz wird.

00:04:33: Spannend eine Studie von Microsoft unter Carnegie Mellon hat letztes Jahr genau das gezeigt – an über dreihundert Wissensarbeitern, Wissenschaftlern, Forschern.

00:04:42: Je mehr jemand der KI vertraut hat desto weniger hatte er selbst kritisch mitgedacht und je mehr er sich selbst vertraute, desto mehr hatte er das Tool nur als Werkzeug benutzt.

00:04:52: Der Unterschied liegt nicht im Tool.

00:04:56: Das tut er sehr selten, bis nie.

00:04:58: Er liegt darin ob du noch der bist, der prüft oder ob du die Prüfung stillschweigend auch mit abgegeben hast.

00:05:05: Anekdote ich habe das neulich beim Autofahren gemerkt Ganz banale Situationen.

00:05:10: Ich musste wohin da war ich auch schon mal und früher weißt Du Da Habe ich einmal auf Die Karte geguckt Wer die Route vielleicht auch Einmal Oder Maximal Zweimal Gefahren Und Danach Ja da saß Der Weg.

00:05:25: Ich hatte eine mentale Karte im Kopf.

00:05:56: Mit meinem, ja am Ende mit unserem Denken.

00:06:00: Das ist der Preis.

00:06:02: Du bekommst das Ergebnis du kriegst die Koordinate die fertige E-Mail aber Die Landschaft durch die der Weg dorthin geführt hat die Ja die bleibt ihr fremd und Du könntest den Weg nicht nochmal gehen.

00:06:17: das heißt nicht dass du deine Kapazität zu denken verlierst.

00:06:20: du verlierst einfach deine Orientierung.

00:06:22: Und dann stehst du eben mitten in so einem Gespräch und du weißt, die Antwort ist irgendwo.

00:06:28: Irgendwo aber halt eben nicht in dir!

00:06:30: Das ist nicht mal neu das ist noch nicht mal unbedingt KI sondern den Effekt kennen wir schon ewig seit Google Man nennt das digitale Amnesie.

00:06:41: Wir merken uns nicht mehr was die Information ist Sondern nur noch wo wir sie finden können.

00:06:45: Aber jetzt geht es eine Stufe tiefer.

00:06:47: Es geht nicht mehr nur um Fakten Es geht um unsere eigenen Gedankengänge Und das ist krass, wenn du mal ernsthaft darüber nachdenkst.

00:06:55: Das führt in eine ganz perfide Schleife.

00:06:57: um zu beurteilen ob der Output der Maschine gut ist brauche ich ja einen Maßstab.

00:07:02: Ich brauche Urteilskraft.

00:07:04: Genau und urteils Kraft besteht und basiert auf Naja Wissen und Erfahrung eben darauf den Weg schon unzählige Male selbst gegangen zu sein.

00:07:14: Aber genau dieses Gen Ist ja dass was sich gerade auslagere D.h Das Werkzeug, das ich benutze erodiert mit jeder Nutzung genau die Fähigkeit, die ich brauche um das Werkzeug zu überwachen.

00:07:29: Zu bewerten!

00:07:31: Die Abkürzung frisst den Maßstab auf.

00:07:33: Forscher am MIT Media Lab haben das letztes Jahr kognitive Schuld genannt.

00:07:39: Sie haben Probanden über Monate beim Schreiben von essays beobachtet – mit Hirnstromesson.

00:07:48: Schwächste Vernetzung im Gehirn.

00:07:51: Das geringste Gefühl von, das ist mein Text und jetzt kommt's!

00:07:56: Die konnten sich hinterher noch nicht mal mehr an ihre eigenen Sätze erinnern.

00:08:01: Sie hatten Schulden bei ihrem eigenen Kopf gemacht Und das ist ja jetzt nicht nur an meinem Schreibtisch so, dass passiert gerade überall.

00:08:09: Eine ganze Welt lagert das Wurteil aus und macht sich zum Prüfer von plausiblen Ergebnissen die keiner mehr selber erzeugt hat.

00:08:17: Wenn alle nur noch nicken, weil die Antwort irgendwie vernünftig klingt.

00:08:21: Plausibel schön geschrieben aber keiner mehr den Weg kennt wer merkt dann eigentlich noch wenn die Richtung fundamental falsch ist?

00:08:30: Gute Frage nochmal.

00:08:31: ich bin und das meine ich echt ernst ein totaler Verfechter von KI.

00:08:35: Ich baue damit ich lebe damit Und ich würde es niemandem ausreden Aber eben mit Köpfchen differenziert.

00:08:43: Der Punkt ist nicht das Ding wegzuschmeißen.

00:08:46: Der Punkt ist nicht aufzuhören, selber zu denken.

00:08:52: Okay für mich heißt das Werkzeug benutzen lernen deshalb inzwischen was anderes!

00:08:56: Nicht schneller werden sondern die Disziplin zu haben sich bewusst wieder mit Themen auseinanderzusetzen in der tief bewussten manche Wege zur Fuß zu gehen obwohl die Maschine sie in Sekunden für dich rennen kann.

00:09:12: Nicht weil es effizient ist Es ist im Zweifel nicht oder vielleicht doch, sondern weil es der Preis dafür ist den eigenen Maßstab mich zu verlieren.

00:09:21: Denn dem Ergebnis nicht blind zu folgen heißt die Plausibilitätsprüfung bleibt eine echte Prüfung.

00:09:28: ich mache sie selber und bewusst und das ist keine reine Formalie.

00:09:32: Ich bin neugierig was hast du zuletzt einfach weggegeben?

00:09:35: Weil's unbequem war bevor Du es selbst zu Ende gedacht hast.

00:09:41: Weißt du Ich glaube, der eigentliche Trick ist den Moment zu erwischen in dem du der Maschine etwas übergibst.

00:09:49: Dass du selbst noch nicht mal im Ansatz verstanden hast diesen Impuls zu spüren, der sagt ja mach du mal.

00:09:57: ich will diese Anstrengung gerade nicht.

00:10:00: wenn ich diesen Moment erwische dann ist schon viel gewonnen.

00:10:05: meistens manchmal ihr wisch ich ihn aber auch leider erst hinterher.