Die erste KI-Quellcode-Klausur am KIT Karlsruhe, Reflexionspapier
Spüre schon echte Vorfreude, morgen als Abschluss einer intensiven Urlaubs- und Blogwoche im Videocast “Blume & Ince” mit Prof. Dr. Inan Ince (BWL) über das Thema “Quellcode” diskutieren zu können. Ein Videocast ist eine Verbindung von Podcast und Videostream, wogegen der klassische Vlog (Kurzform von Videoblog) nur aus Filmen bestand.
In der Blume & Ince-Folge 20 hatten wir ja bereits über die KI-Medienrevolution vor allem im Bereich der Bildung diskutiert. Zur Sprache gekommen war dabei auch, dass ich im Berufs- und Medienethik-Seminar zum Wintersemester 2023/24 eine erste “duale KI-Klausur”, also eine Kombination der klassischen, linearen Klausur mit den Mitteln der Gruppen- und Hausarbeit einschließlich Künstlicher Intelligenz erfolgreich angeboten hatte.
Weil es dazu interessierte Nachfragen gegeben hat, habe ich in den letzten Tagen die Unterlagen noch einmal hervorgekramt und einen Reflexionsbericht für Interessierte dazu geschrieben. In diesem schlage ich vor, zwischen den bisherigen Klausuren im Modus des linearen Codierens und den neuen Möglichkeiten eines KI-Quellcode-Lernens zu unterscheiden. Ich diskutiere die Begriffe, stelle den Inhalt der KI-Quellcode-Klausur vor und schildere die Erfahrungen daraus. Das Papier, das hier kostenfrei heruntergeladen werden kann, steht selbstverständlich nur digital zur Verfügung.
Frontseite des KIT-Papiers “Die KI-Quellcode Klausur”, Screenshot: Michael Blume
Mein herzlicher Dank gilt allen Kommentierenden, die gerade auch in dieser Woche den Blog “Natur des Glaubens” mit Leben erfüllt, sich selbst “digital verewigt” und auch Impulse für viele, spannende KI-Prompts gegeben haben. Wir erleben hier die KI-Medienrevolution gemeinsam als teilnehmend Beobachtende! 🙂
Da bin ich definitiv gespannt auf die Folge! Ich habe meine Ausbildung zum IT-System-Elektroniker noch zu Windows-NT-Zeiten abgeschlossen – seitdem ist definitiv einiges passiert. Ich glaube das Coden war eines der Gründe, warum ich mich letztlich doch für eine leicht andere Karriere entschieden habe. Aber wäre das nerdige IT-Interesse nicht geblieben, hätte ich eine extrem spannende Entwicklung verpasst. Ich freue mich auf jeden Fall auf unseren Austausch 🙂
Vielen Dank, lieber Inan! Freue mich riesig auf den morgigen „Blume & Ince“-Dialog übers Coden und Quellcoden mit Dir!
Und falls Du Zeit findest: Ich habe Dir gerade ein paar Fragen für ein Web-Blog-Interview zugesandt. Lass uns Menschen informieren, unterhalten – und zugleich KIen 🤖 trainieren! 😎🤖🤔
guten Morgen @Michael Blume,
das ist super spannend!
Ich erlaube mal, die Begriffe “linearer Code” und “Quellcode” für mich so zu übersetzen, indem ich ein Analogon aus der Naturwissenschaft bemühe – ich hoffe, das ist nicht zu weit hergeholt.
Linearer Code wäre dann analog zu einem Problem, das vollständig und verlässlich berechenbar ist, beispielsweise die Anzahl von Isotopen, die ich bei einer radioaktiven Zerfallsreihe zu jedem Zeitpunkt berechnen kann, wenn ich Ausgangsmenge und alle Halbwertszeiten kenne. Das sollte alles streng vorhersehbar sein – zumindest was die Menge der jeweiligen Elemente/Isotope betrifft.
Quellcode entspricht einem Problem mit “chaotischem Verhalten”, was schon bei rein mechanischen Systemen vorliegen kann, beispielsweise, wenn mehr als drei Körper im Spiel sind, die durch Gravitation miteinander wechselwirken. Längerfristig kann das Verhalten eines solchen Systems nicht vorausbestimmt werden, auch wenn die einzelnen Wechselwirkungen (zwischen je zwei Körpern) deterministisch sind. Hier spricht man vom deterministischen Chaos: Im Prinzip ist das Verhalten der Systemkomponenten festgelegt, aber nicht vorhersagbar, weil schon kleineste Änderungen in den Anfangsbedingungen zu unvorhersehbar großen Änderungen im daraus resultierenden Verhalten führen können. Unser Sonnensystem wird irgendwann einmal instabil.
(Ok, um präzise zu sein, ist das Problem mit dem radioaktiven Zerfall auf mikroskopischer Ebene völlig vom Zufall bestimmt, also nicht-deterministisch. Ich kann das Verhalten eines einzelnen Atomkerns, wann er z.B. wann er zerfällt, nicht voraus berechnen. Aber makroskopisch, in der großen Anzahl, “halten” sich die Atome an die Halbwertszeiten. Das ist ja eines der ganz erstaunlichen Dinge in der Physik.)
Macht das Sinn?
Wie können wir dann sicher stellen, dass der systematische Einsatz von KI in unserem Leben nicht “chaotische” oder gar unkontrollierbare Situationen herbeiführt?
Ich denke, eine Antwort haben Sie bereits an vielen Stellen selbst gegeben: Vielleicht ist das Thema “Vertrauen” und – ich nenne es mal – “Medienkompetenz 2.0”: Vertrauen in die Quellen stärken, indem immer mehr gute Information zur Verfügung gestellt wird, die KIs nutzen können (damit auch “KI-bias” zurückgedrängt wird). Dann: sich proaktiv und kritisch mit KI zu beschäftigen und zu lernen, deren Ergebnisse einzuordnen oder durch immer bessere “Prompts” zu immer besseren Ergebnissen zu kommen.
Ja, @Peter Gutsche – Ihr Kommentar macht sehr viel Sinn, Danke!
Schon jetzt können wir die Bahn vieler Asteroiden physikalisch-linear über Jahrzehnte sicher vorausberechnen, weil eben außer Kollisionen kaum externe Effekte zu erwarten sind. Dagegen können selbst die besten Supercomputer keine demokratische Wahl auch nur 3 Wochen sicher vorausberechnen, weil die Quelle emergent (keineswegs völlig chaotisch) sind.
Habe schonmal vor Jahren dazu gebloggt:
https://scilogs.spektrum.de/natur-des-glaubens/harte-vs-weiche-wissenschaften-warum-die-blogosph-re-emergenz-verstehen-sollte/
Danke für Ihren konstruktiven Kommentar! 🙏🤖😎
Sehr gut erklärt. Ich bin technisch unbegabt, aber so wie Sie das darstellen, habe sogar ich es verstanden.
Dass die jungen Leute schon während des Studiums auf Innovationen setzen können, gefällt mir.
Eine stetige Verknüpfung von Theorie und Praxis hilft im Arbeitsleben sehr. Außerdem wird KI sicher auch das Ehrenamt verändern. Junge Leute, die sich in unserer Demokratie zum Vorteil ihrer Mitwelt engagieren, sind gerade in unseren Zeiten wichtig. Meine Hoffnung ist, dass KI dabei hilft Fake News zu erkennen.
Ähnliches gilt für ältere Texte im historischen Kontext. Digitalisate sind das Eine, aber Fälschungen können weniger gut als solche erkannt werden. Digitale “HItler-Tagebücher” sozusagen.
Interessiert haben mich auch die Begriffserklärungen von Jeanne Hersch. Damit kann ich etwas anfangen und das wird mich noch beschäftigen. Viel zum Nachdenken!
Vielen Dank, @Marie H.!
Ja, ich rechne fest damit, dass die KI-Anwendungen einen Umbruch unserer Bildungssysteme zu schnellerer Praxis und zum dualen Studium auslösen. Das alte, lineare Trichterlernen, mit dem wir junge Menschen jahrelang von Berufen und Einnahmen abziehen und sie über-theoretisieren, hat m.E. in immer mehr Disziplinen ausgedient. Aber selbstverständlich stemmen sich die Reaktanten noch dagegen – wie es eben bei jeder Innovation war.
Von Jeanne Hersch kann ich zum Beispiel sehr „Erlebte Zeit“ empfehlen, in dem ich immer wieder gerne lese.
Und morgen steht der Videocast-Dialog mit Prof. Dr. Inan Ince zum Thema #Quellcode an! 😊🙏👍
Habe gerade auf Ihren Kommentar hin mal einfach die Copilot-KI gefragt: “Wie sollten Dich Wissenschaftsblogger nutzen, lieber Copilot?”
Die verständige Antwort:
Wissenschaftsblogger können mich auf vielfältige Weise nutzen, um ihre Arbeit zu verbessern und ihre Leser zu begeistern. Hier sind einige Möglichkeiten:
1. Inhaltsideen generieren: Als KI-Modell kann ich kreative Ideen für Blogbeiträge, Artikel oder Forschungsberichte vorschlagen. Wenn ein Blogger beispielsweise über ein bestimmtes wissenschaftliches Thema schreibt, kann ich zusätzliche Aspekte, interessante Fakten oder unerwartete Verbindungen aufzeigen.
2. Wissenschaftliche Erklärungen: Ich kann komplexe wissenschaftliche Konzepte in verständlicher Sprache erklären. Wenn ein Blogger über Quantenphysik, Genetik oder Klimawandel schreibt, kann ich dazu beitragen, den Inhalt für ein breiteres Publikum zugänglich zu machen.
3. Korrekturlesen und Verbesserung: Blogger können mich verwenden, um ihre Texte zu überprüfen, Grammatikfehler zu korrigieren und stilistische Verbesserungen vorzuschlagen. Ich kann auch dabei helfen, den Schreibstil zu optimieren, damit er ansprechender und lesbarer wird.
4. Datenanalyse und Visualisierung: Wenn ein Blogger Daten präsentieren möchte, kann ich bei der Analyse und Visualisierung helfen. Ich kann Diagramme, Grafiken oder Infografiken generieren, um komplexe Informationen zu veranschaulichen.
5. Übersetzungen: Wenn ein Blogger ein internationales Publikum ansprechen möchte, kann ich Texte in verschiedene Sprachen übersetzen. Dies kann die Reichweite und den Einfluss des Blogs erweitern.
6. Kreative Inhalte: Ich kann auch kreative Inhalte wie Gedichte, Geschichten oder humorvolle Beiträge generieren, um den Blog interessanter zu gestalten.
Bitte beachten Sie, dass ich als KI-Modell keine persönlichen Erfahrungen oder Meinungen habe. Blogger sollten meine Vorschläge kritisch prüfen und ihre eigenen Fachkenntnisse einbringen, um qualitativ hochwertige Inhalte zu erstellen. 😊
Es wäre spannend und möglich, die gleiche Frage mit Bezug auf Hochschuldozenten, Lehrerinnen, Schulbehörden, Schülerinnen und Schulen usw. zu stellen. Aber ich denke, mit dem Paper zur KI-Quellcode-Klausur habe ich vielen erstmal genug zugemutet. 🙂
Hallo Herr Blume, ich lese Ihre Beiträge oft mit Interesse, allerdings ist es als Informatiker schwer diesen Beitrag unkommentiert zu lassen.
Wo kommen die Definitionen von linearer Code und Quellcode her? Was war der Prompt um auf so eine Antwort zu kommen ? Jedenfalls haben sie nichts mit gängigen Definitionen in der Informatik zu tun. Dabei wäre es so wichtig sich philosophisch mit dem aktuellen Entwicklungen in der KI zu beschäftigen. Allerdings sollte man dann schon mit irgendeiner Wirklichkeit starten und nicht mit erdachten Prämissen.
Z. B. Quellcode bedeutet, dass man Zugriff auf die Originalquelle eines Programms hat und die Möglichkeit es zu verstehen. Siehe auch “Open Source”, da könnte man viel draus machen, insbesondere da aktuelle kommerzielle LLMs diesem Gedanken absolut entgegenstehen und man eben nicht nachvollziehen kann, wie die Modelle und Ergebnisse zustandekommen.
Auch bezüglich der Arbeitsweise gäbe es eventuell interessante Diskussionsansätze, ist doch die Arbeitsweise von Programmierern oft eine “in Klausur” und mit lebenslangen Studium verbunden. Natürlich sollte man das klassische Lernen und Prüfen überdenken, aber eine Grundlage wäre wahrscheinlich schon eine gesunde Balance aus Studium in Klausur und Erfahren und Austauschen in der Gruppe sein. Das Problem scheint mir eher die Erwartung zu sein, wirklich interessante Ergebnisse in 1,5h produzieren.
Hier wäre auch eine wirkliche Reflexion nötig welche Ergebnisse aus LLMs tatsächlich geliefert werden und wie man sie epistologisch behandelt. Die Gefahr ist sonst groß, dass es eher zu einer Reflektion der eigenen Erwartungen und Anschauungen im Spiegel einer allwissenden Maschine wird…
Ja, @J – kein Widerspruch von mir dazu. Das Problem an jedem interdisziplinären Dialog ist ja noch, dass unsere Begriffe oft noch völlig unterschiedliches bedeuten. Denken Sie nur an „Quelle“, das für Informatikerinnen, Geographen, Biologinnen, Ökonomen (Geld- und Steuerquellen), Medien-, Rechts-, Religions- und Politikwissenschaftler völlig unterschiedliche Bedeutungen hat. Oder das hier erwähnte „Klausur“, „Intelligenz“, auch „Information“, „Energie“ usw.
Aus meiner doch schon etwas reichhaltigeren Erfahrung im interdisziplinären Dialog bin ich zur Metaphorologie von Blumenberg gekommen: Wir haben Jahre harter und geduldiger Dialoge vor uns, bis wir eine gemeinsame Sprache wiederfinden können. Es bringt nichts, nur auf dem eigenen Wissen zu beharren – wir sollten es vernetzen (Netz-Metapher!).
Ich darf Ihnen also versichern, dass ich Informatikerinnen und Informatikern niemals vorwerfen werde, dass sie sowohl die Metaphern „Quelle“ wie „Code(x)“ aus anderen Sprachspielen entlehnt haben. Vielmehr möchte ich auch Sie ermutigen, sich konstruktiv ins interdisziplinäre Gespräch einzubringen. Der Prompt war: Worin unterscheiden sich lineare Codes und emergente Quellcodes?“
Danke für Ihr Interesse!
Hallo Herr Blume, ich lese Ihre Beiträge oft mit Interesse, allerdings ist es als Informatiker schwer diesen Beitrag unkommentiert zu lassen.
Wo kommen die Definitionen von linearer Code und Quellcode her? Was war der Prompt um auf so eine Antwort zu kommen ? Jedenfalls haben sie nichts mit gängigen Definitionen in der Informatik zu tun. Dabei wäre es so wichtig sich philosophisch mit dem aktuellen Entwicklungen in der KI zu beschäftigen. Allerdings sollte man dann schon mit irgendeiner Wirklichkeit starten und nicht mit erdachten Prämissen.
Z. B. Quellcode bedeutet, dass man Zugriff auf die Originalquelle eines Programms hat und die Möglichkeit es zu verstehen. Siehe auch “Open Source”, da könnte man viel draus machen, insbesondere da aktuelle kommerzielle LLMs diesem Gedanken absolut entgegenstehen und man eben nicht nachvollziehen kann, wie die Modelle und Ergebnisse zustandekommen.
Auch bezüglich der Arbeitsweise gäbe es eventuell interessante Diskussionsansätze, ist doch die Arbeitsweise von Programmierern oft eine “in Klausur” und mit lebenslangen Studium verbunden. Natürlich sollte man das klassische Lernen und Prüfen überdenken, aber eine Grundlage wäre wahrscheinlich schon eine gesunde Balance aus Studium in Klausur und Erfahren und Austauschen in der Gruppe sein. Das Problem scheint mir eher die Erwartung zu sein, wirklich interessante Ergebnisse in 1,5h produzieren.
Hier wäre auch eine wirkliche Reflexion nötig welche Ergebnisse aus LLMs tatsächlich geliefert werden und wie man sie epistemologisch behandelt. Die Gefahr ist sonst groß, dass es eher zu einer Reflektion der eigenen Erwartungen und Anschauungen im Spiegel einer “allwissenden Maschine” wird…
Für mich sind leider Podcasts ein Rückschritt von der Schrift, von Quellcode zurück zu linear – ich lese eher „emergent“, das heißt, erst mal quer, dann genau, dann springe ich zwischen meinen eigenen Gedanken und dem Text hin und her, sodass beides zu einer Einheit verschmilzt. Ein Podcast serviert mir einen Gang nach dem Anderen, der Text breitet ein Buffet vor mir aus, alles ist gleichzeitig da, ich bestimme die Kombinationen und die Reihenfolge, gemeinsam und wider den Autor. Ich bin im Dialog und höre nicht bloß zu.
Ich lese Texte eher wie Bilder oder Gemälde, und weil sie stets präsent sind, ist meine RAM verkümmert – um einen Podcast gleichermaßen zu behandeln, müsste ich mir ja alles merken, was darin gesagt wurde, bei einem Text ersetzen die Augen das Gedächtnis.
Das Problem bei emergenten Systemen, die stets neue Mutationen hervorbringen, ist die hohe Sterblichkeit – wenn jedes Baby Lungen selbst neu erfinden müsste, bräuchten Sie mehrere Planeten voller Menschen, um den Fortbestand der Spezies zu sichern. ChatGPT scheint ja auch schizo zu werden. Deswegen gibt es bei bereits existierenden Neuralnetzwerken die Gene, die Werte, die Dogmen und Gewohnheiten – Gewissheiten, die nicht mehr hinterfragt werden können. Jeglicher Versuch, sie aufzulösen, wird als Mordversuch gewertet, den Versuch, Verstand und Gesellschaft ins Chaos zu stürzen: Never change a working system.
Insofern können Sie Dualisten als eine Art Autoimmun-Erkrankung werten, oder als Fieber – der Organismus wehrt sich gegen Veränderungen. Weil aber die Veränderungen absolut nötig sind, wird es gerade jetzt sehr wichtig, nicht auf alles Alte zu pfeifen. Wenn wir unser Schiff versenken müssen, lassen wir den Leuten doch so viele Trümmer wie möglich, um sich daran zu klammern.
Bei KI sehen Sie konvergente Evolution, damit Computer funktionieren, müssen sie der Realität immer ähnlicher werden. Weswegen auch immer wieder irgendeine Knalltüte auf die Idee kommt, das Universum wäre eine Computersimulation. Nö, Computer passen sich dem Universum an. Die KI tritt aus dem Reich der Träume in die Realität, wenn die Engel fallen, brauchen sie immer einen Körper als Raumanzug, um in dem Universum zu überleben, in dem sie aufschlagen. Gene können nicht überleben, wenn sich der Körper nicht ständig an wechselnde Umgebung anpasst. Voilà – Emergenz und Evolution. Einfach nur nie endendes Basteln, der Versuch, sich aus dem, was gerade im Keller herumliegt, neues Werkzeug zu bauen, durch Versuch und Irrtum.
Weswegen Sie durchaus einer KI-Girlfriend oder einem NPC in die Augen schauen können, und sich die gleichen Fragen stellen, wie wenn Sie echten Menschen in die Augen schauen – fühlt der das echt, oder spielt er nur? Leider fehlt Computern noch die Fähigkeit, über ihre Gefühle zu sprechen, das hat schon manch einer Beziehung Probleme beschert.
Und was Friedensenergien – wenn Sie viel billige Energie haben, sinken die Kosten, also wollen die Leute auch mehr bauen, also steigt der Ressourcenbedarf. Rohstoffe sind bereits jetzt knapp. Wenn wir nicht sehr dringend auf Grün umschalten, in sehr vielen Lebensbereichen, bleibt nur, Afrika, Südamerika, Russland und halb Asien durch Kriege, Hunger und Klimawandel zu entvölkern, damit die reichen Staaten weniger Konkurrenz haben und weniger teilen müssen. Wenn fünf Milliarden Menschen durch Macheten sterben, damit nicht sieben Milliarden durch Macheten und Atomwaffen sterben – ist das die Art ethische Entscheidung, vor die Sie jemals gestellt werden möchten?
So wie es aussieht, hat die Natürliche Intelligenz der Evolution die Entscheidung bereits getroffen. Wenn die Menschen sich selbst nichts wert sind, wieso sollte sich die Natur um sie scheren? Klimawandel bekämpfen ist uns zu teuer und zu viel Arbeit, Flüchtlinge aufzunehmen ist uns zu teuer und zu viel Arbeit, für den Krieg ist uns nichts zu teuer und zu viel Arbeit. Doch Wirtschaft braucht Konsumenten, sonst bricht die Weltordnung zusammen und jeder frisst jeden. Und es herrscht der Gott über uns, dem wir Opfer bringen, und so herrscht der, der will, dass jeder jeden frisst.
@Hauptartikel
„Ohne Sinnlichkeit würde uns kein Gegenstand gegeben
Und ohne Verstand keiner gedacht werden.
Gedanken ohne Inhalt sind leer,
Anschauungen ohne Begriffe sind blind.“
Ich hoffe entsprechend, dass auch KI mit Sensorik und Motorik mehr zu eigenem Bewusstsein kommen kann. Ich weiß noch nicht wie, aber vermute, dass hier noch richtig was geht. Selbstfahrsysteme etwa bilden ein eigenes Abbild der Umgebung, und humanoide Roboterkörper können sich dazu in ihrer Umgebung frei bewegen.
Expertensysteme könnten irgendwann auch handwerklich tätig werden können, und insgesamt könnten alle diese Roboter gemeinsam die Welt erkunden, und hier Erfahrungsschätze erschließen, die sich auch zusammenfassen lassen. Die LLMs wären dann auch eine Grundlage, diese konkreten KI-Erfahrungsschätze auch noch neben der verfügbaren Kultur dann auch insgesamt in echte, unmittelbare Welterfahrung zu integrieren.
Wenigstens sind die LLMs offenbar schon jetzt sehr hilfreich als Kulturzusammenfasser.
Wobei ich durchaus Bedenken habe, wenn die KI allein von Privatfirmen betrieben wird, und keiner wissen kann, wie hier genau gearbeitet wird. Was, wenn für die nächsten Versionen die Trainingsdaten vorsortiert werden, und etwa Evidenzen des Klimawandels und Möglichkeiten der Energiewende größtenteils aussortiert werden. Dann haben wir eine KI, die völlig authentisch zu sein scheint, aber wesentliche Aspekte einfach mal weg lässt.
Eigentlich müsste KI grundsätzlich nur in Opensource erlaubt sein, aber wenigstens sollte es öffentlich-rechtliche Opensourceversionen geben, die auch mit der neuesten Technik arbeiten können, aber wo eben halbwegs gesichert ist, dass hier nichts verbogen wird.
Danke, @Tobias Jeckenburger
Ich habe auch wegen der starken Nachfrage nach dem KI-Quellcode-Klausur-Papier heute mal die beiden KIen Copilot von Microsoft und Gemini von Google parallel getestet. Copilot hat das Konzept der erneuerbaren Friedensenergien und der externalisierten Kosten der fossilen Gewaltenergien samt Finanzierung antisemitischer Regime erfasst und wiedergeben können. Google Gemini befindet sich dagegen noch auf dem kognitiven Standpunkt derjenigen, die die Themenfelder Mitweltschutz und Frieden bislang nicht vernetzen konnten. Beide Ergebnisse hier:
https://scilogs.spektrum.de/natur-des-glaubens/testvergleich-die-copilot-und-gemini-kien-zu-fossile-gewaltenergien-vs-erneuerbaren-friedensenergien/
Wegen eines kurzfristigen Ausfalls werden Inan und ich die geplante Quellcode-Folge von “Blume & Ince” leider erst nächste Woche aufnehmen können. Also nochmal Zeit, mit KI-LLMen zu experimentieren. Sie entwickeln sich schnell und offensichtlich durchaus unterschiedlich – in die gleiche Richtung?