Künstliche Intelligenz on Michael’s Domain

KI: Medizinisch trainierte Modelle, Bewusstsein

Mon, 11 May 2026 00:00:00 +0000

Die meisten Menschen können vielleicht eine Handvoll LLM-Modelle nennen, vielleicht ein Dutzend, wenn sie sich für Tech-Nachrichten interessieren. Mittlerweile sind jedoch etwa 3 Millionen verschiedene LLM-Modelle auf Hugging Face frei verfügbar. Und nicht alle davon sind Modelle von geringer Qualität. So werden dort beispielsweise auch Googles Open-Source-Gemma-Modelle gehostet; sie haben denselben Ursprung wie Googles Gemini-Modelle, wurden jedoch für den lokalen Einsatz und für Forschungszwecke optimiert. Wichtig für biomedizinische Forscher ist, dass es auch viele offene, frei verfügbare und lokal nutzbare, medizinisch trainierte LLMs gibt. Ich habe sie zwar nicht getestet, aber auf GitHub gibt es eine kuratierte Liste von Spezialmodellen: https://github.com/FreedomIntelligence/Awesome-Specialized-Medical-LLMs . Die Liste enthält auch mehrere frei verfügbare allgemeine medizinische Modelle wie

Ich konzentriere mich auf die falschen Dinge

Wed, 22 Apr 2026 00:00:00 +0000

Anstatt daran zu arbeiten, wie ich KI in meinem eigenen Fachgebiet einsetzen kann, tue ich Folgendes:

Ich verbringe gefühlte 30 Minuten pro Tag damit, mich bei all den verschiedenen digitalen Systemen der Universität Helsinki, die ich nutze, zu authentifizieren und erneut zu authentifizieren.
Ich finde kreative Lösungen für Probleme, die seit Oktober 2025 bei unserer IT-Abteilung als Anfragen vorliegen (ohne dass etwas zweckdienliches passiert ist, außer einer riesigen Menge an E-Mails).
Ich bewerte Bachelorarbeiten (bitte unten das P.S. lesen!).
Ich halte Vorlesungen, zu denen nur zwei oder drei Studierende erscheinen. Letzte Woche habe ich gerade meinen eigenen Minusrekord mit der stolzen Zahl von 1 (einem) Studierenden eingestellt. Diesen Rekord kann ich nur noch ein einziges Mal brechen!
Ich erstelle einen Arbeitsplan für das akademische Jahr 2026/2027. Okay, das hat nicht lange gedauert, aber es ist für mich emotional extrem anstrengend, das Aufgaben-Dashboard der Universität („SAP Fiori“) immer voller Arbeitsaufträge zu haben, die absolut nichts zum wissenschaftlichen Fortschritt oder zur Ausbildung der Studierenden beitragen. Noch schlimmer ist, dass das Sytem mir ständig telefonische SMS-Erinnerungen schickt, während ich versuche, mich auf die Dinge zu konzentrieren, auf die es wirklich ankommt. Ich fühle mich wie Honorius, der sich hauptsächlich um seine Hühner und Tauben kümmert, während die germanischen Stämme das Weströmische Reich zerlegen.

Verstehen Sie mich nicht falsch: Ich liebe die Laborarbeit und den Austausch mit den Studierenden wirklich! Und einige Bachelorarbeiten sind fantastische Lektüren (siehe das P.S. unten). Aber fast jeder an unserer Universität schläft, wenn es um den Einsatz von KI geht. Kaum jemand hat die Ressourcen, um sinnvolle Arbeit zu leisten. Ich spreche nicht von Forschern, die über KI forschen. Ich spreche von Forschern in anderen Bereichen, die massiv von KI profitieren könnten, wie z. B. Forscher in den Biowissenschaften wie ich.

GPT-3 halluziniert schon wieder

Tue, 07 Mar 2023 00:00:00 +0000

Am Wochenende musste ich meinen Bericht für den Kurs „UP (Universitätspädagogik) 3.1“ fertigstellen. Da wir viel über den Nutzen formeller Betreuungsvereinbarungen gesprochen hatten, wollte ich herausfinden, ob unsere Überlegungen durch empirische Forschungsergebnisse gestützt werden. Da unsere Universität ihr Abonnement für Iris AI (ein KI-gestütztes Tool zur Literaturrecherche) gekündigt hatte, beschloss ich, GPT-3 zu befragen. Ich ging zum GPT-3-Playground und fragte: „Kannst du mir fünf Literaturhinweise finden, die den Nutzen einer Betreuungsvereinbarung im akademischen Umfeld belegen?“ Es lieferte mir umgehend fünf Hinweise (siehe Bild). Anschließend fragte ich nach den DOIs (ich nutze Zotero für das Literaturmanagement, und Zotero kann Volltext-Referenzen problemlos abrufen, wenn man ihm eine DOI angibt, vorausgesetzt, der Artikel liegt nicht hinter einer Paywall).Als ich versuchte, die Referenzen herunterzuladen, meldete Zotero: „Zotero konnte keinen Datensatz für die angegebene Kennung finden. Bitte überprüfe die Kennung und versuche es erneut.“ Also stellte ich über ein VPN eine Verbindung zum Universitätsnetzwerk her, um direkt von der Website des hinter einer Paywall liegenden Verlags (Taylor & Francis) auf den Artikel zuzugreifen. Als ich jedoch die richtige Ausgabe von „Studies in Higher Education“ (2005, Band 30, Ausgabe 5) durchsuchte, gab es keinen solchen Artikel. Keinen solchen Autor. Nichts ähnelte auch nur im Entferntesten der Referenz, die versprochen worden war. GPT-3 hatte diese oberflächlich betrachtet plausibel aussehenden Referenzen aus der Luft gegriffen. Bei genauerer Betrachtung sind die Artikel jedoch seltsam: Jeder hat nur einen Autor (selten, aber nicht unmöglich), alle Autoren sind promoviert (in der Realität sind die meisten Autoren Doktoranden), und alle Autoren geben genau einen Mittelnamen an (möglich, aber unwahrscheinlich). Als ich GPT-3 darauf hinwies, dass die DOIs gefälscht sind und zu keinem veröffentlichten Artikel führen, behauptete GPT-3 zunächst, ich könne nicht auf die Artikel zugreifen, da sie hinter einer Paywall lägen. Als ich dieses Experiment wiederholte, um Screenshots zu machen, entschuldigte sich GPT-3 und versprach, den Fehler zu beheben. Als ich darauf hinwies, dass der Fehler nicht behoben werden könne, da die Artikel fiktiv seien, stürzte GPT-3 ab. Dieses Verhalten ist nachvollziehbar: Ähnlich wie es Informationen zu jedem Thema findet und diese geschickt zu einer Antwort zusammenfügt, hat es viele Quellenangaben gefunden und diese zu einer „neuen“ Antwort zusammengefügt. Da der Algorithmus jedoch nichts „versteht“, ist ihm nicht bewusst, dass Literaturangaben in keiner Weise verändert werden dürfen. Ich gehe davon aus, dass dies bald behoben wird, da es leicht zu beheben ist. GPT-3 ist lediglich ein cleverer Zusammenführer und Wiederkäuer, und dies scheint nur ein Sonderfall von Halluzinationen zu sein. Die wichtigste Erkenntnis für Studierende: Vertraut niemals darauf, dass GPT-3 euch korrekte Informationen liefert. Auch andere haben berichtet, dass GPT-3 [häufig und ziemlich stark] halluziniert ( https://twitter.com/NateSilver538/status/1629159014272581634/photo/1 ).

Turing-Test mit Prüfungsantworten: Kann ich die KI entlarven?

Thu, 29 Dec 2022 00:00:00 +0000

In der finnischen Tageszeitung Helsingin Sanomat diskutieren GPT-3 und Laura Ketonen von der Universität Jyväskylä, wie sich KI auf die Bewertung von Studierenden auswirken wird ( Tekoäly ravistelee opiskelijoiden arviointia , Deutsch: Künstliche Intelligenz bringt die Bewertung von Studierenden ins Wanken). Eine der naheliegenden „Anwendungen“ von KI wäre das Schummeln bei Prüfungen. Lauras Meinungsbeitrag löste zahlreiche Reaktionen aus. Einige entgegneten, dass KI inhaltlosen Text produziere. Andere wiesen darauf hin, dass KI weder Mut noch Eigeninitiative besitze. Es scheint, als würden wir als menschliche Spezies bald mit einem allgemeinen Minderwertigkeitskomplex zu kämpfen haben.In einer naturwissenschaftlichen Prüfungssituation auf BSc- oder MSc-Ebene liegt die Initiative beim Lehrenden, und die Studierenden sind per Definition reaktiv. Wie definiert man leeren Text, wenn man nach einer Erklärung für Glykoengineering fragt? In den Lebenswissenschaften sind Mut und Eigeninitiative wesentliche Eigenschaften für jeden angehenden Wissenschaftler. Doch ohne ein solides Wissensfundament als Grundlage führen Mut und Eigeninitiative selten zu wirkungsvollen neuen Entwicklungen. Derzeit können wir diese Grundlage noch nicht an die KI auslagern. Daher verlangen wir von den Studierenden ein solides Wissensfundament, aus dem Mut und Eigeninitiative schöpfen können, um sich zu entfalten. Vielleicht lassen sich „niedrig hängende Früchte“ allein mit Mut und Eigeninitiative pflücken. Doch die Lösung der heutigen Probleme erfordert darüber hinaus ein solides Fundament an Wissen („auf den Schultern von Riesen stehen“). Bei der Beurteilung von KI machen wir wahrscheinlich dieselben Fehler wie Menschen bei allen neuen Technologien: Wir überschätzen ihre Auswirkungen kurzfristig, unterschätzen sie jedoch langfristig. Immer wieder ist es der (schmalen) KI gelungen, in Bereiche vorzudringen, die zuvor den Menschen vorbehalten waren. Es gibt keinen Grund anzunehmen, dass sich diese Entwicklung nicht fortsetzen wird. Es mag durchaus sein, dass die derzeit vorherrschenden Ansätze der KI (Deep Learning, maschinelles Lernen, neuronale Netze, statistische Ansätze) in Zukunft nicht zu bedeutenden Durchbrüchen in Richtung einer menschenähnlichen allgemeinen KI, vielleicht sogar einer selbstbewussten KI, führen werden. Wir wissen nicht einmal, wie menschliches Bewusstsein entsteht. Andererseits stimme ich Daniel Dennetts Vorstellung zu, dass es vielleicht gar kein „schweres Problem des Bewusstseins“ gibt: Bewusstsein ist das, was man erhält, wenn man alle einfachen Probleme gelöst hat. Wenn jedenfalls eine nicht selbstbewusste KI von einer selbstbewussten KI nicht mehr zu unterscheiden ist – worin besteht dann der Unterschied, und wie könnten wir das überhaupt erkennen? Ich bin mir sicher, dass wir irgendwann auch in der Lage sein werden, unser Wissen vollständig auszulagern. Mit Google haben wir sogar schon erste kleine Schritte in diese Richtung unternommen, aber wir brauchen eine bessere Schnittstelle zwischen Computer und Gehirn, um das Konzept des Wissens-Outsourcings voll und ganz umsetzen zu können. Deep Blue besiegte 1997 den internationalen Großmeister Garry Kasparov. Ich wollte diese Niederlage des Menschen nicht akzeptieren und erklärte die Partie für unfair: Deep Blue stürzte ab und musste während des Sechs-Partien-Turniers einmal neu gestartet werden, was meiner Meinung nach gleichbedeutend damit war, dass der Mensch während der Partie starb (oder zumindest durch Herz-Lungen-Wiederbelebung wiederbelebt wurde). Im Jahr 2016 übertrafen Computer den Menschen im Go-Spiel, und heute schlagen sie Menschen sogar bei Spielen wie Poker, die ausgefeilte psychologische Tricks wie das Bluffen erfordern. Um zu testen, wie sich KI im Vergleich zu Schülern in einer Prüfungssituation schlägt, fügte Patrick den Antworten der Schüler in einer kürzlich durchgeführten Prüfung eine von der KI generierte Antwort hinzu. Diese Idee verlieh der Benotung eine spannende Wendung! Ich glaube, ich wusste, welche Antwort von der KI stammte. Allerdings hatte ich zuvor schon mit GPT-3 experimentiert und wusste, dass die KI – ohne Feinabstimmung – bei der Beantwortung von Fragen übermäßig korrekt und systematisch vorgeht. Bei einer dreiteiligen Frage beantwortet die KI beispielsweise normalerweise systematisch alle drei Teile. Außerdem kannte die KI den genauen Inhalt meiner Vorlesungen nicht, was es relativ einfach machte, die KI-Antwort zu identifizieren. Patrick muss noch verraten, ob ich die KI-Antwort richtig erkannt habe … Die KI (oder das, was ich als KI identifiziert habe) schnitt schlechter ab als der beste Studierende, aber insgesamt hat sie sich wirklich gut geschlagen. Es ist klar, dass sich unsere zukünftigen Prüfungsfragen noch stärker auf kritisches Denken und fiktive Beispiele konzentrieren müssen, die die KI aus ihrem riesigen Pool an Trainingsmaterial nicht kennen kann. Angesichts der zunehmenden Informationsmenge, auf die KI in Zukunft zugreifen wird, kann sie sich jedoch auf das kritische Denken anderer Menschen stützen. Die nächste Generation der KI (ChatGPT-4 und Googles LaMDA) wartet bereits auf ihre Veröffentlichung… Mit ein paar kleinen Anpassungen hätte Patrick mich leicht täuschen können. Vielleicht hat er das ja schon getan … Wenn er die KI angewiesen hat, das Antwortmuster absichtlich zu durchbrechen, und wenn er GPT-3 tatsächlich mit meinen Vorlesungsfolien als Referenzmaterial trainiert hat, sind alle meine Wetten hinfällig. Ich werde euch wissen lassen, ob es mir gelungen ist, die KI-Antworten richtig zu identifizieren, sobald Patrick verrät, welche Antworten von der KI generiert wurden. UPDATE: Ich (ebenso wie die anderen Lehrkräfte) habe die KI-Antworten korrekt identifiziert. Wir waren uns einig, dass wir es nicht bemerkt hätten, wenn man uns nicht darauf hingewiesen hätte, dass eine der Antworten von einer KI generiert wurde. Die Qualität der KI-Antworten hing von der Art der Frage ab. Es schien, als sei es (zum jetzigen Zeitpunkt) relativ einfach, die KI aus der Bahn zu werfen, indem man die zur Beantwortung der Frage benötigten Informationen in grafischer Form bereitstellt. Aber ich bin mir sicher, dass die KI sehr bald lernen wird, Bilder mit Text zu verknüpfen.